金融 Function Calling风控规则引擎 LLM 的联合判决设计一、单靠 LLM 做风控漏掉的是真金白银金融风控场景中决策的正确性直接影响资金安全。一个典型的例子用户提交一笔跨境转账申请。传统风控系统通过规则引擎判断金额超过 5 万、收款方在敏感地区、用户历史无跨境记录 → 触发人工审核。如果把这个决策交给 LLMLLM 可能会综合判断为正常交易——因为它不懂风控规则的优先级和绝对性。但如果纯靠规则引擎又无法处理规则的灰色地带和组合场景。正确的方案是规则引擎做硬约束必定拦截的LLM 做软判断需要上下文理解的。二、联合判决架构联合判决的核心分工规则引擎负责必定拦截的场景LLM负责需要理解上下文的灰色地带三、Go 实现风控联合判决规则引擎package risk import ( context fmt time ) // RiskDecision 风控决策 type RiskDecision string const ( DecisionPass RiskDecision pass // 放行 DecisionReview RiskDecision review // 人工审核 DecisionBlock RiskDecision block // 拒绝 ) // RiskLevel 风险等级 type RiskLevel int const ( RiskNone RiskLevel 0 RiskLow RiskLevel 1 RiskMedium RiskLevel 2 RiskHigh RiskLevel 3 RiskMaximum RiskLevel 4 ) // Transaction 交易信息 type Transaction struct { TransID string UserID string Amount int64 // 金额分 Currency string Direction string // in / out CounterParty string // 交易对手方 CounterPartyRegion string // 交易对手方地区 TransType string // transfer/payment/withdraw Timestamp time.Time } // RuleResult 规则引擎结果 type RuleResult struct { Passed bool RiskLevel RiskLevel HitRules []string // 触发的规则列表 Decision RiskDecision Reason string NeedLLMReview bool // 是否需要 LLM 辅助判断 ContextForLLM map[string]interface{} // 提供给 LLM 的上下文 } // RuleEngine 规则引擎 type RuleEngine struct { rules []RiskRule } type RiskRule interface { Name() string Evaluate(ctx context.Context, tx *Transaction) RuleEvaluation } type RuleEvaluation struct { Triggered bool RiskLevel RiskLevel Reason string } // AmountRule 金额规则 type AmountRule struct { SingleLimitFen int64 // 单笔限额 DailyLimitFen int64 // 日累计限额 } func (r *AmountRule) Name() string { return 金额规则 } func (r *AmountRule) Evaluate(ctx context.Context, tx *Transaction) RuleEvaluation { // 单笔限额检查 if tx.Amount r.SingleLimitFen { return RuleEvaluation{ Triggered: true, RiskLevel: RiskMedium, Reason: fmt.Sprintf(单笔金额 %0.2f 超过限额 %0.2f, float64(tx.Amount)/100, float64(r.SingleLimitFen)/100), } } return RuleEvaluation{Triggered: false} } // RegionRule 地区规则——高风险地区直接拦截 type RegionRule struct { HighRiskRegions []string // 高风险地区清单 } func (r *RegionRule) Name() string { return 地区规则 } func (r *RegionRule) Evaluate(ctx context.Context, tx *Transaction) RuleEvaluation { for _, region : range r.HighRiskRegions { if tx.CounterPartyRegion region { return RuleEvaluation{ Triggered: true, RiskLevel: RiskMaximum, // 最高风险——直接拦截 Reason: fmt.Sprintf(收款方位于高风险地区: %s, region), } } } return RuleEvaluation{Triggered: false} } // FrequencyRule 频率规则 type FrequencyRule struct { DB *Database WindowMinutes int // 时间窗口分钟 MaxTransactions int // 最大交易次数 } func (r *FrequencyRule) Name() string { return 频率规则 } func (r *FrequencyRule) Evaluate(ctx context.Context, tx *Transaction) RuleEvaluation { count : r.DB.CountRecentTransactions(ctx, tx.UserID, r.WindowMinutes) if count r.MaxTransactions { return RuleEvaluation{ Triggered: true, RiskLevel: RiskMedium, Reason: fmt.Sprintf(%d 分钟内交易 %d 次超过阈值 %d, r.WindowMinutes, count, r.MaxTransactions), } } return RuleEvaluation{Triggered: false} } // RunAllRules 运行所有规则汇总结果 func (re *RuleEngine) RunAllRules(ctx context.Context, tx *Transaction) RuleResult { result : RuleResult{ Passed: true, RiskLevel: RiskNone, ContextForLLM: make(map[string]interface{}), } maxRisk : RiskNone for _, rule : range re.rules { eval : rule.Evaluate(ctx, tx) if eval.Triggered { result.HitRules append(result.HitRules, fmt.Sprintf(%s: %s, rule.Name(), eval.Reason)) if eval.RiskLevel maxRisk { maxRisk eval.RiskLevel } } } result.RiskLevel maxRisk // 判决逻辑 switch { case maxRisk RiskMaximum: result.Passed false result.Decision DecisionBlock result.NeedLLMReview false // 直接拦截不需要 LLM case maxRisk RiskHigh: result.Passed false result.Decision DecisionBlock case maxRisk RiskMedium: result.Passed true // 规则层面通过 result.Decision DecisionReview result.NeedLLMReview true // 需要 LLM 做辅助判断 default: result.Decision DecisionPass } return result }LLM 辅助审核// LLMAuditor LLM 辅助风控审核 type LLMAuditor struct { llm LLMClient maxAuditAmount int64 // LLM 参与审核的金额上限超过的直接人工 } // AuditWithLLM 使用 LLM 做辅助判断 func (la *LLMAuditor) AuditWithLLM( ctx context.Context, tx *Transaction, ruleResult RuleResult, historicalContext map[string]interface{}, ) (RiskDecision, string) { // 如果金额超过 LLM 审核上限直接转人工 if tx.Amount la.maxAuditAmount { return DecisionReview, 金额超过 LLM 审核上限转人工审核 } // 构造 LLM Prompt prompt : la.buildAuditPrompt(tx, ruleResult, historicalContext) // LLM 分析 analysis, err : la.llm.Generate(ctx, prompt) if err ! nil { // LLM 不可用保守处理 → 转人工 return DecisionReview, fmt.Sprintf(LLM 分析不可用: %v, err) } // 解析 LLM 建议 suggestion : la.parseLLMSuggestion(analysis) return suggestion.Decision, suggestion.Reason } func (la *LLMAuditor) buildAuditPrompt( tx *Transaction, ruleResult RuleResult, historicalContext map[string]interface{}, ) string { return fmt.Sprintf(你是一个金融风控审核助手。请分析以下交易的风险。 【交易信息】 交易ID: %s 用户ID: %s 金额: %.2f 元 方向: %s 交易对手方: %s (%s) 交易类型: %s 【触发的风控规则】 %s 【用户历史行为】 %s 【分析要求】 1. 结合用户历史行为判断该笔交易是否合理 2. 考虑规则触发的上下文例如用户在出差期间的高频交易可能是正常的 3. 给出你的建议pass放行/ review人工审核/ block拒绝 4. 必须给出明确理由 【注意】 - 不要编造用户历史信息中没有的数据 - 金额规则触发的如果历史同类交易金额接近可能是合理的 - 频率规则触发的如果有合理场景如发薪日集中转账可能是正常的 请以 JSON 格式返回{decision: pass|review|block, reason: ...}, tx.TransID, tx.UserID, float64(tx.Amount)/100, tx.Direction, tx.CounterParty, tx.CounterPartyRegion, tx.TransType, joinStrings(ruleResult.HitRules, \n), formatContext(historicalContext), ) } func (la *LLMAuditor) parseLLMSuggestion(response string) LLMSuggestion { // 解析 LLM 返回的 JSON var suggestion LLMSuggestion // json.Unmarshal 解析 return suggestion } type LLMSuggestion struct { Decision RiskDecision Reason string }联合判决最终决定// RiskController 风控控制器——规则引擎 LLM 联合判决 type RiskController struct { ruleEngine *RuleEngine llmAuditor *LLMAuditor auditLogger *AuditLogger } func (rc *RiskController) EvaluateTransaction( ctx context.Context, tx *Transaction, ) RiskDecision { // 第一步运行规则引擎 ruleResult : rc.ruleEngine.RunAllRules(ctx, tx) // 第二步如果规则引擎直接拦截或放行直接返回 if !ruleResult.NeedLLMReview { rc.auditLogger.LogDecision(ctx, tx, ruleResult.Decision, ruleResult.HitRules) return ruleResult.Decision } // 第三步需要 LLM 辅助判断——收集上下文 historicalContext : rc.collectContext(ctx, tx) // 第四步LLM 辅助分析 llmDecision, llmReason : rc.llmAuditor.AuditWithLLM(ctx, tx, ruleResult, historicalContext) // 第五步最终决定保守策略规则不放行时LLM 最多建议人工审核不能直接放行 var finalDecision RiskDecision switch { case ruleResult.RiskLevel RiskHigh: // 高风险即使用 LLM 说放行仍然拦截 finalDecision DecisionBlock case llmDecision DecisionBlock: finalDecision DecisionBlock case llmDecision DecisionPass ruleResult.RiskLevel RiskMedium: finalDecision DecisionPass default: finalDecision DecisionReview } // 记录审计日志 rc.auditLogger.LogDecision(ctx, tx, finalDecision, append(ruleResult.HitRules, fmt.Sprintf(LLM建议: %s (%s), llmDecision, llmReason))) return finalDecision }四、边界分析与 Trade-offsLLM 不能推翻硬规则地区黑名单触发的拦截LLM 不能推翻——这是合规要求LLM 只能对标记但未拦截的交易做辅助判断LLM 分析的成本与延迟每笔需要 LLM 辅助的交易增加 200-500ms 延迟约 5-10% 的交易会触发 LLM 辅助规则标记但未拦截的成本远低于人工审核但仍需要在延迟和成本之间平衡审查的可解释性规则引擎的输出是规则 ID 条件天然可解释LLM 的输出需要附带推理过程用于后续审计监管机构可能要求展示为什么这笔交易被拦截LLM 幻觉风险LLM 可能编造用户历史行为中的合理解释必须约束 LLM 只能基于提供的上下文做分析不能创造性推理五、总结金融风控的 Function Calling 设计应遵循规则做硬约束LLM 做软判断规则引擎——处理确定的、不容协商的风控规则金额、地区、频率LLM 辅助——处理需要上下文理解的灰色地带模式异常但场景合理联合判决——规则是底线规则说拦截就拦截LLM 是辅助可以在模糊区域建议放行审计完整——每笔交易的决策链路可追溯LLM 在金融风控中的正确角色不是替代规则而是减少人工审核的负担。
