(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 20221048725 6.4 (22)申请日 2022.05.06 (71)申请人 上海交通大 学宁波人工智能研究院 地址 315012 浙江省宁波市海曙区南门街 道南站西路2 9号 (72)发明人 苗雨提　王冠　杨根科　褚健　 (74)专利代理 机构 上海剑秋知识产权代理有限 公司 31382 专利代理师 徐浩俊　徐海兵 (51)Int.Cl. G06Q 40/02(2012.01) G06K 9/62(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种金融风控领域的检测交互特征的模型 可解释方法 (57)摘要 本发明公开了一种金融风控领域的检测交 互特征的模 型可解释方法， 涉及图神经网络技术 与模型可解释领域， 所述方法包括以下步骤： 步 骤1、 根据已有的训练特征和训练标签训练一个 加性模型； 步骤2、 使用交互特征检测模块检测存 在的交互特征对， 使用得到的所述交互特征对、 所述训练标签和所述步骤1的残差再构造一个 GAM模型， 再将所述加性模型和所述GAM模型相 加， 得到一个包含所述交互特征对的GAM2模型； 步骤3、 根据高阶交互存在当且仅当其所有低阶 交互均存在的原则， 对所述GAM2模型进行多轮迭 代， 直到某轮迭代交互特征阶数不再增加， 得到 一个GAMn模型； 步骤4、 实现可视化与报告导出。 权利要求书2页 说明书7页 附图1页 CN 114742643 A 2022.07.12 CN 114742643 A 1.一种金融风控领域的检测 交互特征的模型可解释方法， 其特征在于， 所述方法包括 以下步骤： 步骤1、 根据已有的训练特征和训练标签训练一个加性模型， 所述加性模型的分类器表 示为F(x)： F(x)＝∑fi(xi) 其中， F(x)∈[0， 1]， xi为所述训练特征或所述训练标签， fi(xi)为每一个xi对整体预测 结果的贡献度； 步骤2、 使用交互特征检测模块检测存在的交互特征对， 使用得到的所述交互特征对、 所述训练标签和所述步骤1的残差再构造一个GAM模型， 再将所述加性模型和所述GAM模型 相加， 得到一个包 含所述交 互特征对的GAM2模型， 所述GAM2模型的分类 器表示为F2(x)： 其中， F2(x)∈[0， 1]， En为所述交互特征检测模块检测出的所述交互特征对的集合， {i， j}表示其中的任一所述交互特征对， fij为针对所述交互特征对{ i， j}∈En中的关于xi、 xj的 变换函数； 步骤3、 根据高阶交互存在当且仅 当其所有低阶交互均存在的原则， 对所述GAM2模型进 行多轮迭代， 直到某轮迭代交互特征阶数不 再增加， 得到一个GAMn模型， 所述GAMn模型包含n 阶交互的分类 器表示为Fn(x)： 其中， Fn(x)∈[0， 1]， n阶交 互的最高阶是n， (xi， xj， ...xn)表示一组高维交 互特征； 步骤4、 实现可视化与报告导出。 2.如权利要求1所述的金融风控领域的检测交互特征的模型可解释方法， 其特征在于， 所述步骤2中的所述交 互特征检测模块是基于图神经网络 。 3.如权利要求2所述的金融风控领域的检测交互特征的模型可解释方法， 其特征在于， 所述交互特征检测模块中的所述图神经网络为L0‑SIGN模型， 包括一个L0‑边检测模型与一 个SIGN模型。 4.如权利要求3所述的金融风控领域的检测交互特征的模型可解释方法， 其特征在于， 所述L0‑SIGN模型的输入是一个不包含边信息的图， 其中， 每一个所述训练特征为一个节点 Xn， 所述训练特 征之间的交 互对应各 条边En， 即一个数据样本n是一个图表示 为： Gn(Xn， En) 其中， (en)ij∈{1， 0} 其中， 1表示{i， j}之间存在一条边， 0表示{i， j}之间不存在交 互。 5.如权利要求4所述的金融风控领域的检测交互特征的模型可解释方法， 其特征在于， 在预测过程中， 所述L0‑边检测模型Fep(Xn； ω)用于分析所述图中的边是否存在， 其中， ω为权　利　要　求　书 1/2 页 2 CN 114742643 A 2Fep的参数， 输出为 一个边集合E′n。 6.如权利要求5所述的金融风控领域的检测交互特征的模型可解释方法， 其特征在于， 所述L0‑边检测模型 是一个单独的检测模块， 使用矩阵分解法方法。 7.如权利要求5所述的金融风控领域的检测交互特征的模型可解释方法， 其特征在于， 所述SIGN模型为一个图分类器， 提供基于Gn(Xn， E′n)的预测结果， 再通过L0正则化， 限制检 测到的所述交 互特征对的数量。 8.如权利要求7所述的金融风控领域的检测交互特征的模型可解释方法， 其特征在于， 所述L0‑SIGN模型对由边连接的初始节点进行交互建模， 再通过汇总所有相应的建模结果 来更新每个所述初始节点的表示， 最后， 对所有 更新后的所述初始节点表征进 行汇总， 得到 最终的预测。 9.如权利要求8所述的金融风控领域的检测交互特征的模型可解释方法， 其特征在于， 所述SIGN模型会得到一个预测函数fs， 用于预测分类结果， 再在随机梯度下降迭代法拟合 参数的过程中使用所述L0正则化得到最 终的用于预测分类结果的预测函数fLS， 所述SIGN模 型预测函数的一般形式是： 其中， 所述预测函数fS为没有经过正则化的预测函数， 所述预测函数fLS为经过所述L0正 则化处理的所述预测函数fS， θ 为所述图神经网络中的参数集 合。 10.如权利要求4所述的金融风控领域的检测交互特征的模型可解释方法， 其特征在 于， 最初的输入不需要边信息， 权　利　要　求　书 2/2 页 3 CN 114742643 A 3