(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210768901.X (22)申请日 2022.07.01 (71)申请人 大连大学 地址 116622 辽宁省大连市经济技 术开发 区学府大街10号 (72)发明人 钟兆前　车超　刘媛媛　 (74)专利代理 机构 大连智高专利事务所(特殊 普通合伙) 2123 5 专利代理师 盖小静 (51)Int.Cl. G06F 16/9535(2019.01) G06F 16/28(2019.01) G06F 16/36(2019.01) G06N 3/04(2006.01) G06N 3/08(2006.01)G06Q 30/06(2012.01) (54)发明名称 一种融合GN N和ResNet的知识图谱推荐方法 (57)摘要 本发明公开了一种融合 GNN和ResNet的知识 图谱推荐方法， 包括： 通过GNN模型分别嵌入用户 项目二分图中的用户表示和知识图谱中的项目 表示； 在GNN模型每层的输出向量间添加残差连 接， 使得各层结点表示均具有区分度， 以此保证 每个节点的唯一性和独特性； 基于门控的插值混 合和分层采样相结合方式获取包含丰富信息的 高质量难负样本； 将所述用户表 示和项目表示进 行加和池化操作生成用于预测的用户嵌入表示 和项目嵌入表 示； 通过所述用户嵌入表示和项目 嵌入表示， 得到预测的匹配分数， 并基于匹配分 数进行推荐。 本发明有效缓解了GNN层数增加所 带来的过平滑问题； 提高了推荐模 型的泛化能力 和鲁棒性， 使推荐结果更为准确且 具有个性化的 优点。 权利要求书1页 说明书6页 附图3页 CN 115114528 A 2022.09.27 CN 115114528 A 1.一种融合GN N和ResNet的知识图谱推荐方法， 其特 征在于， 包括： 通过GNN模型分别嵌入用户项目二分图中的用户表示和知识图谱中的项目表示； 在GNN模型每层的输出向量间添加残差连接， 使得各层结点表示均具有区分度， 以此保 证每个节点的唯一 性和独特性； 基于门控的插值混合和分层采样相结合方式获取包 含丰富信息的高质量难负 样本； 将所述用户表示和项目表示进行加和池化操作生成用于预测的用户嵌入表示和项目 嵌入表示； 通过所述用户嵌入表示和项目嵌入表示， 得到预测的匹配分数， 并基于匹配分数进行 推荐。 2.根据权利要求1所述一种融合GNN和ResNet的知识图谱推荐方法， 其特征在于， 通过 GNN模型分别嵌入用户项目二分图中的用户表示和知识图谱中的项目表示， 具体为： 在用户项目二分图中提取用户表示作为GNN模型的输入： 通过注意力机制在传播过程 中学习每个邻居的权重， 为不同的用户融合不同量的意图信息， 以保证不同意图对用户表 示的贡献不同， 从而更好的学习用户偏好； 在知识图谱中提取项目表示作为GNN模型的输入： 在聚合项目邻居信息时融入关系信 息， 集成来自连接实体的关系感知信息以生成项目的表示。 3.根据权利要求1所述一种融合GNN和ResNet的知识图谱推荐方法， 其特征在于， 所述 残差连接是将GN N模型前一层网络的项目表示加到当前层， 使得每 个结点都具有唯一 性。 4.根据权利要求1所述一种融合GNN和ResNet的知识图谱推荐方法， 其特征在于， 基于 门控的插值混合和分层采样相结合方式获取包 含丰富信息的高质量难负 样本， 具体为： 根据负采样方式随机选择n个项目组成大小为n*(L+1)的候选负样本集合ε， 其中每个 候选负样本n∈ ε 都包 含L层GNN模型输出的L+1个向量表示； 将正样本 加入至候选负 样本集合 ε 中， 以构成虚拟候选负 样本集合 通过门控单元自适应地学习正负样本的混合比例， 通过维度重加权学习一个非线性 门， 以特征粒度调整正负 样本混合比例； 选择与用户内积得分最大的一个负 样本作为该层的负采样结果表示； 对于GNN模型的每一层l， 0≤l≤L,从 采样候选负样本嵌入 其包含候选负样本 集合 ε所有层的嵌入表示。 5.根据权利要求1所述一种融合GNN和ResNet的知识图谱推荐方法， 其特征在于， 通过 所述用户嵌入表示和项目嵌入表示， 得到预测的匹配分数， 具体为： 对用户嵌入表示 和项目嵌入表示 进行内积， 以预测其匹配分数 使用成对BPR损失来重建历史数据， 即给定用户u的历史项目预测分数 应高于未观 察到的项目预测分数 结合负采样损失 和BPR损失 最小化目标函数 来学习预测模型参数。权　利　要　求　书 1/1 页 2 CN 115114528 A 2一种融合GN N和ResNet的知识图谱推荐方 法 技术领域 [0001]本发明涉及智能深度学习推荐技术领域， 具体涉及一种融合GNN和ResNet的知识 图谱推荐方法。 背景技术 [0002]从电子商务、 社交平台到新闻网站， 信息过载是处理海量信息时必须面对的一个 严重问题。 推荐系统为减轻信息过载的不利影响提供了关键支持， 经典的协同过滤假设具 有相似行为的用户可能对项目有相似偏好， 但无法对辅助信息进行建模， 因此存在稀疏性 和冷启动问题。 [0003]在各种辅助信息中， 知识图谱之间丰富的语义关联有助于探索项目与项目之间的 潜在联系， 提高推荐结果的准确性； 知识图谱中各种类型 的关系有助于扩展用户的兴趣偏 好， 并增加推荐项目的多样性； 知识图谱连接用户的历史喜好和待推荐项目， 从而增强了推 荐系统的可解释性。 [0004]为了利用知识图谱信息， 研究者们开发出了许多基于知识图谱的推荐系统， 并探 索出以端到端的方式对高阶关系进行建模， 递归的传播来自邻居节点的嵌入。 这些方法通 过多层图神经网络 建模高阶的项目连接信息以挖掘潜在的项目属性， 充分利用了知识图谱 所包含的丰富信息 。 [0005]上述方法虽然利用高阶信息对关系建模取得了不错的推荐效果， 但是仍然存在着 一些问题： 1)过平滑问题的影响。 这些方法大都使用多层GNN来建模关系， 但随着GNN层数的 增加， 不可避免的会出现过平滑问题， 使 得各个结点的表 示趋于一致。 2)不充分不完善的负 采样影响。 合理的负样本能够让推荐系统学习到有效的信息， 而现实应用场景中大多数互 动都是以隐式反馈的形式进行， 这给推荐模型的学习带来了根本性的挑战。 发明内容 [0006]本发明的目的在 于， 提供一种融合GNN和ResNet的知识图谱推荐方法， 通过残差网 络缓解深层网络带来的过平滑问题， 同时利用虚拟难负样本增强模型区分正负样本边界的 能力， 提升模型的推荐性能和泛化能力。 [0007]为实现上述目的， 本申请提出一种融合GN N和ResNet的知识图谱推荐方法， 包括： [0008]通过GNN模型分别嵌入用户项目二分图中的用户表示和知识图谱中的项目表示； [0009]在GNN模型每层的输出向量间添加残差连接， 使得各层结点表示均具有区分度， 以 此保证每个节点的唯一 性和独特性； [0010]基于门控的插值混合和 分层采样相结合方式获取包含丰富信息的高质量难负样 本； [0011]将所述用户表示和项目表示进行加和池化操作生成用于预测的用户嵌入表示和 项目嵌入表示； [0012]通过所述用户嵌入表示和项 目嵌入表示， 得到预测的匹配分数， 并基于匹配分数说　明　书 1/6 页 3 CN 115114528 A 3