(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210532698.6 (22)申请日 2022.05.16 (71)申请人 重庆大学 地址 400030 重庆市沙坪坝区沙正 街174号 (72)发明人 张程　胡寒阳　黄嘉豪　李玉春　 刘慧君　周明强　 (74)专利代理 机构 杭州知学知识产权代理事务 所(普通合伙) 33356 专利代理师 张雯 (51)Int.Cl. G06Q 30/06(2012.01) G06F 16/9535(2019.01) G06F 40/30(2020.01) G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 基于评论信息和评分矩阵的商品推荐 方法、 系统及设备 (57)摘要 本发明提供了基于评论信息和评分矩阵的 商品推荐方法、 系统及设备， 方法包括： 获取用户 评论集和商品评论集， 利用结合BERT和注意力机 制的双向GRU模型提取评论文本用户特征和评论 文本商品特征； 对评分矩阵进行填充， 采用 深度 矩阵分解对填充后的评分矩阵进行处理， 提取高 阶潜在的评分矩 阵用户特征和评分矩 阵商品特 征； 利用结合因子分解机FM和多层感知机MLP的 融合模块对提取的特征进行融合， 得到用户特征 和商品特征， 根据用户特征和商品特征对评分进 行预测， 并基于预测评分进行商品推荐； 本发明 采用基于评论信息和评分矩阵的商品推荐方法， 从根源上解决了现有的特征挖掘不够彻底、 特征 融合不够充分， 导致商品推荐准确性不高、 用户 满意度低的问题。 权利要求书4页 说明书12页 附图4页 CN 114926239 A 2022.08.19 CN 114926239 A 1.一种基于 评论信息和评分矩阵的商品推荐方法， 其特 征在于， 包括 步骤： S1、 获取用户评论集， 利用结合BERT和注意力机制的双向GRU模型提取评论文本中的评 论文本用户特征Utext， 具体为： 利用对用户评论建模的网络Netu对用户的评论进行处理， 得 到评论文本用户特征Utext， 其中， 所述网络Netu包括词嵌入层、 编码层、 注意力层和全连接 层； 具体包括： S11、 从所述用户评论集中选取预设数量的评论， 并将选取的评论输入至词嵌入层的 BERT进行映射， 得到用户评论向量， 其中， BERT为基于Transformer的双向编码器表示； S12、 将所述用户评论向量输入至编码层， 利用GRU来对所述用户评论向量进行编码， 得 到双向GRU的隐藏状态； S13、 将所述隐藏状态输入至注意力层， 根据所述隐藏状态， 基于注意力机制得到用户 评论集的整体特 征表示； S14、 将所述用户评论集的整体特征表示输入至全连接层， 基于所述用户评论集的整体 特征表示， 得到 评论文本用户特 征Utext； S2、 获取商品评论集， 利用结合BERT和注意力机制的双向GRU模型提取评论文本中的评 论文本商品特 征Itext； S3、 构建用户 ‑商品评分矩阵， 利用Slop e One方法对所述评分矩阵进行矩阵填充后， 基 于深度矩阵分解获得评分矩阵用户特 征Udmf和评分矩阵商品特 征Idmf； 具体包括如下步骤： S31、 构建用户 ‑商品评分矩阵； S32、 利用Slope  One方法对所述评分矩阵进行矩阵填充， 包括计算评分差均值与预测 评分， 具体地， 评分差均值devij的计算公式如下式： 其中， rui和ruj表示用户u对商品i和商 品j的评分， N(i)和N(j)分别表示评价过项目i和 商品j的用户集 合； 得到评分差均值后结合用户对已评价商品的评分， 计算用户对未评分商品的预测评 分， 计算公式如下： 其中， N(u)表示用户u评价过的商品的集 合； 利用预测评分对所述用户 ‑商品评分矩阵进行填充， 得到填充后的评分矩阵Y ′； S33、 将所述评分矩阵Y ′进行处理得到编码层的输入Y ′i*和Y′*j， 其中， Y′i*代表当前用 户对所有商品的评分， 而Y ′*j表示所有用户对当前商品的评分； 并将Y ′i*和Y′*j分别输入两 个多层感知机M LPu和MLPi进行非线性映射， 得到评分矩阵用户特征Udmf和评分矩阵商品特征 Idmf； 其中， 两个多层感知机各包 含N个隐藏层， 计算方法相同， 具体如下式： l1＝W1x li＝f(Wili‑1+bi)， i∈[2， N ‑1] h＝f(WNlN‑1+bN) 式中， li表示隐藏层， Wi表示第i层的权重， bi表示第i层的偏置项， 采用ReLU作为激活函权　利　要　求　书 1/4 页 2 CN 114926239 A 2数， 该函数的定义如下式： f(x)＝max(0， x) 将用户评分矩阵Y ′i*和商品评分矩阵Y ′*j按照所述多层感知机进行处理， 得到用户隐向 量pi和商品隐向量qj， 具体的计算方法如下式： 并将用户隐向量pi， 记作Udmf， 商品隐向量qj， 记作Idmf， Udmf和Idmf即为深度 矩阵分解部分 的输出特征； S4、 利用结合因子分解机FM和多层感知机MLP的融合模块对所述特征Utexr、 Itext、 Udmf、 Idmf进行处理， 得到最终的用户特征Uhigh和商品特征Ihigh， 并根据所述用户特征Uhigh和所述 商品特征Ihigh对评分进行 预测， 得到用户对商品的预测评分； S41、 利用权重因子α 对向量Utext和Udmf， Itext和Idmf进行结合， 得到用户原始特征Uraw和商 品原始特征Iraw， 计算方式如下： Uraw＝α Utext⊙(1‑α )Udmf Iraw＝α Itext⊙(1‑α )Idmf 其中⊙表示将两个相同维度的向量间对应元 素相加； S42、 将Uraw和Iraw分别输入到因子分解机， 通过如下式子， 计算得到用户低阶特征Ulow和 商品低阶特 征Ilow： 式中， w0表示全局偏置， wi表示原始特征Uraw中第i项的权重， vif表示向量vi和向量vf之 间的点积； S43、 将Ulow和Ilow分别输入到多层感知机， 利用下式计算得到用户高阶特征Uhigh和项目 高阶特征Ihigh： 第i层， 代表该层的输出向量， σ(i)代表激活函数， W(i)表示权重向量， b(i)表示偏置 向量； 同时， 计算中选择ReLU函数作为激活函数， H代 表感知机中隐藏层的层数； S44、 将Uhigh和Ihigh作为全连接层的输入， 按下式计算得到用户对项目的预测评分 其中， 计算符号表示特征向量的对应位置元素相乘， W是权重矩阵， bu和bi分别为用户 和项目的偏差， μ为全局偏差； S5、 基于所述用户对商品的预测评分， 生成商品推荐列表， 为用户进行商品推荐。权　利　要　求　书 2/4 页 3 CN 114926239 A 3