(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210746959.4 (22)申请日 2022.06.29 (71)申请人 浪潮云信息技 术股份公司 地址 250100 山东省济南市高新区浪潮路 1036号浪潮科技园S01号楼 (72)发明人 荣广胜　魏金雷　李明明　潘心冰　 (74)专利代理 机构 济南信达专利事务所有限公 司 37100 专利代理师 孙晶伟 (51)Int.Cl. G06F 16/35(2019.01) G06K 9/62(2022.01) G06F 40/289(2020.01) G06F 40/30(2020.01) G06N 3/04(2006.01)G06N 3/08(2006.01) (54)发明名称 基于深度学习技术对文本进行分类的方法 和系统 (57)摘要 本发明公开基于深度学习技术对文本进行 分类的方法和系统， 涉及文本分类技术领域； 利 用文本数据构建并训练深度学习的文本分类模 型， 其中构建文本分类模型的词嵌入层进行词信 息表征， 使用双层的bi ‑GRU网络构建文本分类模 型的网络提取层提取文本的表征语义信息， 输出 所述网络提取层的提取结果至注 意力模型， 构建 文本分类模型的注意力模型接收提取结果并对 表征语义信息进行处理和分类， 使用tornado框 架封装文本分类模型， 提供分类接口， 用于文本 分类。 权利要求书2页 说明书5页 附图3页 CN 115238069 A 2022.10.25 CN 115238069 A 1.基于深度 学习技术对文本进行分类的方法， 其特征是利用文本数据构建并训练深度 学习的文本分类模型， 其中构建文本分类模型的词嵌入层进行词信息表征， 使用双层的bi ‑GRU网络构建文本分类模型的网络提取层提取文本的表征语义信息， 输 出所述网络提取层的提取 结果至注意力模型， 构建文本分类模型的注意力模型接收提取 结果并对表征语义信息进行处 理和分类， 使用tornado框架封装文本分类模型， 提供分类接口， 用于文本分类。 2.根据权利要求1所述的基于深度学习技术对文本进行分类的方法， 其特征是所述利 用文本数据构建并训练深度学习的文本分类模型之前， 包括： 获取文本数据， 对文本数据进行 预处理。 3.根据权利要求1所述的基于深度学习技术对文本进行分类的方法， 其特征是所述使 用双层的bi‑GRU网络构建文本分类模型的网络提取层， 包括： 添加激活层， 激活函数为tanh， 对激活层输出的结果进行dropout， 防止结果过拟合。 4.根据权利要求1所述的基于深度学习技术对文本进行分类的方法， 其特征是所述构 建文本分类模型的注意力模型， 包括： 构建注意力模型的全连接层Wa和全连接层Wc， 增加注意力模型的dropout层和softmax层， 通过全连接层Wa和全连接层Wc， 以及 dropout层和softmax层进行文本分类。 5.根据权利要求1所述的基于深度学习技术对文本进行分类的方法， 其特征是所述训 练深度学习的文本分类模型， 包括： 通过反向传播优化文本分类模型的参数， 判断迭代条件， 当满足文本分类模型 更新的条件时， 进行文本分类模型的更新。 6.基于深度学习技术对文本进行分类的系统， 其特征是包括构建模块和部署分类模 块， 构建模块利用文本数据构建并训练深度学习的文本分类模型， 其中构建模块构建文本 分类模型的词嵌入层进行词信息表征， 使用双层的bi ‑GRU网络构建文本分类模型的网络提取层提取文本的表征语义信息， 输 出所述网络提取层的提取 结果至注意力模型， 构建文本分类模型的注意力模型接收提取 结果并对表征语义信息进行处 理和分类， 部署分类模块使用tornado框架封装文本分类模型， 提供分类接口， 用于文本分类。 7.根据权利要求6所述的基于深度学习技术对文本进行分类的系统， 其特征是所述构 建模块利用文本数据构建并训练深度学习的文本分类模型之前， 包括： 获取文本数据， 对文本数据进行 预处理。 8.根据权利要求6所述的基于深度学习技术对文本进行分类的系统， 其特征是所述构 建模块使用双 层的bi‑GRU网络构建文本分类模型的网络提取层， 包括： 添加激活层， 激活函数为tanh， 对激活层输出的结果进行dropout， 防止结果过拟合。 9.根据权利要求6所述的基于深度学习技术对文本进行分类的系统， 其特征是所述构 建模块构建文本分类模型的注意力模型， 包括： 构建注意力模型的全连接层Wa和全连接层Wc， 增加注意力模型的dropout层和softmax层， 通过全连接层Wa和全连接层Wc， 以及权　利　要　求　书 1/2 页 2 CN 115238069 A 2dropout层和softmax层进行文本分类。 10.根据权利要求6所述的基于深度 学习技术对文本进行分类的系统， 其特征是所述构 建模块训练深度学习的文本分类模型， 包括： 通过反向传播优化文本分类模型的参数， 判断迭代条件， 当满足文本分类模型 更新的条件时， 进行文本分类模型的更新。权　利　要　求　书 2/2 页 3 CN 115238069 A 3