(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111394220.3 (22)申请日 2021.11.23 (71)申请人 华南师范大学 地址 510631 广东省广州市天河区中山大 道西55号 (72)发明人 朱定局　梁翰韬　范龙妹　贾杨春　 (74)专利代理 机构 华进联合专利商标代理有限 公司 44224 代理人 谢曲曲 (51)Int.Cl. G06N 20/00(2019.01) G06F 30/27(2020.01) G06F 30/12(2020.01) G06F 111/20(2020.01) (54)发明名称 人工智能机 器人伦理仿真方法和系统 (57)摘要 人工智能机器人伦理仿真方法和系统， 包 括： 获取模块； 训练模块； 判断模块； 比较模块； 防 范模块。 上述方法、 系统和机器人， 通过登陆者将 观看网页展示的各类逼真的场景动画， 并扮演一 个智能体， 在数个 关于伦理道德的问题之中做出 选择， 机器人将会对这些数据进行学习和分析， 最后形成一套符合普遍伦理的价值观， 进而避免 和防范人工智能伦理风险。 权利要求书2页 说明书7页 附图3页 CN 114239846 A 2022.03.25 CN 114239846 A 1.一种人工智能方法， 其特 征在于， 所述方法包括： 获取场景动画； 获取用户所扮演的智能体； 获取与场景动画相关的数个关于伦理道德的问题； 获取用户在所述数个关于伦理道德的问题之中做出的选择； 将所述问题和所述选择作为训练样本； 将所述训练样本传到云端； 在云端利用所述训练样本进行聚类学习后得到行为 准则模型。 2.根据权利要求1所述的人工智能方法， 其特征在于， 所述在 云端利用所述训练样本进 行聚类学习后得到行为 准则模型的步骤 包括： 利用深度 学习框架对部分样本进行机器学习， 再用剩下的部分样本检验训练出来的模 型进行检验， 并根据检验结果跟一个具有正常道德伦理的普通人 的决定进行比较， 若差异 小于预设比例可认为模型完成， 否则重新训练。 3.根据权利要求1所述的人工智能方法， 其特 征在于， 所述方法还 包括： 根据所述行为准则对测试者在同样场景下的决定进行判断， 分析测试者是否产生行为 准则偏差， 若产生行为偏差， 则将所述行为准则发送给测试者， 并提醒测试者改变自己的观 念。 4.根据权利要求1所述的人工智能方法， 其特 征在于， 所述方法还 包括： 利用训练好的模型对每个场景下的每一个选项进行分数等级分配； 对用户的选择进行 分数累加， 计算用户的总分， 得到用户的个人道德观与世 俗的道德观之间的差异程度。 5.根据权利要求1所述的人工智能方法， 其特 征在于， 所述方法还 包括： 将所述行为 准则作为智能体 应遵循的道德准则模型； 判断智能体的行为是否违背了道德准则模型； 若智能体的行为违背了道德准则， 则降低智能体当前行为的优先级， 并激活其他智能 体的“责备”情绪， 提醒其 他智能体 远离所述智能体。 6.一种人工智能系统， 其特 征在于， 所述系统包括： 获取模块： 获取场景动画； 获取用户所扮演的智能体； 获取与场景动画相关的数个关于 伦理道德的问题； 获取用户在所述数个关于伦理道德的问题之中做出的选择； 训练模块： 将所述问题和所述选择作为训练样本； 将所述训练样本传到云端； 在 云端利 用所述训练样本进行聚类学习后得到行为准则模型； 具体包括利用深度学习框架对部 分样 本进行机器学习， 再用剩 下的部分样本检验训练出来的模型进行检验， 并根据检验结果跟 一个具有正常道德伦理的普通人 的决定进行比较， 若差异小于预设比例可认为模型完成， 否则重新训练。 7.根据权利要求6所述的人工智能系统， 其特 征在于， 所述系统还 包括： 判断模块： 根据所述行为准则对测试者在同样场景下的决定进行判断， 分析测试者是 否产生行为准则偏差， 若产生行为偏差， 则将所述行为准则发送给测试者， 并提醒测试者改 变自己的观念； 比较模块： 利用训练好的模型对每个场景下的每一个选项进行分数等级分配； 对用户 的选择进行分数累加， 计算用户的总分， 得到用户的个人道德观与世俗的道德观之间的差权　利　要　求　书 1/2 页 2 CN 114239846 A 2异程度。 8.根据权利要求6所述的人工智能系统， 其特 征在于， 所述系统还 包括： 防范模块： 将所述行为准则作为智能体应遵循的道德准则模型； 判断智能体的行为是 否违背了道德准则模型； 若智能体的行为违背了道德准则， 则降低智能体当前行为的优先 级， 并激活其 他智能体的 “责备”情绪， 提醒其 他智能体 远离所述智能体。 9.一种机器人， 包括存储器、 处理器及存储在存储器上并可在处理器上运行的人工智 能机器人程序， 其特征在于， 所述处理器执行所述程序时实现权利要求 1‑5任意一项 所述方 法的步骤。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述程序被处理 器执行时实现权利要求1 ‑5任意一项所述方法的步骤。权　利　要　求　书 2/2 页 3 CN 114239846 A 3