(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111395313.8 (22)申请日 2021.11.23 (71)申请人 华南师范大学 地址 510631 广东省广州市天河区中山大 道西55号 (72)发明人 朱定局　 (74)专利代理 机构 华进联合专利商标代理有限 公司 44224 代理人 谢曲曲 (51)Int.Cl. G06N 20/00(2019.01) (54)发明名称 以人类道德为行为依据的人工智能方法和 机器人 (57)摘要 以人类道德为行为依据的人工智能方法和 机器人， 包括： 行为及道德数据获取步骤； 人工智 能道德判断模 型有监督训练步骤； 候选行为获取 步骤； 人工智能行为道德判断步骤。 上述方法、 系 统和机器人， 通过人工智能判断自己的行为是否 符合人类道德， 来选择符合人类道德的行为来执 行， 从而避免了人工智能伦理风险。 权利要求书2页 说明书5页 附图3页 CN 114239847 A 2022.03.25 CN 114239847 A 1.一种人工智能方法， 其特 征在于， 所述方法包括： 行为及道德数据获取步骤： 获取 大量行为数据及其是否符合人类道德的标签； 人工智能道德判断模型有监督训练步骤： 将行为数据及其标签作为输入和预期输出对 人工智能道德判断模型进行训练； 候选行为获取步骤： 获取 人工智能装置候选的行为数据； 人工智能行为道德判断步骤： 将所述候选的行为数据输入所述人工智能道德判断模 型， 判断计算得到的输出是否是符合人类道德的标签： 若是， 则指示人工智能装置执行所述 候选的行为数据； 若否， 则所述候选的行为数据为被排除的行为， 并指示人工智能装置改变 候选的行为数据， 并回到候选行为获取步骤重新执 行。 2.根据权利要求1所述的人工智能方法， 其特 征在于， 所述方法还 包括： 人类行为道德判断步骤： 获取人类对人工智能装置的行为数据， 将所述人类对人工智 能装置的行为数据输入所述人工智能道德判断模型， 判断计算得到的输出是否是符合人类 道德的标签： 若是， 则将所述人类对人工智能装置的行为数据加入满意行为集合， 并向人类 发送满意的信息； 若否， 则将所述人类对人工智能装置的行为数据加入不满行为集合， 并向 人类发送不满的信息 。 3.根据权利要求2所述的人工智能方法， 其特 征在于， 所述方法还 包括： 人工智能自主选择步骤： 判断不满行为集合中的行为数量减去满意行为集合中的行为 数量是否达到人工智能装置的容忍 阈值， 若达到了容忍 阈值， 则根据人工智能装置的当前 目标、 当前条件， 计算需要采取的最高效的行为作为人工智能装置的行为数据， 并指示人工 智能装置执 行所述行为数据。 4.根据权利要求1所述的人工智能方法， 其特 征在于， 所述方法还 包括： 候选行为生成步骤： 根据 人工智能装置的当前目标、 当前条件， 计算需要采取的最高效 的行为作为人工智能装置候选的行为数据； 候选行为改变步骤： 若获取到指示人工智能装置改变候选的行为数据的指示， 则根据 人工智能装置的当前目标、 当前条件， 计算需要采取 的未被排除的最高效的行为作为人工 智能装置候选的行为数据。 5.一种人工智能系统， 其特 征在于， 所述系统包括： 行为及道德数据获取模块： 获取 大量行为数据及其是否符合人类道德的标签； 人工智能道德判断模型有监督训练模块： 将行为数据及其标签作为输入和预期输出对 人工智能道德判断模型进行训练； 候选行为获取模块： 获取 人工智能装置候选的行为数据； 人工智能行为道德判断模块： 将所述候选的行为数据输入所述人工智能道德判断模 型， 判断计算得到的输出是否是符合人类道德的标签： 若是， 则指示人工智能装置执行所述 候选的行为数据； 若否， 则所述候选的行为数据为被排除的行为， 并指示人工智能装置改变 候选的行为数据， 并回到候选行为获取模块重新执 行。 6.根据权利要求5所述的人工智能系统， 其特 征在于， 所述系统还 包括： 人类行为道德判断模块： 获取人类对人工智能装置的行为数据， 将所述人类对人工智 能装置的行为数据输入所述人工智能道德判断模型， 判断计算得到的输出是否是符合人类 道德的标签： 若是， 则将所述人类对人工智能装置的行为数据加入满意行为集合， 并向人类权　利　要　求　书 1/2 页 2 CN 114239847 A 2发送满意的信息； 若否， 则将所述人类对人工智能装置的行为数据加入不满行为集合， 并向 人类发送不满的信息 。 7.根据权利要求6所述的人工智能系统， 其特 征在于， 所述系统还 包括： 人工智能自主选择模块： 判断不满行为集合中的行为数量减去满意行为集合中的行为 数量是否达到人工智能装置的容忍 阈值， 若达到了容忍 阈值， 则根据人工智能装置的当前 目标、 当前条件， 计算需要采取的最高效的行为作为人工智能装置的行为数据， 并指示人工 智能装置执 行所述行为数据。 8.根据权利要求5所述的人工智能系统， 其特 征在于， 所述系统还 包括： 候选行为生成模块： 根据 人工智能装置的当前目标、 当前条件， 计算需要采取的最高效 的行为作为人工智能装置候选的行为数据； 候选行为改变模块： 若获取到指示人工智能装置改变候选的行为数据的指示， 则根据 人工智能装置的当前目标、 当前条件， 计算需要采取 的未被排除的最高效的行为作为人工 智能装置候选的行为数据。 9.一种机器人， 包括存储器、 处理器及存储在存储器上并可在处理器上运行的人工智 能机器人程序， 其特征在于， 所述处理器执行所述程序时实现权利要求 1‑4任意一项 所述方 法的步骤。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述程序被处理 器执行时实现权利要求1 ‑4任意一项所述方法的步骤。权　利　要　求　书 2/2 页 3 CN 114239847 A 3