ICS35.240.01 CCSL80 团体标准 T/CFEII0015.3—2023 内容安全检测人工智能系统鲁棒性 测评规范第3部分：文本 Robustnessevaluationspecificationforartificial intelligencesystemsforcontentsecuritydetection-Part 3:Text 2023-12–22发布 2023-12–22实施 中国电子信息行业联合会 发布 全国团体标准信息平台 全国团体标准信息平台 T/CFEII0015.3—2023 I目次 目次...............................................................................I 前言..............................................................................II 1范围.................................................................................1 2规范性引用文件.......................................................................1 3术语和定义...........................................................................1 4缩略语...............................................................................2 5文本内容安全检测人工智能系统测试样本分级.............................................2 6文本内容安全检测人工智能系统鲁棒性分级要求...........................................2 7文本内容安全检测人工智能系统鲁棒性性能测评方法.......................................3 7.1测试样本.........................................................................3 7.2测试流程.........................................................................3 7.3测试方法.........................................................................4 7.4综合评价方法.....................................................................5 附录A（资料性）违法信息和不良信息...............................................6 附录B（资料性）扰动方式示例.....................................................7 参考文献..............................................................................8 全国团体标准信息平台 T/CFEII0015.3—2023 II前言 《内容安全检测人工智能系统鲁棒性测评规范》分为以下4个部分： ——第1部分：图像； ——第2部分：视频； ——第3部分：文本； ——第4部分：音频； 本部分为《内容安全检测人工智能系统鲁棒性测评规范》的第3部分。 本部分按照GB/T1.1—2020给出的规则起草。 请注意本文件的某些内容可能涉及专利。本文件的发布机构不承担识别专利的责任。 本标准由中国电子信息行业联合会提出并归口。 本标准起草单位：国家工业信息安全发展研究中心、国家语音及图像识别产品质量检验检测中心、 中移互联网有限公司、蚂蚁科技集团股份有限公司、同方知网数字出版技术股份有限公司、中科院自 动化所、北京信源电子信息技术有限公司吉安分公司、北京信源电子信息技术有限公司大同分公司、 大同市数字政府服务中心、北京瑞莱智慧科技有限公司、中国科学院信工所、罗克佳华科技集团股份 有限公司、京东科技控股股份有限公司、北京信工博特智能科技有限公司。 本标准主要起草人：朱倩倩、刘永东、李美桃、倪邦杰、王英潮、王冠麟、林冠辰、简葳玙、鲍 晟霖、黄奔辉、刘雨帆、乔思渊、苏进军、韩杰、马国斌、胡嵩智、韦云霞、马多贺、琚敬成、薛学 琴、侯韶君、刘宇光、狄帅、陈鹏、李阳。 全国团体标准信息平台