(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210315323.4 (22)申请日 2021.12.31 (62)分案原申请数据 202111653883.2 2021.12.31 (71)申请人 杭州雄迈集成电路技 术股份有限公 司 地址 311400 浙江省杭州市富阳区银湖街 道富闲路9号银湖创新中心 9号楼四层 (72)发明人 朱旭东　吴春选　 (74)专利代理 机构 杭州裕阳联合专利代理有限 公司 33289 专利代理师 张解翠 (51)Int.Cl. G06N 3/063(2006.01) G06N 3/04(2006.01)G06K 9/62(2022.01) (54)发明名称 一种基于神经网络编译器的仿真实现方法 (57)摘要 本申请公开了一种基于神经网络编译器的 仿真实现方法， 涉及深度学习技术领域， 其中， 基 于神经网络编译器的仿真实现方法包括 以下步 骤： 量化集图片通过神经网络编译器对神经网络 模型进行量化生成可执行文件， 万人测试集通过 神经网络编译器生成第一输入数据、 第一定点特 征文件和浮点特征文件， 若精度表格的统计结果 符合预设的精度范围， 则读取可执行文件和第一 输入数据进行神经网络模型的仿真。 有益效果在 于实现多个不同类型的神经网络模型的批量仿 真， 确保移植到芯片或FPGA 的正确性， 针对不同 类型的神经网络模型逐层进行仿真， 覆盖了更多 的仿真验证点， 防止芯片流片 的风险， 同时用于 统计神经网络模型的精度表格进行了全面的精 度验证。 权利要求书2页 说明书9页 附图1页 CN 114676830 A 2022.06.28 CN 114676830 A 1.一种基于神经网络编译器的仿真实现方法， 其特 征在于， 包括以下步骤： 构建神经网络编译器， 用于接收量化集图片、 多个不同类型的神经网络模型以及万人 测试集， 搭建所述神经网络编译器的环境， 安装所述神经网络编译器； 所述神经网络编译器进行精度验证后， 对所述神经网络模型 逐层进行仿真； 所述量化集图片通过所述神经网络编译器对所述神经网络模型进行量化生成可执行 文件， 所述万人测试集通过所述神经网络编译器生成第一输入数据、 第一定点特征文件和 浮点特征文件； 对比所述第 一定点特征文件和所述浮点特征文件， 输出用于统计所述神经网络模型的 精度表格； 其中， 所述浮点特征文件包含第一浮点特征数据， 将所述第一定点特征文件中的定点 特征数据转成换浮 点特征数据， 生成第二 浮点特征数据； 对比所述第 一浮点特征数据和所述第 二浮点特征数据的相似度， 若相似度在预设的变 量内， 则满足精度需求； 若相似度不在预设的变量内， 则不满足精度需求； 将所述第一浮点特征数据和所述第二浮点特征数据的相似度统计结果以表格的形式 输出； 若所述精度表格的统计结果符合预设的精度 范围， 则读取所述可执行文件和所述第 一 输入数据进行 所述神经网络模型的仿真； 其中， 量化集图片为不同类型的神经网络模型以及不同场景下采集的图片， 万人测试 集为图片集 合。 2.如权利要求1所述的一种基于神经网络编译器的仿真实现方法， 其特征在于， 还包括 步骤： 测试所述神经网络编译器是否安装成功； 其中， 所述神经网络编译器的搭建环境设置为与仿真系统相同的操作系统。 3.如权利要求1所述的一种基于神经网络编译器的仿真实现方法， 其特征在于， 所述量 化集图片通过所述神经网络编译器对所述神经网络模型进 行量化生成可执行文件， 具体包 括以下步骤： 准备不同类型的神经网络模型以及不同场景 下的量化集图片； 运行所述神经网络编译器， 根据所述量化集图片对所述神经网络模型进行量化生成所 述可执行文件； 其中， 所述可执行文件包括神经网络名标识、 输入层的层标识、 中间层的层标识、 输出 层的层标识、 量化后的权重值、 量化后的偏移 值、 层操作名、 层参数信息、 层关联信息和层内 存信息。 4.如权利要求1所述的一种基于神经网络编译器的仿真实现方法， 其特征在于， 还包括 步骤： 预设所述神经网络模型的数量， 设置初始的循环次数为0， 判断循环次数是否符合预设 的所述神经网络模型的数量； 若循环次数不符合预设的所述神经网络模型的数量， 则所述量化集图片通过所述神经 网络编译器对所述神经网络模型进行量化生成所述可执行文件， 所述万人测试集通过所述 神经网络编译器生成所述第一输入数据、 所述第一定点特 征文件和所述 浮点特征文件；权　利　要　求　书 1/2 页 2 CN 114676830 A 2若循环次数符合预设的所述神经网络模型的数量， 则结束流 程。 5.如权利要求1所述的一种基于神经网络编译器的仿真实现方法， 其特征在于， 所述万 人测试集通过所述神经网络编译器生成第一输入数据、 第一定点特征文件和浮点特征文 件， 具体包括以下步骤： 根据不同的所述神经网络模型准备不同的万人测试集； 所述万人测试集通过缩放函数生成网络分辨率大小的第 一输入数据， 对所述万人测试 集进行仿真生成第一定点特 征文件和浮 点特征文件。 6.如权利要求1所述的一种基于神经网络编译器的仿真实现方法， 其特征在于， 若所述 精度表格的统计结果符合预设的精度范围， 则读取所述可执行文件和所述第一输入数据进 行所述神经网络模型的仿真， 具体包括以下步骤： 对所述精度表格进行计数， 计数的统计结果需符合预设的精度范围； 读取所述可执行文件， 根据 所述可执行文件对硬件进行配置， 读取所述第 一输入数据， 根据所述第一输入数据启动对所述神经网络模型的仿真， 生成第二定点特 征文件； 对比所述第一定点特征文件和所述第二定点特征文件， 若不相同， 则保存所述第二定 点特征文件中的错 误数据。 7.如权利要求1所述的一种基于神经网络编译器的仿真实现方法， 其特征在于， 还包括 步骤： 建立第一文件夹， 在第一文件夹下自动生成第一主文件夹， 所述第一主文件夹用于存 放所述可 执行文件； 在第一文件夹下自动生成第 一副文件夹， 所述第 一副文件夹用于存放所述第 一定点特 征文件； 在第一文件夹下自动生成输入数据文件夹， 所述输入数据文件夹用于存放所述第 一输 入数据。 8.如权利要求3所述的一种基于神经网络编译器的仿真实现方法， 其特征在于， 准备不 同类型的神经网络模型和量 化集图片， 具体包括以下步骤： 建立第二文件夹， 在第二文件夹下生成第二主文件夹， 所述第二主文件夹用于存放所 述不同类型的神经网络模型、 所述 量化集图片和所述 浮点特征文件。 9.如权利要求5所述的一种基于神经网络编译器的仿真实现方法， 其特征在于， 根据不 同的所述神经网络模型准备不同的万人测试集， 具体包括以下步骤： 建立第二文件夹， 在所述第二文件夹下生成第二主文件夹， 在所述第二主文件夹下建 立第二副文件夹， 所述第二副文件夹用于存放所述 万人测试集。权　利　要　求　书 2/2 页 3 CN 114676830 A 3