(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210321357.4 (22)申请日 2021.12.31 (62)分案原申请数据 202111653883.2 2021.12.31 (71)申请人 杭州雄迈集成电路技 术股份有限公 司 地址 311400 浙江省杭州市富阳区银湖街 道富闲路9号银湖创新中心 9号楼四层 (72)发明人 朱旭东　吴春选　 (74)专利代理 机构 杭州裕阳联合专利代理有限 公司 33289 专利代理师 张解翠 (51)Int.Cl. G06N 3/063(2006.01) G06N 3/04(2006.01)G06K 9/62(2022.01) (54)发明名称 一种提高仿真效率的仿真实现方法 (57)摘要 本申请公开了一种提高仿真效率的仿真实 现方法， 涉及深度学习技术领域， 其中， 提高仿真 效率的仿真实现方法包括以下步骤： 量化集图片 通过神经网络编译器对神经网络模型进行量化 生成可执行文件， 万人测试集通过神经网络编译 器生成第一输入 数据、 第一定点特征文件和浮点 特征文件， 若精度表格的统计结果符合预设的精 度范围， 则读取可执行文件和第一输入数据进行 神经网络模 型的仿真。 有益效果在于实现多个不 同类型的神经网络模型的批量仿真， 确保移植到 芯片或FPGA的正确性， 针对不同类型的神经网络 模型逐层进行仿真， 覆盖了更多的仿真验证点， 防止芯片流片的风险， 同时用于统计神经网络模 型的精度表格进行了全面的精度验证 。 权利要求书2页 说明书9页 附图1页 CN 114707650 A 2022.07.05 CN 114707650 A 1.一种提高仿真效率的仿真实现方法， 其特 征在于， 包括以下步骤： 构建神经网络编译器， 用于接收量化集图片、 多个不同类型的神经网络模型以及万人 测试集， 搭建所述神经网络编译器的环境， 安装所述神经网络编译器； 所述神经网络编译器进行精度验证后， 对所述神经网络模型 逐层进行仿真； 所述量化集图片通过所述神经网络编译器对所述神经网络模型进行量化生成可执行 文件， 所述万人测试集通过所述神经网络编译器生成第一输入数据、 第一定点特征文件和 浮点特征文件； 对比所述第 一定点特征文件和所述浮点特征文件， 输出用于统计所述神经网络模型的 精度表格； 若所述精度表格的统计结果符合预设的精度 范围， 则读取所述可执行文件和所述第 一 输入数据进行 所述神经网络模型的仿真； 其中， 预设所述神经网络模型的数量， 设置初始的循环次数为0， 判断循环次数是否符 合预设的所述神经网络模型的数量； 若循环次数不符合预设的所述神经网络模型的数量， 则所述量化集图片通过所述神经 网络编译器对所述神经网络模型进行量化生成所述可执行文件， 所述万人测试集通过所述 神经网络编译器生成所述第一输入数据、 所述第一定点特 征文件和所述 浮点特征文件； 若循环次数符合预设的所述神经网络模型的数量， 则结束流 程； 其中， 量化集图片为不同类型的神经网络模型以及不同场景下采集的图片， 万人测试 集为图片集 合。 2.如权利要求1所述的一种提高仿真效率的仿真实现方法， 其特 征在于， 还 包括步骤： 测试所述神经网络编译器是否安装成功； 其中， 所述神经网络编译器的搭建环境设置为与仿真系统相同的操作系统。 3.如权利要求1所述的一种提高仿真效率的仿真实现方法， 其特征在于， 所述量化集图 片通过所述神经网络编译器对所述神经网络模 型进行量化生成可执行文件， 具体包括以下 步骤： 准备不同类型的神经网络模型以及不同场景 下的量化集图片； 运行所述神经网络编译器， 根据所述量化集图片对所述神经网络模型进行量化生成所 述可执行文件； 其中， 所述可执行文件包括神经网络名标识、 输入层的层标识、 中间层的层标识、 输出 层的层标识、 量化后的权重值、 量化后的偏移 值、 层操作名、 层参数信息、 层关联信息和层内 存信息。 4.如权利要求1所述的一种提高仿真效率的仿真实现方法， 其特征在于， 所述万人测试 集通过所述神经网络编译器生成第一输入数据、 第一定点特征文件和浮点特征文件， 具体 包括以下步骤： 根据不同的所述神经网络模型准备不同的万人测试集； 所述万人测试集通过缩放函数生成网络分辨率大小的第 一输入数据， 对所述万人测试 集进行仿真生成第一定点特 征文件和浮 点特征文件。 5.如权利要求1所述的一种提高仿真效率的仿真实现方法， 其特征在于， 对比所述第 一 定点特征文件和所述浮点特征文件， 输出用于统计所述神经网络模型 的精度表格， 具体包权　利　要　求　书 1/2 页 2 CN 114707650 A 2括以下步骤： 所述浮点特征文件包含第 一浮点特征数据， 将所述第 一定点特征文件中的定点特征数 据转成换浮 点特征数据， 生成第二 浮点特征数据； 对比所述第 一浮点特征数据和所述第 二浮点特征数据的相似度， 若相似度在预设的变 量内， 则满足精度需求； 若相似度不在预设的变量内， 则不满足精度需求； 将所述第一浮点特征数据和所述第二浮点特征数据的相似度统计结果以表格的形式 输出。 6.如权利要求1所述的一种提高仿真效率的仿真实现方法， 其特征在于， 若所述精度表 格的统计结果符合预设的精度范围， 则读取所述可执行文件和所述第一输入数据进行所述 神经网络模型的仿真， 具体包括以下步骤： 对所述精度表格进行计数， 计数的统计结果需符合预设的精度范围； 读取所述可执行文件， 根据 所述可执行文件对硬件进行配置， 读取所述第 一输入数据， 根据所述第一输入数据启动对所述神经网络模型的仿真， 生成第二定点特 征文件； 对比所述第一定点特征文件和所述第二定点特征文件， 若不相同， 则保存所述第二定 点特征文件中的错 误数据。 7.如权利要求1所述的一种提高仿真效率的仿真实现方法， 其特 征在于， 还 包括步骤： 建立第一文件夹， 在第一文件夹下自动生成第一主文件夹， 所述第一主文件夹用于存 放所述可 执行文件； 在第一文件夹下自动生成第 一副文件夹， 所述第 一副文件夹用于存放所述第 一定点特 征文件； 在第一文件夹下自动生成输入数据文件夹， 所述输入数据文件夹用于存放所述第 一输 入数据。 8.如权利要求3所述的一种提高仿真效率的仿真实现方法， 其特征在于， 准备不同类型 的神经网络模型和量 化集图片， 具体包括以下步骤： 建立第二文件夹， 在第二文件夹下生成第二主文件夹， 所述第二主文件夹用于存放所 述不同类型的神经网络模型、 所述 量化集图片和所述 浮点特征文件。 9.如权利要求4所述的一种提高仿真效率的仿真实现方法， 其特征在于， 根据不同的所 述神经网络模型准备不同的万人测试集， 具体包括以下步骤： 建立第二文件夹， 在所述第二文件夹下生成第二主文件夹， 在所述第二主文件夹下建 立第二副文件夹， 所述第二副文件夹用于存放所述 万人测试集。权　利　要　求　书 2/2 页 3 CN 114707650 A 3