(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211045594.9 (22)申请日 2022.08.30 (71)申请人 无锡江南计算 技术研究所 地址 214100 江苏省无锡市滨湖区山水东 路188号 (72)发明人 陈芳园　李宏亮　吕晖　宁永波　 孙红辉　刘骁　 (74)专利代理 机构 浙江千克知识产权代理有限 公司 33246 专利代理师 周磊 (51)Int.Cl. G06F 9/50(2006.01) (54)发明名称 一种支持混合精度运算的数据访存方法及 装置 (57)摘要 本发明公开了一种支持混合精度运算的数 据访存方法及装置， 涉及人工智 能技术领域， 包 括： 获取存储数据精度库和运算数据精度库， 生 成访存指令库； 判断访存指令类型； 为存储访存 指令时， 选取对应的访存指令， 将与访存指令一 起发来的待存储的运算数据转换成目标存储器 的存储数据精度格式数据， 送入至目标存储器进 行存储； 为运算访存指令时， 选取对应的访存指 令， 将存储器发出的数据转换成目标运算程序的 运算数据精度格式数据， 送入至目标运算程序进 行运行。 本发明使用较小的处理代价， 高效实现 了统一数据存储格式的目的， 且 数据精度灵活可 配， 支持多种精度运算， 另外在线的转置模式可 以有效提高处 理器性能。 权利要求书2页 说明书8页 附图1页 CN 115328658 A 2022.11.11 CN 115328658 A 1.一种支持混合精度运 算的数据访存方法， 其特 征在于， 包括： S1： 获取所有存储器存储数据时的数据精度和所有运算程序运算数据时的数据精度， 建立存储数据 精度库和运算数据 精度库， 生成任一存储数据 精度和任一运算数据 精度之间 转换的访存指令库； S2： 判断访存指令为存储访存指令还是运算访存指令， 若是存储访存指令则执行步骤 S3； 反之则执行步骤S4； S3： 获取待存储的运算数据精度和目标存储器的存储数据精度， 将访存指令和待存储 的运算数据发送至运算核心， 运算核心将待存储的运算数据转换成目标存储器的存储数据 精度格式数据， 送入至目标存 储器进行存 储； S4： 获取数据存储的存储数据精度和目标运算程序的运算数据精度， 发送至存储器， 存 储器响应访 存指令将存储数据发送至运算核心， 运算核心将接收到的存储 数据转换成目标 运算程序的运 算数据精度格式数据， 送入至目标运 算程序进行运行。 2.根据权利要求1所述的一种支持混合精度运算的数据访存方法， 其特征在于， 获取所 有存储器存储数据时的数据精度和所有运 算程序运算数据时的数据精度， 具体为： 获取所有与运算核心数据连接的存储器存储数据时的数据精度和所有运算核心面向 的运算程序运算数据时的数据精度。 3.根据权利要求2所述的一种支持混合精度运算的数据访存方法， 其特征在于， 建立存 储数据精度库和运算数据 精度库， 生成任一存储数据 精度和任一运算数据 精度之间转换的 访存指令集， 具体为： 将m个存储数据精度记录至存储数据精度库内， 将n个运算数据精度记录至运算数据精 度库内； 并生成任一存储 数据精度转换成任一运算数据 精度的m*n个运算访 存指令， 以及任 一运算数据 精度转换成任一存储 数据精度的n* m个存储访 存指令， 将m*n个运算访 存指令和 n*m个存储访存指令存 储至访存指令库内。 4.根据权利要求1所述的一种支持混合精度运算的数据访存方法， 其特征在于， 在运算 核心判断访存指令类别之前， 还有： 在运算核心内配置有用于将低精度的源数据精度转换为高精度的目标数据精度的扩 展单元和用于将高精度的源数据精度转换为低精度的目标 数据精度的压缩单 元。 5.根据权利要求4所述的一种支持混合精度运算的数据访存方法， 其特征在于， 运算核 心将待存 储的运算数据转换成目标存 储器的存 储数据精度格式数据， 具体包括： 运算核心将待存储的运算数据分割成若干个数据 单元送入至扩展单元和压缩单元， 扩 展单元和压缩单元分别将任意数据单元的格式进 行转换， 运算核心 根据访存指令要求的格 式配置， 从扩展单元和压缩单元中选取所需的转换后数据， 得到目标存储器的存储数据精 度格式数据。 6.根据权利要求4所述的一种支持混合精度运算的数据访存方法， 其特征在于， 运算核 心将接收到的存 储数据转换成目标运 算程序的运 算数据精度格式数据， 具体包括： 运算核心将接收到的存储数据分割成若干个数据 单元送入至扩展单元和压缩单元， 扩 展单元和压缩单元分别将任意数据单元的格式进 行转换， 运算核心 根据访存指令要求的格 式配置， 从扩展单元和压缩单元中选取所需的转换后数据， 得到目标运算程序的运算数据 精度格式数据。权　利　要　求　书 1/2 页 2 CN 115328658 A 27.根据权利要求5和6任一所述的一种支持混合精度运算的数据访存方法， 其特征在 于： 在数据送入至目标存储器进行存储时， 运算核心先将数据进行缓冲， 缓冲完毕之后， 再 将数据送入至目标存 储器； 在存储器响应访存指令将数据发送至运算核心时， 运算核心先将数据进行缓冲， 再送 入至扩展单 元和压缩单 元。 8.一种支持混合精度运 算的数据访存 装置， 其特 征在于， 包括： 预处理模块： 用于获取所有存储器存储数据时的数据精度和所有运算程序运算数据时 的数据精度， 建立存储数据精度库和运算数据精度库， 生成任一存储数据精度和任一运算 数据精度之间转换的访存指令库； 判断模块： 用于判断访存指令为存 储访存指令还是运 算访存指令； 存储访存模块： 用于在访存指令为存储访存指令时， 获取待存储的运算数据精度和目 标存储器的存储数据精度， 在访存指令库内选取对应的访存指令， 将访存指令和待存储的 运算数据发送至运算核心， 运算核心将待存储的运算数据转换成目标存储器的存储数据 精 度格式数据， 送入至目标存 储器进行存 储； 运算访存模块： 用于在访存指令为运算访存指令时， 获取数据存储的存储数据精度和 目标运算程序的运算数据 精度， 在访存指令库内选取对应的访 存指令， 发送至存储器， 存储 器响应访存指 令将存储数据发送至运算核心， 运算核心将接收到的存储数据转换成目标运 算程序的运 算数据精度格式数据， 送入至目标运 算程序进行运行。 9.一种电子设备， 包括存储器、 处理器及存储在存储器上并可在处理器上运行的计算 机程序， 其特征在于， 所述处理器执行所述计算机程序时， 实现如权利要求 1至7任一项 所述 的一种支持混合精度运 算的数据访存方法。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算机程序 被处理器执行时， 实现如权利要求 1至7任一项 所述的一种支持混合精度运算的数据访 存方 法。权　利　要　求　书 2/2 页 3 CN 115328658 A 3