(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211038987.7 (22)申请日 2022.08.29 (71)申请人 杭州未名信科 科技有限公司 地址 311200 浙江省杭州市萧 山区宁围街 道钱江世纪 公园C区1幢101室 申请人 浙江省北 大信息技 术高等研究院 (72)发明人 曹玉龙　景博　孙康睿　李加敏　 韩平　 (74)专利代理 机构 北京辰权知识产权代理有限 公司 11619 专利代理师 付婧 (51)Int.Cl. G06F 12/0806(2016.01) G06F 9/50(2006.01) G06N 3/04(2006.01) (54)发明名称 一种AI处理器的缓存管理方法及应用其的 AI处理器 (57)摘要 本申请涉及人工智能及芯片技术领域， 更为 具体来说， 本申请涉及一种AI处理器的缓存管理 方法及应用其的AI处理器。 AI处理器配置有统一 缓存模块， 统一缓存模块包括多个写序列控制模 块、 多个存储块、 多个读序列控制模块， 其中， 多 个存储块为静态随机存取存储器； 缓存管理方法 包括： 接收待存储数据， 并调用一个或多个写序 列控制模块； 写序列控制模块获取统一缓存模块 分配的存储块对应的物理地址， 并根据物理地址 将待存储数据写入分配的存储块； 若读取已写入 分配的存储块中的数据， 通过一个或多个读序列 控制模块读取。 本申请能充分利用存储资源， 实 现存储资源的均衡， 进 而能避免存 储资源浪费。 权利要求书2页 说明书9页 附图2页 CN 115408309 A 2022.11.29 CN 115408309 A 1.一种AI处理器的缓存管理方法， 其特征在于， 所述AI处理器配置有统一缓存模块， 所 述统一缓存模块包括多个写序列控制模块、 多个存储块、 多个读序列控制模块， 其中， 所述 多个存储块为静态随机存取存 储器； 所述缓存管理方法包括： 接收待存 储数据， 并调用一个或多个写序列控制模块； 所述写序列控制模块获取统一缓存模块分配的存储块对应的物 理地址， 并根据 所述物 理地址将所述待存 储数据写入所述分配的存 储块； 若读取已写入 存储块中的数据， 通过一个或多个所述读序列控制模块读取。 2.根据权利要求1所述的AI处理器的缓存管理方法， 其特征在于， 所述AI处理器还包括 控制模块， 所述统一缓存模块还包括用户号管理器； 所述写序列控制模块获取统一缓存模 块分配的存 储块对应的物理地址， 包括： 所述写序列控制模块向所述用户号管理器申请并取得虚拟用户号、 分配的存储块号和 分配的存 储块对应的物理地址； 所述写序列控制模块将取 得的虚拟用户号发送给 所述控制模块。 3.根据权利要求2所述的AI处理器的缓存管理方法， 其特征在于， 所述统一缓存模块还 包括存储块管理器， 所述根据所述物理地址将所述待存储数据写入所述分配的存储块， 包 括： 将第一存储块作为分配的存储块号， 其中， 所述第一存储块为所述多个存储块中的任 意一个； 根据所述第一存 储块的物理地址将所述待存 储数据写入第一存 储块； 若第一存 储块写满， 向存 储块管理器申请并取 得新空闲存储块； 将所述待存 储数据中除写入第一存 储块外的数据写入所述 新空闲存储块。 4.根据权利要求2所述的AI处理器的缓存管理方法， 其特征在于， 所述AI处理器还包括 计算核， 所述计算核包括多个计算核模块， 所述多个计算核模块与所述多个读序列控制模 块之间设置有多个接口， 以使 所述多个读序列控制模块读取的数据通过所述多个接口传入 所述多个 计算核模块进行计算。 5.根据权利要求4所述的AI处理器的缓存管理方法， 其特征在于， 所述读取已写入存储 块中的数据， 包括： 所述控制模块将待读取 数据对应的虚拟用户号发送至所述读序列控制模块； 所述读序列控制模块根据所述虚拟用户号、 预先给定的逻辑地址和地址映射表获取对 应存储块的物理地址； 所述读序列控制模块 根据取得的物理地址读取待读取 数据。 6.根据权利要求5所述的AI处理器的缓存管理方法， 其特征在于， 在所述读序列控制模 块根据取得的物理地址读取待读取 数据之后， 还 包括： 若所述待读取数据超过一个存储块， 则在第 一个存储块中的数据被读到预设字节时获 取下一个存 储块的物理地址； 根据获取的下一个存 储块的物理地址将所述待读取 数据中剩余的数据读取完成。 7.根据权利要求4 ‑6任一所述的AI处理器的缓存管理方法， 其特征在于， 所述统一缓存 模块还包括平衡管理器， 所述平衡管理器用于所述统一缓存模块中存储块资源的平衡管 理； 所述多个计算核模块在计算过程中若空闲存储块达不到预设数量， 则启动平衡管理器权　利　要　求　书 1/2 页 2 CN 115408309 A 2将已存储于所述统一缓存模块中的数据移至外部存储器； 若空闲存储块超过预设数量， 则 将数据从所述外部存储器取回到所述统一缓存模块中， 其中， 所述外部存储器为同步动态 随机存储器。 8.根据权利要求1所述的AI处理器的缓存管理方法， 其特征在于， 所述统一缓存模块还 包括第一交叉开关和 第二交叉开关； 所述第一交叉开关介于所述写序列控制模块和所述存 储块之间， 用于数据从写序列控制模块到存储块的交叉处理； 所述第二交叉开关介于所述 多个读序列控制模块和所述存储块之间， 用于数据从存储块至读序列控制模块的交叉处 理。 9.一种AI处 理器， 其特 征在于， 所述AI处 理器应用如权利要求1 ‑8任一所述方法。 10.一种计算机设备， 包括存储器和AI处理器， 其特征在于， 存储器中存储有计算机可 读指令， 计算机可读指令被AI处理器执行时， 使 得AI处理器执行如权利要求1 ‑8任一所述方 法。权　利　要　求　书 2/2 页 3 CN 115408309 A 3