(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210908007.8 (22)申请日 2022.07.29 (71)申请人 中科驭数 （北京） 科技有限公司 地址 100089 北京市海淀区北清路81号院 一区4号楼14层1401室 (72)发明人 王哲　 (74)专利代理 机构 北京金咨知识产权代理有限 公司 11612 专利代理师 薛海波 (51)Int.Cl. G06F 9/445(2018.01) G06F 13/10(2006.01) G06F 13/40(2006.01) G06F 16/22(2019.01) (54)发明名称 一种基于KPU统一接口的数据管理方法、 系 统及装置 (57)摘要 本发明提供一种基于KPU统一接口的数据管 理方法、 系统及装置， 通过数据同步模块装载多 种驱动连接调用不同类型或功能的KPU硬件设 备， 利用虚地址管理模块存储哈希表查询不同 KPU硬件设备对应的数据属性指针， 根据数据属 性指针调取数据属性管理模块中的数据存储标 准信息， 根据数据存储 标准信息查询和存储相应 KPU硬件设备所需的数据。 通过数据同步模块统 一的接口， 将主机内存中的数据下载至相应的 KPU硬件设备进行运 算， 提升系统性能。 权利要求书2页 说明书8页 附图1页 CN 115421804 A 2022.12.02 CN 115421804 A 1.一种基于KPU统一接口的数据管理方法， 其特征在于， 所述方法用于在统一数据 管理 模块上运行， 所述统一数据管理模块包括数据虚地址管理模块、 数据属 性管理模块和数据 同步模块， 所述数据虚地址管理模块连接所述数据属 性管理模块和所述数据同步模块， 所 述数据同步模块装载多种驱动并通过硬件管理模块连接多个KPU硬件设备， 所述方法包括： 接收对预设KPU硬件设备的调用需求， 根据所述调用需求向所述虚地址管理模块请求 创建虚拟地址标识作为主键， 创建所述预设KPU硬件设备的数据属性指 针作为值， 并将所述 主键和所述值存储至哈希表， 并接 收所述虚地址管理模块返回的虚拟地址标识； 所述数据 属性指针指向所述数据属性管理模块中记载的数据存储标准信息， 所述数据存储标准信息 至少包括主机内存 存储地址和数据偏移量； 接收针对所述预设KPU硬件设备的数据写入请求， 控制所述虚地址管理模块根据所述 虚拟地址标识 查询所述哈希表， 获取所述预设KPU硬件设备对应的所述数据属性指 针； 根据 所述数据属性指 针查询所述数据属性管理模块中对应的数据存储标准信息， 并按照所述数 据存储标准信息将目标 数据值写入主机内存； 接收针对所述预设KPU硬件设备的计算调用请求， 控制所述虚地址管理模块根据所述 虚拟地址标识查询所述哈希表， 获取所述数据属 性指针； 根据所述数据属 性指针查询所述 数据属性管理模块中对应的所述数据存储标准信息， 并根据所述数据存储标准信息在所述 主机内存中提取 所述目标 数据值； 通过所述数据同步模块和所述硬件管理模块将所述目标数据值发送至所述预设KPU硬 件设备进行运 算。 2.根据权利要求1所述的基于KPU统一接口的数据管理方法， 其特征在于， 通过数据同 步模块和所述硬件管理模块将所述目标数据值发送至所述预设KPU硬件设备进行运算之 后， 还包括： 控制所述虚地址管理模块获取 所述预设KPU硬件设备对应的所述虚拟地址标识； 根据所述虚拟地址标识查询所述哈希表， 获取所述数据属性指针； 根据所述数据属性 指针查询所述数据属性管理模块中对应的所述数据存 储标准信息； 通过所述数据同步模块和所述硬件管理模块将运算结果数据按照所述数据存储标准 信息同步写入主机内存。 3.根据权利要求1所述的基于KPU统一接口的数据管理方法， 其特征在于， 所述方法还 包括： 当所述主机 内存中的所述目标数据值达到设定条件时， 控制所述虚地址管理模块根据 所述虚拟地址标识查询所述哈希表， 获取所述数据属 性指针； 根据所述数据属 性指针查询 所述数据属性管理模块中对应的所述数据存 储标准信息； 释放并清除所述虚拟地址标识、 所述数据属性指针、 所述数据存储标准信息， 以及所述 目标数据值； 其中， 所述设定条件包括： 达到设定时长未调用所述目标数据值； 或， 接收到对所述目 标数据值的清除指令 。 4.根据权利要求1所述的基于KPU统一接口的数据管理方法， 其特征在于， 所述方法还 包括： 当所述预设KPU硬件设备的内存资源耗尽时， 控制所述虚地址管理模块根据所述虚拟权　利　要　求　书 1/2 页 2 CN 115421804 A 2地址标识查询所述哈希表， 获取所述数据属 性指针； 根据所述数据属 性指针查询所述数据 属性管理模块中对应的所述数据存 储标准信息； 所述数据同步模块和所述硬件管理模块将所述KPU硬件设备中的所有数据按照所述数 据存储标准信息转存至所述主机内存中。 5.根据权利要求1所述的基于KPU统一接口的数据管理方法， 其特征在于， 所述方法还 包括： 当所述主机 内存耗尽时， 按照设定比例随机选择所述虚地址管理模块中待优化虚拟地 址标识， 根据所述待优化虚拟地址标识 查询所述哈希表， 获取待优化数据属性指 针； 根据所 述待优化数据属性指针查询所述数据属性管理模块中对应的待优化数据存储标准信息； 所 述待优化数据存 储标准信息 至少包括待优化数据的主机内存 存储地址和数据偏移量； 根据所述待优化数据存储标准信 息提取所述主机 内存中的待优化数据转存至硬盘， 并 释放清除所述待优化数据存 储标准信息 。 6.根据权利要求2所述的基于KPU统一接口的数据管理方法， 其特征在于， 通过所述数 据同步模块和所述硬件管理模块将运算结果数据按照所述数据存储标准信息同步写入主 机内存之后， 还 包括： 获取所述运算结果数据的同步写入结果， 并写入数据同步日志。 7.根据权利要求4所述的基于KPU统一接口的数据管理方法， 其特征在于， 所述数据同 步模块和所述硬件管理模块将所述KPU硬件设备中的所有 数据按照所述数据存储标准信息 转存至所述主机内存中之后， 还 包括： 获取数据转存结果， 并写入数据转存日志。 8.一种基于KPU统一接口 的数据管理系统， 其特 征在于， 包括： 统一数据管理模块， 所述统一数据管理模块包括数据虚地址管理模块、 数据属性管理 模块和数据同步模块； 所述数据虚 地址管理模块连接所述数据属性管理模块和所述数据同 步模块； 所述统一数据管理模块用于执行如权利要求1至7任意一项所述基于KPU统一接口 的数据管理方法； 所述数据同步模块通过硬件管理模块连接多个KPU硬件设备， 所述数据同步模块、 所述 硬件管理模块和各 KPU硬件设备通过PCIe总线连接； 其中， 所述数据同步模块 通过装载多种驱动基于通用接口调用各 KPU硬件设备。 9.一种电子设备， 包括存储器、 处理器及存储在存储器上并可在处理器上运行的计算 机程序， 其特征在于， 所述处理器执行所述程序时实现如权利要求1至7任一项所述方法的 步骤。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 该程序被处理器 执行时实现权利要求1至7任一项所述方法的步骤。权　利　要　求　书 2/2 页 3 CN 115421804 A 3