(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211181315.1 (22)申请日 2022.09.27 (71)申请人 山东云海国创云计算装备产业创新 中心有限公司 地址 250101 山东省济南市自由贸易试验 区济南片区浪潮路1036号 浪潮科技园 S01楼35层 (72)发明人 李拓　 (74)专利代理 机构 北京集佳知识产权代理有限 公司 11227 专利代理师 周伟 (51)Int.Cl. G06F 9/50(2006.01) G06F 9/48(2006.01) (54)发明名称 一种数据处理系统及其异构加速器的调度 装置和方法 (57)摘要 本申请公开了一种数据处理系统及其异构 加速器的调度装置和方法， 应用于数据处理技术 领域， 包括： 接收主机下 发的工作任务， 并确定出 用于处理工作任务的加速器类型； 确定出各个加 速器各自的负载状态； 在符合确定出的加速器类 型的各个加速器中， 判断是否存在负载状态为低 负载或者高负载的加速器； 如果不存在， 则暂存 工作任务， 直到存在负载状态 为低负载或者高负 载的加速器； 如果存在， 则按照优先发送至低负 载加速器的原则， 通过开关电路， 将工作任务发 送至符合确定出的加速器类型的任意1个加速器 中。 针对任意1个加速器， 加速器的负载状态包括 低负载， 高负载和满负载。 应用本申请的方案， 可 以有效地进行异构加速器的调度， 保障了任务的 高效执行。 权利要求书2页 说明书9页 附图2页 CN 115525427 A 2022.12.27 CN 115525427 A 1.一种异构加速器的调度方法， 其特 征在于， 包括： 接收主机下发的工作任务， 并确定出用于处 理所述工作任务的加速器 类型； 确定出各个加速器各自的负载状态； 在符合确定出的所述加速器类型的各个加速器中， 判断是否存在负载状态为低负载或 者高负载的加速器； 如果不存在， 则暂存所述工作任务， 直到存在负载状态为低负载或者高负载的加速器； 如果存在， 则按照优先发送至低负载加速器的原则， 通过开关电路， 将所述工作任务发 送至符合确定出的所述加速器 类型的任意1个加速器中； 其中， 针对任意1个加速器， 所述加速器的负载状态包括低负载， 高负载和满负载， 所述 低负载表示所述加速器发送上行数据的时间间隔不超过为所述加速器设置的间隔阈值， 高 负载表示所述加速器发送上行数据的时间间隔超过所述间隔阈值， 且所述加速器当前的计 算资源未用尽， 满负载表示所述加速器当前的计算资源被用尽。 2.根据权利要求1所述的异构加速器的调度方法， 其特征在于， 所述确定出各个加速器 各自的负载状态， 包括： 针对任意1个加速器， 监测所述加速器的下行通道状态以及所述加速器发送上行数据 的时间间隔； 当所述下 行通道状态为满状态时， 确定所述加速器的负载状态为满负载； 当所述下行通道状态为未满状态， 且监测到的所述加速器发送上行数据的时间间隔不 超过为所述加速器设置的间隔阈值时， 确定所述加速器的负载状态为低负载； 当所述下行通道状态为未满状态， 且监测到的所述加速器发送上行数据的时间间隔超 过为所述加速器设置的间隔阈值时， 确定所述加速器的负载状态为高负载。 3.根据权利要求2所述的异构加速器的调度方法， 其特征在于， 所述监测所述加速器的 下行通道状态以及所述加速器发送上 行数据的时间 间隔， 包括： 按照第一周期监测所述加速器的下行通道状态以及所述加速器发送上行数据的时间 间隔。 4.根据权利要求3所述的异构加速器的调度方法， 其特 征在于， 还 包括： 当任意1个加速器当前未执行任何工作任务 时， 确定所述加速器的负载状态为低负载， 并且暂停对于所述加速器的下行通道状态以及所述加速器发送上行数据的时间间隔的监 测； 当任意1个加速器当前的负载状态为满负载， 且未接收到所述加速器上传的任何数据 时， 暂停对于所述加速器的下行通道状态以及所述加速器发送上行数据 的时间间隔的监 测。 5.根据权利要求1所述的异构加速器的调度方法， 其特征在于， 所述确定出各个加速器 各自的负载状态， 包括： 针对存在 自监测功能的加速器， 通过接收所述加速器上传的负载状态信息， 确定出所 述加速器当前的负载状态。 6.根据权利要求5所述的异构加速器的调度方法， 其特征在于， 所述加速器上传负载状 态信息的触发条件为所述加速器的负载状态发生变化。 7.根据权利要求1所述的异构加速器的调度方法， 其特 征在于， 还 包括：权　利　要　求　书 1/2 页 2 CN 115525427 A 2接收主机下发的目标任务， 并判断目标加速器的负载状态为满负载； 如果是， 则暂存所述目标任务， 直到所述目标加速器的负载状态不 为满负载； 如果否， 则将所述目标任务发送所述目标加速器； 其中， 所述目标任务为预先指定的目标类型的目标任务， 所述目标加速器为预先指定 的仅用于处 理所述目标任务的加速器。 8.根据权利要求1至7任一项所述的异构加速器的调度方法， 其特 征在于， 还 包括： 将各个加速器各自的负载状态均 上传至主机， 以使所述主机在任意一种类型的加速器 集群的计算能力满足预设的用于反映所述加速器集群的计算能力受限的 限制规则时， 暂停 下发对应于所述加速器集群的工作任务并由所述主机自身执 行所述工作任务； 其中， 与所述主机连接的各个加速器按照类型划分至不同类型的所述加速器集群中。 9.一种异构加速器的调度装置， 其特 征在于， 包括： 存储器， 用于存 储工作任务； 与各个加速器以及处 理器通信连接， 用于进行 数据传输的通道选择的开关电路； 所述处理器， 用于执行计算机程序以实现如权利要求1至8任一项所述的异构加速器的 调度方法的步骤。 10.一种数据处 理系统， 其特 征在于， 包括如权利要求9所述的异构加速器的调度装置 。权　利　要　求　书 2/2 页 3 CN 115525427 A 3