(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211092764.9 (22)申请日 2022.09.08 (71)申请人 深圳比特微电子科技有限公司 地址 518000 广东省深圳市南 山区高新 南 六道航盛科技大厦801 (72)发明人 艾国　翟云　凌明　杨作兴　 (74)专利代理 机构 中国贸促会专利商标事务所 有限公司 1 1038 专利代理师 郭万方 (51)Int.Cl. G06F 9/50(2006.01) G06N 3/063(2006.01) (54)发明名称 神经网络处理器NPU调度方法和计算机存储 介质 (57)摘要 本公开涉及神经网络处理器NPU调度方法和 计算机存储介质。 一种NPU调度方法， 其中NPU用 于执行多个任务， 该方法包括： 基于多个任务的 运行时间和执行频率确定每个任务的优先级； 将 多个任务按照优先级从低到高分类为多个优先 类； 对于第一优先类中的任务， 在其代码中插入 抢占指令作为抢占点， 抢占指令在被NPU执行时 使得NPU轮询并执行较后优先类中待执行的任 务， 在执行较后优先类中的任务之前保存现场、 在执行较后优先类中的任务之后恢复现场并继 续执行该任务； NP U运行时循环执行以下步骤： 依 次执行第二优 先类中待执行的所有任务； 执行第 一优先类中待执行的一个任务， 在该任务的每个 抢占点处依次执行第二优先类中待执行的所有 任务。 权利要求书2页 说明书6页 附图4页 CN 115168060 A 2022.10.11 CN 115168060 A 1.一种神经网络处理器NPU调度 方法， 其特征在于， NPU用于执行多个任务， 所述方法包 括： 基于所述多个任务的运行时间和执 行频率确定每 个任务的优先级； 将所述多个任务按照优先级从低到 高分类为多个优先类， 所述多个优先类至少包括第 一优先类和第二优先类； 对于第一优先类中的至少一个任务， 在其代码中插入至少一组抢占指令作为该任务中 的抢占点， 其中所述抢占指 令在被NPU执行时使 得NPU轮询并执行较后优先类中待 执行的任 务， 以及在执行较后优先类中的任务之前保存现场、 在执行较后优先类中的任务之后恢复 现场并继续执 行该任务； 以及 NPU运行时循环地执 行以下步骤： 依次执行第二优先类中的待执 行的所有任务； 执行第一优先类中的待执行的一个任务， 其中在该任务的每个抢占点处依次执行较后 优先类中的待执 行的所有任务。 2.根据权利要求1所述的方法， 还 包括： 对于除了最后一个优先类以外的其他优先类中的至少一个任务， 在其代码中插入至少 一组所述抢占指令作为该任务中的抢占点； 并且 NPU运行时循环地执 行以下步骤： 从最后一个优先类到第二优先类依次执 行每个优先类中的待执 行的所有任务； 执行第一优先类中的待执 行的一个任务， 其中， 在执行除了最后一个优先类以外的其他优先类中的每个任务时， 在该任务的每 个抢占点处依次执 行较后优先类中的待执 行的所有任务。 3.根据权利要求1所述的方法， 其中， 将所需的运行时间较短且执行频率较高的任务设 定为较高优先级， 而将所需的运行时间较长且执 行频率较低的任务设定为较低优先级。 4.根据权利要求1所述的方法， 其中， 每个优先类中的每个任务中的抢占点的间隔时间 至少部分地基于较后优先类中的任务的执 行频率来设定。 5. 根据权利要求1所述的方法， 还 包括： 由NPU和另一个处理器共同维护多个队列， 每个队列中存储相应优先类中的待执行的 任务， 并且 NPU运行时， 另一个处理器将相应优先类 中的待执行的任务在相应队列中依次入队， 而 NPU循环地执 行以下步骤： 将第二队列中的任务依次出队并执 行； 将第一队列中的第 一个任务出队并执行， 其中在该任务的每个抢占点处将较后队列中 的任务依次出队并执 行。 6. 根据权利要求2所述的方法， 还 包括： 由NPU和另一个处理器共同维护多个队列， 每个队列中存储相应优先类中的待执行的 任务， 并且 NPU运行时， 另一个处理器将相应优先类 中的待执行的任务在相应队列中依次入队， 而 NPU循环地执 行以下步骤： 从最后一个队列到第二队列将队列中的任务依次出队并执 行；权　利　要　求　书 1/2 页 2 CN 115168060 A 2将第一队列中的第一个任务出队并执 行， 其中， 在执行除了最后一个队列以外的其他队列中的每个任务时， 在该任务的每个抢 占点处将较后队列中的任务依次出队并执 行。 7.根据权利要求5所述的方法， 其中每 个队列由多个寄存器构成。 8.根据权利要求1所述的方法， 其中NPU在执行较后优先类中的任务之前在内存中保存 现场， 在执 行较后优先类中的任务之后从内存 恢复现场。 9.一种计算机存储介质， 其上存储有可执行指令， 所述指令在被执行时能够实现根据 权利要求1 ‑8中任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 115168060 A 3