(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211057729.3 (22)申请日 2022.08.30 (71)申请人 南方科技大 学 地址 518055 广东省深圳市南 山区西丽学 苑大道1088号 (72)发明人 李皈颖　曹建琦　杨鹏　唐珂　 姚新　 (74)专利代理 机构 广州嘉权专利商标事务所有 限公司 4 4205 专利代理师 周翀 (51)Int.Cl. G06F 9/50(2006.01) G06F 9/455(2006.01) G06F 9/48(2006.01) (54)发明名称 基于云原生技术的AI算法与微服务调度方 法及其装置 (57)摘要 本申请提供了一种基于云原生技术的AI算 法与微服务调度方法及其装置， 通过预设的镜像 构建引擎创建目标镜像， 获取应用配置模板和解 析函数， 根据解析函数对应用配置模板进行解析 得到应用部署参数， 根据应用部署参数在k8s集 群中容器化部署目标镜像， 得到目标应用， 当目 标应用满足预设的容器调度条件， 则获取目标应 用的资源变更事件， 确定资源变更事件的事件类 型， 根据事件类型调用对应的事件处理函数对目 标应用进行容器调度， 能够为不同算法、 微服务 提供不同的算法和微服务运行环 境， 无需重复搭 建运行环境， 当算法和微服务运行出错后， 通过 容器调度能够将算法和微服务部署于合适的节 点， 以快速恢复算法服 务和微服务。 权利要求书2页 说明书12页 附图4页 CN 115454629 A 2022.12.09 CN 115454629 A 1.基于云原生 技术的AI算法与微 服务调度方法， 其特 征在于， 所述方法包括： 基于预设的镜像构建引擎创建目标镜像； 获取应用配置模板和解析函数； 根据所述 解析函数对所述应用配置模板进行解析， 得到应用部署参数； 根据所述应用部署参数在k8s集群中容器化部署所述目标镜像， 得到目标应用； 当所述目标应用满足预设的容器调度条件， 则获取 所述目标应用的资源变更事 件； 确定所述资源变更事件的事件类型， 根据 所述事件类型调用对应的事件处理函数对所 述目标应用进行容器调度。 2.根据权利要求1所述的基于云原生技术的AI算法与微服务调度方法， 其特征在于， 所 述根据所述事 件类型调用对应的事 件处理函数对所述目标应用进行容器调度， 包括： 若所述事件类型为处理事件， 则根据预设的第一插件运行顺序调用处理插件， 基于所 述处理插件对k8s集群的多个节点中进行筛 选， 得到多个初始 节点； 获取预设的打 分函数； 根据所述打 分函数对所述初始 节点进行打 分， 得到所述初始 节点对应的得分数值； 根据所述得分数值得到所述初始 节点的编排 顺序； 根据所述编 排顺序从多个初始节点中确定目标节点， 将所述目标节点与所述目标应用 进行绑定， 以使所述目标应用运行于所述目标节点。 3.根据权利要求1所述的基于云原生技术的AI算法与微服务调度方法， 其特征在于， 所 述根据所述事 件类型调用对应的事 件处理函数对所述目标应用进行容器调度， 包括： 若所述事件类型为后处理事件， 则根据预设的第二插件运行顺序调用后处理插件， 基 于所述后处 理插件对所述k8s集群中的节点添加标记， 得到目标节点； 将所述目标节点与所述目标应用进行绑定， 以使所述目标应用运行于所述目标节点。 4.根据权利要求1所述的基于云原生技术的AI算法与微服务调度方法， 其特征在于， 所 述当所述目标应用满足预设的容器调度条件， 则获取 所述目标应用的资源变更事 件， 包括： 将所述目标应用加入调度队列； 若所述调度队列中存在其他应用， 则根据 预设的优先级顺序对所述调度队列中的全部 应用进行排序， 得到所述目标应用的优先级； 若所述优先级为预设的目标优先级， 且所述目标应用中包括预设的容器调度信息， 则 获取所述目标应用的资源变更事 件。 5.根据权利要求4所述的基于云原生技术的AI算法与微服务调度方法， 其特征在于， 在 所述将所述目标应用加入调 度队列之后， 所述基于 云原生技术的AI算法与微服务调度方法 还包括： 若所述调度队列中仅存在所述目标应用， 且所述目标应用包括预设的容器调度信息， 则获取所述目标应用的资源变更事 件。 6.根据权利要求1所述的基于云原生技术的AI算法与微服务调度方法， 其特征在于， 在 所述获取所述目标应用的资源变更事件之后， 所述基于 云原生技术的A I算法与微服务调度 方法还包括： 将所述资源变更事 件加入工作队列； 从所述工作队列中取 出所述资源变更事 件。权　利　要　求　书 1/2 页 2 CN 115454629 A 27.根据权利要求1至6任一项所述的基于云原生技术的AI算法与微服务调度 方法， 其特 征在于， 所述基于云原生 技术的AI算法与微 服务调度方法还 包括： 根据预设的监控组件 对k8s集群中的节点进行监控， 得到监控数据； 将所述监控数据存 储至预设的数据库； 接收查询指令； 根据所述 查询指令从所述数据库中获取目标监控数据。 8.基于云原生 技术的AI算法与微 服务调度装置， 其特 征在于， 所述装置包括： 镜像构建模块， 用于基于预设的镜像构建引擎创建目标镜像； 第一获取模块， 用于获取应用配置模板和解析函数； 解析模块， 用于根据所述 解析函数对所述应用配置模板进行解析， 得到应用部署参数； 部署模块， 用于根据所述应用部署参数在k8s集群中容器化部署所述目标镜像， 得到目 标应用； 第二获取模块， 用于当所述目标应用满足预设的容器调度条件， 则获取所述目标应用 的资源变更事 件； 容器调度模块， 用于确定所述资源变更事件的事件类型， 根据所述事件类型调用对应 的事件处理函数对所述目标应用进行容器调度。 9.电子设备， 其特征在于， 所述电子设备包括存储器、 处理器、 存储在所述存储器上并 可在所述处理器上运行的程序以及用于实现所述处理器和所述存储器之间的连接通信的 数据总线， 所述 程序被所述处 理器执行时实现如权利要求1至7任一项所述的方法的步骤。 10.存储介质， 所述存储介质为计算机可读存储介质， 用于计算机可读存储， 其特征在 于， 所述存储介质存储有一个或者多个程序， 所述一个或者多个程序可被一个或者多个处 理器执行， 以实现权利要求1至7中任一项所述的方法的步骤。权　利　要　求　书 2/2 页 3 CN 115454629 A 3