(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211025069.0 (22)申请日 2022.08.25 (71)申请人 江苏电力 信息技术有限公司 地址 210024 江苏省南京市 鼓楼区北京西 路20号 (72)发明人 徐磊　周昊程　杨定坤　赵南　 董平　刘春艳　孙澄宇　封晶　 (74)专利代理 机构 南京汇盛专利商标事务所 (普通合伙) 32238 专利代理师 陈扬 (51)Int.Cl. G06V 10/96(2022.01) G06V 10/94(2022.01) G06V 10/82(2022.01) G06V 20/40(2022.01)G06F 9/50(2006.01) G06N 7/00(2006.01) G06N 3/04(2006.01) (54)发明名称 云边协同的实时视频分析任务执行时延建 模及部署方法 (57)摘要 本发明公开了一种云边协同的实时视频分 析任务执行时延建模及部署方法， 包括： 云边环 境下的视频分析任务执行时延 模型构建方法； 所 述时延模型即视频分析任务过程中引入的额外 时延， 包括在边缘端处理带来的时延， 边缘与云 端传输中间数据带来的时延以及云端处理带来 的时延； 根据云边环境下的视频分析任务执行时 延模型， 通过基于李雅普诺夫算法以及马尔科夫 近似算法的近似算法为视频分析任务选择更加 节能的任务部署方案， 所述任务部署方案包括边 缘端机器规格选择， 云端机器实例规格以及任务 划分方案。 本发 明可在视频分析任务的任务负载 以及云边网络环境发生变化时， 快速调整任务部 署方案， 从而使得系统长期运行能耗进行有效的 降低。 权利要求书3页 说明书9页 附图1页 CN 115457369 A 2022.12.09 CN 115457369 A 1.一种云边协同的实时视频分析任务执行时延建模及部署方法， 其特征在于， 包括如 下步骤： A.云边环境下的视频分析任务执行时延模型构建方法； 所述时延模型即视频分析任务 过程中引入的额外时延， 包括在边缘端处理带来的时延， 边缘与云端传输中间数据带来的 时延以及云端处 理带来的时延； B.根据云边环境下的视频分析任务执行时延模型， 构建云边环境最优任务部署方案问 题； 并通过基于李 雅普诺夫算法以及马尔科夫近似算法为视频分析任务选择更加节能的任 务部署方案， 所述任务部署方案包括边缘端机器规格选择， 云端机器实例规格以及任务划 分方案。 2.根据权利要求1所述的实时视频分析任务执行时延建模及部署方法， 其特征在于： 所 述步骤A中， 视频分析任务执行时延模型构建方法包括分析任务所需计算量估计以及机器 规格计算能力估计， 通过计算能力以及计算量对任务处理时延进行估计； 所述步骤B中， 任 务部署方案通过求解云边环境最优任务部署方案 问题， 即一个长期优化问题得到， 该长期 优化问题以最小化系统长期能耗为目标， 约束条件为系统在每个时刻内的处理时延低于任 务要求。 3.根据权利要求1所述的实时视频分析任务执行时延建模及部署方法， 其特征在于： 所 述步骤A中， 在进 行分析任务计算量估计时， 将分析任务所需计算量按照分析任务进度进 行 建模； 在进行机器规格计算能力估计时， 将 机器规格计算能力建模成为CPU 型号及数量、 GPU 型号及数量、 内存大小以及硬盘大小的函数； 在进 行实时视频分析任务执行时延建模时， 首 先选定基准机器规格， 测定基准机器规格在执行完整的实时视频分析任务作为基准时间， 之后使用基准机器规格对于任务的每个可能分割点进 行执行， 测量每个分割点前的执行时 间作为分割点基准时间， 之后不同机器规格的不同任务分割方式的执行时间可以由分割点 基准时间以及不同机器规格与基准 规格的计算能力系数决定 。 4.根据权利要求1所述的实时视频分析任务执行时延建模及部署方法， 其特征在于： 所 述步骤B中， 在构建云边环境最优任务部署方案问题时， 令边缘端与云端的可用机器规格集 合分别为C1， C2,使用c1t， c2t分别代表在t时刻边缘端和云端选择的机器 规格， Ut， ut分别表示 当前实时视频分析任务的总计算量和部署在边缘端的计算量； e1， e2， e3分别代表在边缘端， 在云端处理数据以及发送数据消耗的资源， 该值会受到机器规格以及 任务处理时间的综合 影响； w1， w2， w3分别代表在边缘端， 在云端处理数据以及发送数据消耗的时间， 该值会受到 机器规格以及任务所需计算量的影响； Bt代表当前时刻的可用带宽， L代表任务执行能接 受 的最大时延， f代表系统使用的中间数据 压缩算法的压缩率； dt代表当前时刻需要传输的数 据量。 5.根据权利要求4所述的实时视频分析任务执行时延建模及部署方法， 其特征在于： 所 述步骤B中， 在构建云边环境最优任务部署方案问题时， 构建的云边环境最优任务部署方案 问题的目标为： 优化目标为最小化长期能源消耗， 其中e1(c1t， w1(c1t， ut))代表边缘端处理过程在单一 时隙中消耗的能源， 参数代表处理数据消耗的资源e1与机器规格c1t以及机器 处理时间w1有权　利　要　求　书 1/3 页 2 CN 115457369 A 2关， e2(c2t， w2(c2t， Ut‑ut))代表云端处理过程在单一时隙中消耗的资源， 参数代表e2与机器 规格c2t以及机器处理时间w2有关； 进一步的由于Ut代表总计算量， ut代表边缘端计算量， 因 此Ut‑ut代表云端计算量； w1以及w2的参数同理， 机器规格影响计算能力， 计算量以及计算能 力共同决定处理时间； 代表传输中间数据带来的时延， 由于dt与Bt分别代表数据量 以及带宽， f代 表压缩率， 因此 即可以用来表示发送数据需要的时间； 约束条件为： 其中 代表传输中间数据需要花费的时间。 6.根据权利要求5所述的实时视频分析任务执行时延建模及部署方法， 其特征在于： 所 述步骤B中， 在求解云边环境最优任务部署方案问题时， 首先使用李 雅普诺夫算法将云边环 境最优任务部署方案问题解耦成为每个时隙中的子问题， 之后使用马尔科夫近似算法在解 空间中寻找最优解。 7.根据权利要求6所述的实时视频分析任务执行时延建模及部署方法， 其特征在于： 云 边环境最优任务部署方案问题的求 解算法如下： 首先使用一个虚拟动态队列qt描述分析任务处理的时延的变化， 当当前时刻的实际时 延超过了阈值时， 队列长度缩短， 反之队列长度增加， 且队列长度 始终不小于0； 虚拟动态队 列的定义如下： 解耦后的云边环境最优任务部署方案子问题为， 其中V是调节参数， 用于调 节算法对于 约束的违反容忍程度： c1t， c2t， ut∈Z+。 8.根据权利要求6所述的实时视频分析任务执行时延建模及部署方法， 其特征在于： 使 用马尔科 夫近似的方法对最优 任务部署方案 子问题进行求 解， 具体如下： 1)首先将c1t， c2t， ut都进行随机赋值， 对此时分析任务带来的目标函数进行估计， 将此 时延记为 权　利　要　求　书 2/3 页 3 CN 115457369 A 3