(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211126572.5 (22)申请日 2022.09.16 (71)申请人 武汉大学 地址 430072 湖北省武汉市武昌区珞珈山 街道八一路2 99号 (72)发明人 刘金硕　毛煜灵　王欣盛　付盼　 (74)专利代理 机构 武汉科皓知识产权代理事务 所(特殊普通 合伙) 42222 专利代理师 肖明洲 (51)Int.Cl. G06F 9/50(2006.01) (54)发明名称 面向大规模差分算子的资源并行调度与优 化方法及系统 (57)摘要 本发明公开了一种面向大规模差分算子的 资源并行调度与优化方法及系统， 本发明以分布 式计算、 计算机系统与结构和分片技术为指导思 想， 使用分布式框架将任务执行单元与主机相 连， 组成集群， 并在集群的环境下使用中间件， 具 有自动并行化翻译和资源调度的功能。 针对大规 模算子， 分析算子结构， 寻找共性， 将其不同之 处 提取出来作为参数传递， 并翻译出其并行化代 码。 本发明不仅可以实现算子在集群上的高效计 算， 而且可以对其他串行程序转换为并行程序的 课题起到帮助作用。 灵活变动后， 除了可 以使待 处理的任务在集群上运行， 若任务量较小， 也可 以在单独的主机上实现CPU\GPU的在协同计算。 权利要求书1页 说明书5页 附图2页 CN 115509743 A 2022.12.23 CN 115509743 A 1.一种面向大规模差分算子的资源并行调度与优化方法， 其特 征在于， 包括以下步骤： 步骤1： 提取差分算子， 分析其中共同的部分， 取其共性表达， 将不同之处抽取出来作为 参数， 将得到的差分算子转换成多 线程C代码和CUDA下的代码； 步骤2： 获取需求任务， 即差分算子需要重复计算的次数N； 将需求任务发送至集群； 步骤3： 将总需求任务进行划分， 将需求任务合理地分配给集群中任务执行单元的CPU 和GPU进行计算， 将计算结果存 储。 2.根据权利要求1所述的面向大规模差分算子的资源并行调度与优化方法， 其特征在 于： 步骤3中， 通过分布式框架来将总需求任务进行划分， 将总的任务数N作为输入， 通过一 个消息中间件联系； 所述消息中间件将总任务数N分别分配给各个任务执行单元， 并监视每 个任务执 行单元的运行情况； 当任务执 行单元的运算结束后将结果存 储。 3.根据权利要求2所述的面向大规模差分算子的资源并行调度与优化方法， 其特征在 于： 步骤3中， 所述消息中间件， 是将并行化以后的差 分算子与需要计算的次数， 即一个任务 执行单元的任务数作为输入， 经过资源调度模型， 按照CPU和GPU同时完成任务的情况下计 算的总时间最短这 一原则分配任务， 实现二 者同时进行计算； 所述资源调度模型， 首先对于 需要计算的差分算子进行提取然后进入差分算子共性分 析， 分析差 分算子的共性并进 行提取， 提取完成后对于查分算子进 行结构化表达， 之后生成 多线程实现代码和CUDA实现代码， 对传 入的数据进 行分片并且赋予元数据标签标记数据块 在源数据的位置以便后续合并； 对于新的数据的传入， 首先在数据库中判断要调用的 Worker是否存在已经配置好的相关参数， 包括CPU的块数， GPU的块数和CPU上创建的线程 数； 如果不存在相关参数就发送任务， 让Wor ker调用插桩程序进 行拟合， 并且得出相关的结 果中获得这些参数； 然后根据这些参数同数据一起发送到任务队列等待从机拉取任务运 行。 4.一种面向大规模差分算子的资源并行调度与优化系统， 其特 征在于， 包括以下模块： 模块1， 用于提取差分算子， 分析其中共同的部分， 取其共性表达， 将不同之处抽取出来 作为参数， 将得到的差分算子转换成多 线程C代码和CUDA下的代码； 模块2， 用于获取需求任务， 即差分算子需要重复计算的次数N； 将需求任务发送至集 群； 模块3， 用于将总需求任务进行划分， 将需求任务合理地分配给集群 中任务执行单元的 CPU和GPU 进行计算， 将计算结果存 储。权　利　要　求　书 1/1 页 2 CN 115509743 A 2面向大规 模差分算子的资源并行调度与优化方 法及系统 技术领域 [0001]本发明属于计算机学科并行计算、 中间件及资源调度技术领域， 涉及一种面向大 规模差分算子的资源并行调 度与优化方法及系统， 具体涉及一种集群环境下多粒度并行计 算与自动并行化和资源调度的中间件相结合的面向大规模差分算子的资源并行调度与优 化方法及系统。 背景技术 [0002]差分算子是一种 算子， 对任一实函数f(x)， 若记Δf(x)＝f(x+1) ‑f(x)， 则称Δ为 向前差分算子， 简称差 分算子。 差 分是计算数学的基本概念之一， 指 离散函数在离散节点上 的改变量。 差分算子在数值积分、 数值 微分和微分方程的数值 解中是很有用的。 [0003]资源调度是将工作分配给完成工作的资源的方法。 工作可能是虚拟计算元素， 例 如线程、 进程或数据流， 这些元素又被调度到硬件资源(例如处理器、 网络链接或扩展卡) 上。 如何合理的分配 计算资源来 提高计算速率是本研究的主 要内容。 [0004]异构计算主要指不同类型的指令集和体系架构的计算单元组成的系统的计算方 式。 使用不同的类型指令集、 不同的体系架构的计算单元， 组成一个混合的系统， 执行计算 的特殊方式， 就 叫做“异构计算 ”。 [0005]中间件是介于应用系统和系统软件之间的一类软件， 它使用系统软件所提供的基 础功能， 衔接网络上应用系统的各个部 分或不同的应用， 能够达到 资源共享、 功能共享的目 的。 发明内容 [0006]本发明的目的在于提供一种集群环境下多粒度并行计算与自动 并行化和 资源调 度的中间件相结合的面向大规模差 分算子的资源并行调 度与优化方法及系统， 实现资源的 最优调度。 [0007]本发明的方法所采用的技术方案是： 一种面向大规模差分算子的资源并行调度与 优化方法， 包括以下步骤： [0008]步骤1： 提取差分算子， 分析其中共同的部分， 取其共性表达， 将不同之处抽取出来 作为参数， 将得到的差分算子转换成多 线程C代码和CUDA下的代码； [0009]步骤2： 获取需求任务， 即差分算子需要重复计算的次数N； 将需求任务发送至集 群； [0010]步骤3： 将总需求任务进行划分， 将需求任务合理地分配给集群中任务执行单元的 CPU和GPU 进行计算， 将计算结果存 储。 [0011]本发明系统所采用的技术方案是： 一种面向大规模差分算子的资源并行调度与优 化系统， 包括以下模块： [0012]模块1， 用于提取差分算子， 分析其中共同的部分， 取其共性表达， 将不同之处抽取 出来作为 参数， 将得到的差分算子转换成多 线程C代码和CUDA下的代码；说　明　书 1/5 页 3 CN 115509743 A 3