(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211212624.0 (22)申请日 2022.09.30 (71)申请人 上海交通大 学 地址 200240 上海市闵行区东川路80 0号 (72)发明人 李超　王靖　贺昊　梅君夷　 汪陶磊　过敏意　 (74)专利代理 机构 上海交达专利事务所 31201 专利代理师 王毓理　王锡麟 (51)Int.Cl. G06F 9/50(2006.01) G06F 9/48(2006.01) (54)发明名称 分离式内存架构下的混合远内存调度方法 (57)摘要 一种分离式内存架构下的混合远内存调度 方法， 首先通过限制应用本地内存使用的方式收 集运行时数据， 从而将任务分为远内存不敏感型 任务、 远内存 敏感型任务和远内存禁止使用型任 务； 根据敏感程度互补原则， 将内存不敏感型任 务和内存 敏感型任务分配到同一个计算节点， 根 据任务在同等性能限制条件下的最大可让出内 存， 当对应的服务器之间的整体可出让内存值相 差较大时进行跨节点的内存资源调整， 确定服务 器的出让的内存值或者租借的远内存值， 之后进 行节点内部的内存资源调整， 根据服务器的当前 剩余内存资源， 按照敏 感型任务更多额外本地内 存资源的原则， 为每个任务进行资源分配， 实现 混合远内存调度。 本发明充分挖掘应用在远内存 环境下的特点， 继而通过高效的远内存分配策 略， 提升数据中心中的内存利用率和使用效率。 权利要求书3页 说明书6页 附图5页 CN 115495246 A 2022.12.20 CN 115495246 A 1.一种分离式内存架构下的混合远内存调度方法， 其特征在于， 首先通过限制应用本 地内存使用的方式收集运行时数据， 从而将任务分为远内存不敏感型任务、 远内存敏感型 任务和远内存禁止使用型任务； 根据敏感程度互补原则， 将 内存不敏感型任务和内存敏感 型任务分配到同一个计算节点， 根据任务在同等性能限制条件下 的最大可让出内存， 当对 应的服务器之 间的整体可出让内存值相差较大时进行跨节点的内存资源调整， 确定服务器 的出让的内存值或者租借 的远内存值， 之后进行节点内部的内存资源调整， 根据服务器的 当前剩余内存资源， 按照敏感型任务更多额外本地内存资源的原则， 为每个任务进行资源 分配， 实现混合远内存调度。 2.根据权利要求1所述的分离式内存架构下的混合远 内存调度方法， 其特征是， 所述的 混合远内存， 包括： 横向远内存和纵向远内存， 其中： 横向远内存包括通过RDMA网卡连接的 访问的远端DRAM空间， 纵向远内存包括通过linux  swap机制和I/O接口访问的同服务器的 存储如磁盘 设备、 SSD设备的存储空间； 应用的总内存空间Mem由三部 分相加， 包括本地内存 空间Memlm、 向远内存空间Memhfm和纵向远内存空间Memvfm。 3.根据权利要求1所述的分离式内存架构下的混合远 内存调度方法， 其特征是， 所述的 将内存不敏感型任务和内存敏感型任务分配到同一个计算节点是指： 根据任务i的本地内 存空间 和可出让 内存值SIi、 服务器的id及其剩余内存容量Cj， 计算得到每个任务应 该放置的服 务器节点 id， 具体为： i)当满足总剩余的资源Res， 即 大于当前任务组最小需分配的资源MinAllo， 即 时， 执行步骤ii)； ii)对当前任务组中的所有任务按照每个任务最大可出让内存值 和组内可出让内 存平均值S Iavg的差排序， 即根据 的大小排序， 使用背包算法按照每个任务的最 小本地内存 分配， 并优先把 相近的且符号不同的任务 分配到同一个服 务器上； iii)实时计算服务器预计剩余容量Cj， 当 并且 认为当前服 务器填满， 并开始为下一个服 务器安放任务； iv)返回执 行步骤i)， 直到遍历完每 个任务。 4.根据权利要求1或3所述的分离式内存架构下的混合远内存调度方法， 其特征是， 所 述的计算节点， 根据每个任务的最大可出让内存， 按照比例调整每个任务本地内存使用和 横向远内存和纵向远内存使用大小。 5.根据权利要求1所述的分离式内存架构下的混合远 内存调度方法， 其特征是， 所述的 跨节点的内存资源调整， 具体包括： i)计算服务器的整体可出让内存值ServerSI值， 即任务未分配时的服务器剩余 内存容 量和已分配任务的最小本地内存资源差值， 即ServerSIj＝Cj‑MinAllo； ii)计算每个服务器整体的可出让内存ServerSIj的平均值ServerSIavg， 当ServerSIj‑ ServerSIavg＞0时， 服务器需要出让|ServerSIj‑ServerSiavg|的内存容量， 否则服务器需要 借入|ServerSIj‑ServerSIavg|的内存容 量。权　利　要　求　书 1/3 页 2 CN 115495246 A 26.根据权利要求1或2所述的分离式内存架构下的混合远内存调度方法， 其特征是， 所 述的节点内部的内存资源调整是指： 调节服务器节点内部每个任务的本地内存、 横向远内 存、 纵向远内存的内存资源 大小， 以达到任务敏感性应用拥有相对更大比例的SI值的效果， 具体包括： i)收集当前服务器中每个任务的最小本地内存值 和 计算当前服务器的 最大可支配 的内存资源值ServerSI＝Min(ServerSI， ServerSIavg)； 对于出让内存的服务 器， 仅需要提供总的出让内存即可， 这些内存空间作为其他服务器上 的任务横向远内存使 用， 每个任务远内存的使用数量会在接下来的步骤中计算； ii)计算每个任务的可增加的本地内存资源值， 各任务的可增加的本地资源的比例与 各任务自身的 成反比， 即 则该任务的本地内存空间Memlm＝Minlm+Δlm； iii)计算任务的横向远内存空间 其中： 每个任务ii仅包括 的是服务器中的远内存敏感型任务， 同时满足ServerSIj‑ServerSIavg＞0； iv)计算每 个任务的纵向远内存值 等于Memvfm＝Mem‑Memlm‑Memhfm； v)返回最终的每 个节点的最终内存分配情况。 7.根据权利要求1或2或3或5所述的分离 式内存架构下的混合远 内存调度 方法， 其特征 是， 当计算节点的远内存敏感性发生变化或某个任务结束而其他任务尚未结束时， 该计算 节点重新进行跨节点的内存资源调整和节点内部的资源调整， 运行结束后 释放相关资源并 重新计算下一次的任务队列中任务的分配情况； 所述的计算节点的远内存敏感性发生变化是指： 通过周期性检测页面错误数的差值， 判断任务的远内存敏感性； 当页面错误的差值为正且连续三次以上大于平均页错误个数 时， 认为其敏感性由远内存不敏感型转换为远内存敏感型； 当页面错误的差值为负且连续 三次以上 大于平均页错 误个数时， 认为 其敏感性由远内存敏感型转换为远内存敏感型； 所述的重新进行跨节点的内存资源调整和节点内部的资源调 整是指： 当任务由远 内存 敏感变为不敏感时， 和某任务完成而其他任务还没有结束时， 需要优先获取服务器当前 的 可出让内存值SI的变化ΔSI， 当该变化大于某个阈值， 则调用跨节 点调整模块， 出让部 分内 存作为远内存访问， 之后调用节点内部调整模块， 为每个正在运行 的任务分配适当比例的 内存； 同时， 当远内存不敏感变为敏感时， 要优先获取服务器当前的SI值的变化ΔSI， 当该 变化大于某个阈值， 则调用跨节点调整模块， 求借部 分内存作为本地任务的远内存访问， 之 后调用节点内部调整模块， 为每 个正在运行的任务分配适当比例的远内存。 8.根据权利要求1所述的分离式内存架构下的混合远 内存调度方法， 其特征是， 所述的 为每个任务进行资源分配， 包括分配本地内存资源的大小、 横向远内存资源的大小和纵向 远内存的大小。 9.一种实现权利要求1 ‑8中任一所述分离式内存架构下的混合远内存调度方法的系 统， 其特征在于， 包括： 阶段性的基于远内存的应用敏感性分析单元、 根据敏感性和自身特 性的任务分组单元、 基于负载均衡的计算节点选取单元、 跨节点内存资源调整单元以及节 点内部内存资源调整 单元， 其中： 应用敏感性分析单元通过限制应用本地内存使用的方式， 进行线上运行时数据采集， 收集到应用的运行时数据， 并计算敏感性相关的应用参数； 任务权　利　要　求　书 2/3 页 3 CN 115495246 A 3