(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211057966.X (22)申请日 2022.08.30 (71)申请人 阿里巴巴 （中国） 有限公司 地址 310023 浙江省杭州市余杭区五常街 道文一西路969号3幢5层5 54室 (72)发明人 孙德东　刘强奇　张松然　畅振华　 (74)专利代理 机构 北京布瑞知识产权代理有限 公司 11505 专利代理师 尚文文 (51)Int.Cl. G06F 9/48(2006.01) G06F 9/50(2006.01) (54)发明名称 限流方法、 装置、 任务响应系统、 电子设备及 存储介质 (57)摘要 本说明书实施例提供了一种限流方法、 装 置、 任务响应系统、 电子设备及存储介质， 其中， 该限流方法对包括多个不同优先级的任务 队列 的任务集合进行动态限流， 即将第二任务队列的 限流值与第一任务 队列的历史任务响应数量关 联起来， 使得优 先级相对较低的第二任务队列的 限流值与第一任务 队列的历史任务响应数量负 相关， 当第一任务队列的历史任务响应数量越大 时， 优先级较低的第二任务队列的限流值就越 低， 以在第二任务队列在当前单位时间的任务响 应数量超 过其对应的限流值时， 对第二任务队列 中的任务请求执行拒绝策略， 该拒绝策略包括令 请求响应的任务请求排 队等待或丢弃请求响应 的任务请求， 实现对第二任务队列的限流， 保障 优先级较高的第一任务队列可以获得及时响应 。 权利要求书2页 说明书12页 附图8页 CN 115357363 A 2022.11.18 CN 115357363 A 1.一种限流方法， 其特 征在于， 所述限流方法包括： 根据任务集合中第 一任务队列的历史任务响应数量， 调整所述任务集合中第 二任务队 列对应的限流值， 所述任务集合中包括多个优先级不同的任务队列， 所述第一任务队列为 所述任务集合中优先级高于所述第二任务队列的优先级的任务队列， 所述历史任务响应数 量表征所述第一任务队列在上一个单位时间内被响应的任务请求数量， 所述第二任务队列 对应的限流 值与所述第一任务队列的历史任务响应数量负相关； 根据所述第二任务队列的限流 值， 对所述第二任务队列进行限流。 2.根据权利要求1所述的方法， 其特征在于， 所述根据任务集合中第 一任务队列的历史 任务响应数量， 调整所述任务 集合中第二任务队列对应的限流 值包括： 将最大流量阈值与 所述任务集合中第 一任务队列的历史任务响应数量之差， 作为所述 第二任务队列对应的 限流值， 所述最大流量阈值为服务器在所述单位时间内的最大任务请 求响应数量。 3.根据权利要求1所述的方法， 其特征在于， 所述根据任务集合中第 一任务队列的历史 任务响应数量， 调整所述任务 集合中第二任务队列对应的限流 值包括： 获取所述第 一任务队列的权重流量， 所述权重流量为所述第 一任务队列的历史任务响 应数量与所述第一任务队列对应权重的乘积， 所述第一任务队列对应权重与所述第一任务 队列的优先级正相关； 将最大流量阈值与 所述第一任务队列的权重流量的差值， 作为所述第 二任务队列对应 的限流值， 所述最大流量阈值为服务器在所述单位时间内的最大任务请求响应数量。 4.根据权利要求1所述的方法， 其特征在于， 所述根据所述第二任务队列的限流值， 对 所述第二任务队列进行限流包括： 利用令牌桶对所述第 二任务队列进行限流， 所述令牌桶的令牌生成速率为所述第 二任 务队列的限流 值。 5.根据权利要求4所述的方法， 其特征在于， 所述利用令牌桶对所述第 二任务队列进行 限流包括： 若所述第二任务队列对应的令牌桶中的令牌数量小于或等于预设数量， 则暂停响应所 述第二任务队列中的任务请求。 6.根据权利要求1 ‑5任一项所述的方法， 其特 征在于， 还 包括： 将所述任务集合中优先级最高的任务队列的限流值设置为最大流量阈值， 所述最大流 量阈值为服务器在所述单位时间内的最大任务请求响应数量。 7.根据权利要求1 ‑5任一项所述的方法， 其特 征在于， 还 包括： 利用滑动窗口法， 统计所述任务队列的历史任务响应数量。 8.一种限流方法， 其特 征在于， 包括： 根据关联任务队列的历史任务响应数量， 调整预设任务队列对应的限流值， 所述关联 任务队列为优先级高于所述预设任务队列的任务队列； 根据所述预设任务队列的限流 值， 对所述预设任务队列进行限流。 9.一种任务响应系统， 其特 征在于， 包括： 终端和服 务器； 其中， 所述终端， 用于向所述 服务器发送任务请求； 所述服务器， 用于根据权利要求1 ‑8任一项所述的限流方法对任务队列进行限流， 在所权　利　要　求　书 1/2 页 2 CN 115357363 A 2述任务请求所属的任务队列处于第一状态时， 响应所述任务请求， 并将响应所述任务请求 获得的响应结果发送给 所述终端； 所述任务队列处于第一状态为在最近一个单位时间内被响应的任务请求数量小于或 等于所述任务队列对应的限流 值。 10.根据权利要求9所述的系统， 其特征在于， 所述服务器还用于在所述任务请求所属 的任务队列 处于第二状态 时， 延迟响应所述任务请求， 以使所述任务队列在单位时间内被 响应的任务请求数量小于或等于所述任务队列对应的限流 值； 所述任务队列处于第二状态为在最近一个单位时间内被响应的任务请求数量大于所 述任务队列对应的限流 值。 11.一种限流装置， 其特 征在于， 包括： 第一调整模块， 用于根据任务集合中第一任务队列的历史任务响应数量， 调整所述任 务集合中第二任务队列对应的限流值， 所述任务集合中包括多个优先级不同的任务队列， 所述第一任务队列为所述任务集合中优先级高于所述第二任务队列的优先级的任务队列， 所述历史任务响应数量表征所述第一任务队列在上一个单位时间内的被响应的任务请求 数量， 所述第二任务队列对应的限流 值与所述第一任务队列的历史任务响应数量负相关； 第一限制模块， 用于根据所述第二任务队列的限流 值， 对所述第二任务队列进行限流。 12.一种限流装置， 其特 征在于， 包括： 第二调整模块， 用于根据关联任务队列的历史任务响应数量， 调整预设任务队列对应 的限流值， 所述关联任务队列为优先级高于所述预设任务队列的任务队列； 第二限制模块， 用于根据所述预设任务队列的限流 值， 对所述预设任务队列进行限流。 13.一种电子设备， 其特 征在于， 包括： 存 储器和处 理器； 其中， 所述存 储器与所述处 理器连接， 所述存 储器用于存 储程序； 所述处理器， 用于通过运行所述存储器 中存储的程序， 实现如权利要求1 ‑8任一项所述 的限流方法。 14.一种存储介质， 其特征在于， 所述存储介质上存储有计算机程序， 所述计算机程序 被处理器运行时， 实现如权利要求1 ‑8任一项所述的限流方法。权　利　要　求　书 2/2 页 3 CN 115357363 A 3