(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211496611.0 (22)申请日 2022.11.28 (71)申请人 长沙海信智能系统研究院有限公司 地址 410006 湖南省长 沙市岳麓区洋湖街 道潇湘南路一段368号中盈广场C座5 层502号 (72)发明人 曾小兵　闾凡兵　刘亚　姚胜　 刘纬琪　黄海阔　 (74)专利代理 机构 长沙市岳麓慧专利代理事务 所(普通合伙) 43270 专利代理师 王中华 (51)Int.Cl. G06F 8/60(2018.01) G06F 9/445(2018.01) G06V 20/40(2022.01) (54)发明名称 AI场景算法接入部署方法、 装置及电子设备 (57)摘要 本发明提供一种AI场景算法接入部署方法、 装置及电子设备， 本发明根据AI场景算法抽象多 态方法， 得到AI场景算法多态子类及其接口， 生 成AI场景算法标准库； 将AI场景算法标准库接入 至AI场景应用及系统； 创建接入的AI场景算法服 务； 通过模型初始化接口初始化并加载接入的AI 场景算法模 型； 基于当前视频点位流入的视频流 图片， 调用AI场景算法服务的算法推理接口， 进 行视频流图片的预处理、 模型推理以及图片后处 理， 输出视频流图片的分析结果至AI场景应用及 系统界面展示， 实现AI场景算法的自动接入部 署、 动态加载推理， 减少AI场景算法应用成本， 精 简其实施与运维， 提高AI场景算法的接入部署效 率； 具有通用性， 适应范围广。 权利要求书2页 说明书9页 附图5页 CN 115525298 A 2022.12.27 CN 115525298 A 1.一种AI场景算法接入部署方法， 其特 征在于， 包括如下步骤： 步骤S1、 根据AI场景算法抽象多态方法， 得到AI场景算法多态子类及其接口， 生成AI场 景算法标准库； 将AI场景算法标准库接入至AI场景应用及系统； 步骤S2、 基于步骤S1接入的AI场景算法标准库的名称， 创建接入的AI场景算法服务； 通 过AI场景算法服务的模型信息获取模型初始化接口， 得到AI场景算法的初始化参数； 基于 所述初始化 参数， 通过模型初始化接口初始化并加载接入的AI场景算法模型； 步骤S3、 在接入的AI场景算法模型被初始化成功后， 基于当前视频点位流入的视频流 图片， 调用A I场景算法服务的算法推理接口， 进 行视频流图片的预 处理、 模型推理以及图片 后处理， 输出视频流图片的分析 结果至AI场景应用及系统界面展示。 2.如权利要求1所述的AI场景算法接入部署方法， 其特征在于， 步骤S1中， 所述AI场景 算法抽象多态方法包括AI场景算法抽象方法和AI场景算法多态方法； 所述AI场景算法抽象方法包括定义枚举类型算法接口返回状态码、 定义结构体类型算 法区域成员、 定义基 类成员变量和定义基 类纯虚接口； 所述AI场景算法多态方法包括模型初始化、 算法推理、 模型卸载、 模型信息获取、 广泛 适应性命名和软硬件通用性 运行。 3.如权利要求2所述的AI场景算法接入部署方法， 其特征在于， 所述AI场景算法多态方 法中的模型初始化包括： 输入初始化 参数； 对所述初始化参数进行合法性判断， 并在初始化参数通过合法性判断的情况下配置参 数； 判断指定GPU卡是否已加载接入的AI场景算法模型； 如果指定GPU卡已加载接入的AI场景算法模型， 输出状态码； 如果指定GPU卡未加载接入的AI场景算法模型， 加载所述AI场景算法模型后输出状态 码。 4.如权利要求2所述的AI场景算法接入部署方法， 其特征在于， 所述AI场景算法多态方 法中的算法推理包括： 输入视频解码后的视频帧图片参数； 对图片参数进行合法性判断， 在图片参数通过合法性判断的情况下进行图片预处理、 模型推理以及图片后处理后， 输出视频帧图片分析的结果， 其中， 图片预 处理包括图片转换 大小、 BGR转RGB、 图片转换浮 点数。 5.如权利要求2所述的AI场景算法接入部署方法， 其特征在于， 所述AI场景算法多态方 法中的模型卸载包括： 通过AI场景算法服务的模型卸载接口， 在清理或者无算法推理任务时， 实现AI场景算 法数据的清理与内存的释放， 无输入输出参数， 仅有 整型的算法接口返回状态码参数。 6.如权利要求2所述的AI场景算法接入部署方法， 其特征在于， 所述AI场景算法多态方 法中的模型信息获取包括： 获取算法模型的名称、 版本、 算法参数。 7.如权利要求2所述的AI场景算法接入部署方法， 其特征在于， 所述AI场景算法多态方 法中的广泛适应性命名包括：权　利　要　求　书 1/2 页 2 CN 115525298 A 2采用匈牙利法进行广泛适应性命名， 进行部分适配优化。 8.如权利要求2所述的AI场景算法接入部署方法， 其特征在于， 所述AI场景算法多态方 法中的软硬件通用性 运行包括： 采用最低软硬件配置方式实现软硬件通用性 运行。 9.一种AI场景算法接入部署装置， 其特 征在于， 包括： 接入单元， 用于根据AI场景算法抽象多态方法， 基于C/C++11标准， 得到AI场景算法多 态子类及其接口， 生成AI场景算法标准库； 将AI场景算法标准库接入至AI场景应用及系统； 加载单元， 用于基于接入的AI场景算法标准库的名称， 创建接入的AI场景算法服务； 通 过AI场景算法服务的模型信息获取模型初始化接口， 得到AI场景算法的初始化参数； 基于 所述初始化 参数， 通过模型初始化接口初始化并加载接入的AI场景算法模型； 输出单元， 用于在接入的AI场景算法模型被初始化成功后， 基于当前视频点位流入的 视频流图片， 调用A I场景算法服务的算法推理接口， 进 行视频流图片的预 处理、 模型推理以 及图片后处 理， 输出视频流图片的分析 结果至AI场景应用及系统界面展示。 10.一种电子设备， 其特征在于， 包括： 存储器和处理器， 所述存储器存储有计算机程 序， 所述计算机程序被所述处理器执行时， 使得所述处理器执行如权利要求 1‑8中任一项 所 述方法的步骤。权　利　要　求　书 2/2 页 3 CN 115525298 A 3