说明:收录全网最新的团体标准 提供单次或批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211047024.3 (22)申请日 2022.08.30 (71)申请人 中国银行股份有限公司 地址 100818 北京市西城区复兴门内大街1 号 (72)发明人 郭志豪  (74)专利代理 机构 北京集佳知识产权代理有限 公司 11227 专利代理师 张东梅 (51)Int.Cl. G06F 16/25(2019.01) G06F 16/2455(2019.01) G06F 16/28(2019.01) (54)发明名称 ETL脚本生成方法、 装置、 存 储介质和设备 (57)摘要 本申请公开了一种ETL脚本生成方法、 装置、 存储介质和设备, 应用于大数据领域, 该方法为: 获取待处理数据表的元数据信息表以及环境参 数; 对元数据信息表进行解析, 得到待处理数据 表的开发参数; 对环境参数进行解析, 得到目标 系统层级; 从预先配置的系统参数中, 获取与目 标系统层 级对应的结构化查询语言加工模板, 标 识为目标模板; 将开发参数加载至目标模板的变 量中, 得到与待处理数据表对应的ET L脚本。 该方 法将开发参数加载至目标模板的变量中, 得到与 待处理数据表对应的ETL脚本, 代替人工重新开 发ETL脚本, 有效减少ETL脚本的开发时间, 以使 ETL脚本的开发效率得到 显著提高。 权利要求书2页 说明书7页 附图3页 CN 115309811 A 2022.11.08 CN 115309811 A 1.一种ETL脚本生成方法, 其特 征在于, 包括: 获取待处 理数据表的元 数据信息表以及环境 参数; 对所述元 数据信息表进行解析, 得到所述待处 理数据表的开发参数; 对所述环境参数进行解析, 得到目标系统层级; 所述目标系统层级代表所述待处理数 据表在数据仓库中所处的系统层级; 从预先配置的系统参数中, 获取与所述目标系统层级对应的结构化查询语言加工模 板, 标识为目标模板; 所述结构化查询语言加工模板包括生成ETL脚本所需的数据加工逻 辑、 SQL命令、 变量; 将所述开发参数加载至所述目标模板的变量中, 得到与所述待处理数据表对应的ETL 脚本。 2.根据权利要求1所述的方法, 其特征在于, 所示将所述开发参数加载至所述目标模板 的变量中, 得到与所述待处 理数据表对应的ETL脚本之后, 还 包括: 从所述系统参数中获取与所述目标系统层级对应的配置文件, 标识为目标配置文件; 所述配置文件 包括公用配置信息; 读取所述目标配置文件, 得到目标公用配置信息; 将所述目标公用配置信息, 加载至预设的python进程中, 以使所述python进程读取所 述目标公用配置信息, 得到目标变量; 利用所述目标变量 替换所述ETL脚本中的变量, 得到目标处 理逻辑; 利用所述目标处 理逻辑, 将所述待处 理数据表中的数据保存到所述数据仓库中。 3.根据权利要求2所述的方法, 其特征在于, 所述将所述目标公用配置信息, 加载至预 设的python进程中, 以使所述python进程读取所述目标公用配置信息, 得到目标变量, 包 括: 从所述系统参数中获取与所述目标系统层级对应的算法文件, 标识为目标算法文件; 所述算法文件 包括接口配置; 读取所述目标算法文件, 得到目标接口配置; 将所述目标公用配置信息以及所述目标接口配置, 加载至预设的python进程中, 以使 所述pytho n进程读取 所述目标公用配置信息以及所述目标接口配置, 得到目标变量。 4.根据权利要求2所述的方法, 其特征在于, 所述利用所述目标处理逻辑, 将所述待处 理数据表中的数据保存到所述数据仓库中 调用所述python进程将所述目标处理逻辑提交到所述数据仓库中, 以使所述数据仓库 运行所述目标处 理逻辑, 将所述待处 理数据表中的数据保存到所述数据仓库中。 5.一种ETL脚本生成装置, 其特 征在于, 包括: 获取单元, 用于获取待处 理数据表的元 数据信息表以及环境 参数; 表解析单元, 用于对所述元 数据信息表进行解析, 得到所述待处 理数据表的开发参数; 参数解析单元, 用于对所述环境参数进行解析, 得到目标系统层级; 所述目标系统层级 代表所述待处 理数据表在数据仓库中所处的系统层级; 模板获取单元, 用于从预先配置的系统参数中, 获取与所述目标系统层级对应的结构 化查询语 言加工模板, 标识 为目标模板; 所述结构化查询语言加工模板包括生成ETL脚本所 需的数据加工 逻辑、 SQL命令、 变量;权 利 要 求 书 1/2 页 2 CN 115309811 A 2参数加载单元, 用于将所述开发参数加载至所述目标模板的变量中, 得到与所述待处 理数据表对应的ETL脚本 。 6.根据权利要求5所述的装置, 其特 征在于, 还 包括脚本执 行单元; 所述脚本执行单元, 用于: 从所述系统参数中获取与所述目标系统层级对应的配置文 件, 标识为 目标配置文件; 所述配置文件包括公用配置信息; 读取所述 目标配置文件, 得到 目标公用配置信息; 将所述目标公用配置信息, 加载至预设的python进程中, 以使所述 python进程读取所述目标公用配置信息, 得到目标变量; 利用所述目标变量替换所述ETL脚 本中的变量, 得到目标 处理逻辑; 利用所述目标 处理逻辑, 将所述待处理数据 表中的数据保 存到所述数据仓库中。 7.根据权利要求6所述的装置, 其特 征在于, 所述脚本执 行单元具体用于: 从所述系统参数中获取与所述目标系统层级对应的算法文件, 标识为目标算法文件; 所述算法文件 包括接口配置; 读取所述目标算法文件, 得到目标接口配置; 将所述目标公用配置信息以及所述目标接口配置, 加载至预设的python进程中, 以使 所述pytho n进程读取 所述目标公用配置信息以及所述目标接口配置, 得到目标变量。 8.根据权利要求6所述的装置, 其特 征在于, 所述脚本执 行单元具体用于: 调用所述python进程将所述目标处理逻辑提交到所述数据仓库中, 以使所述数据仓库 运行所述目标处 理逻辑, 将所述待处 理数据表中的数据保存到所述数据仓库中。 9.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质包括存储的程序, 其中, 所述 程序执行权利要求1 ‑4任一所述的ETL脚本生成方法。 10.一种ETL脚本生成设备, 其特征在于, 包括: 处理器、 存储器和总线; 所述处理器与所 述存储器通过 所述总线连接; 所述存储器用于存储程序, 所述处理器用于运行程序, 其中, 所述程序运行时执行权利 要求1‑4任一所述的ETL脚本生成方法。权 利 要 求 书 2/2 页 3 CN 115309811 A 3

.PDF文档 专利 ETL脚本生成方法、装置、存储介质和设备

文档预览
中文文档 13 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共13页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 ETL脚本生成方法、装置、存储介质和设备 第 1 页 专利 ETL脚本生成方法、装置、存储介质和设备 第 2 页 专利 ETL脚本生成方法、装置、存储介质和设备 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 16:58:50上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。