说明:收录全网最新的团体标准 提供单次或批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211007439.8 (22)申请日 2022.08.22 (71)申请人 成都九洲电子信息系统股份有限公 司 地址 610041 四川省成 都市成都高新区天 府大道中段76 5号天府软件园 (72)发明人 李茂源 王贺 王定平 廖莎  徐向茹  (74)专利代理 机构 成都正德明志知识产权代理 有限公司 513 60 专利代理师 鲍利蕊 (51)Int.Cl. G06F 9/50(2006.01) G06F 3/06(2006.01) G06F 16/14(2019.01) (54)发明名称 基于流式读取的大数据量Excel文件导出方 法及系统 (57)摘要 本发明公开了一种基于流式读取的大数据 量Excel文件导出方法及系统, 基于流式读取技 术, 使得大数据量情况下, 处理每个用户导出请 求占用的内存空间既定, 且在处理过程中及时释 放内存, 有效解决了现有技术中大数据量情况下 Excel文件导出时占用内存资源 过大导致系统性 能下降, 甚至造成内存溢出导致导出任务失败的 问题。 权利要求书1页 说明书4页 附图2页 CN 115357388 A 2022.11.18 CN 115357388 A 1.基于流式读取的大 数据量Excel文件导出 方法, 其特 征在于, 包括以下步骤: S1、 接收客户端发出的数据导出请求, 读取配置文件中待处理数据的参数配置, 并根据 待处理数据的参数配置循环读取既定条 数数据至内存中的待处 理数据队列中; S2、 从待处理数据队列中逐条读取数据写入Excel文件, 并及时释放处理完成数据占用 的内存空间及Excel临时文件缓存空间, 直至待处 理数据队列中全部数据写入完成; S3、 将生成的Excel文件发送至客户端供用户下 载保存。 2.根据权利要求1所述的大数据量Excel文件导出方法, 其特征在于, 所述步骤S1包括 以下分步骤: S11、 通过应用服 务器接收客户端发出的数据导出请求; S12、 读取配置文件中待处 理数据的参数配置; S13、 根据数据导出请求传递的数据条件组装向数据库发送的查询请求的查询条件; S14、 与数据库建立连接并发送查询请求; S15、 根据待处理数据的参数配置循环读取既定条数数据至内存中的待处理数据队列 中。 3.根据权利 要求2所述的大数据 量Excel文件导出方法, 其特征在于, 所述步骤S12中待 处理数据的参数配置包括待处 理数据的队列长度和Excel每 个Sheet页的容 量限制。 4.根据权利要求3所述的大数据量Excel文件导出方法, 其特征在于, 所述步骤S2包括 以下分步骤: S21、 判断待处理数据队列中是否有数据待写入, 若是则进入步骤S22, 否则进入步骤 S3; S22、 根据Excel每个Sheet页的容量限制判断当前Sheet页是否容量已满, 若是则进入 步骤S23, 否则进入步骤S24; S23、 刷新当前She et页数据占用缓存至 Excel文件, 新建She et页作为当前She et页; S24、 从待 处理数据队列中读取一条数据写入当前Sheet页, 释放该条数据占用内存, 返 回步骤S21。 5.根据权利要求1所述的大数据量Excel文件导出方法, 其特征在于, 所述步骤S3包括 以下分步骤: S31、 刷新最后一个Sheet页数据占用缓存至Excel文件, 关闭所有数据连接, 清空所有 缓存; S32、 将生成的整个Excel文件发送至客户端供用户下 载保存。 6.基于流式读取的大数据量Excel文件导出系统, 其特征在于, 所述大数据量Excel文 件导出系统用于配置执行如权利要求1 ‑5任一所述的基于流式读取的大数据量Excel文件 导出方法。权 利 要 求 书 1/1 页 2 CN 115357388 A 2基于流式读取的大数据量Excel文件导出方 法及系统 技术领域 [0001]本发明属于数据导出技术领域, 具体涉及一种基于流式读取的大数据量Excel文 件导出方法及系统的设计。 背景技术 [0002]随着信息技术的发展与应用, 目前Excel导出功能已经成为各类信息系统最为基 本的功能需求, 目前处 理Excel数据导出的方法通常包括以下两种: [0003]第一, 一次性从数据库中查询出结果集写入Excel文件后返回, 这种方法在数据规 模大的情况 下会造成服 务端内存溢出, 导 致导出任务失败。 [0004]第二, 分批次查询出结果集写入Excel文件后返回, 这种方法在数据规模大的情况 下会消耗过多的业 务时间, 且在多 线程情况 下也存在内存溢出风险。 发明内容 [0005]本发明的目的是为了解决现有技术中大数据量情况下Excel文件导出时占用内存 资源过大导致系统性能下降, 甚至造成内存溢出导致导出任务失败的问题, 提出了一种基 于流式读取的大 数据量Excel文件导出 方法及系统。 [0006]本发明的技术方案为: 第一方面, 本发明提供了一种基于流式读取的大数据量 Excel文件导出 方法, 包括以下步骤: [0007]S1、 接收客户端发出的数据导出请求, 读取配置文件中待处理数据的参数配置, 并 根据待处 理数据的参数配置循环读取既定条 数数据至内存中的待处 理数据队列中。 [0008]S2、 从待处理数据队列中逐条读取数据写入Excel文件, 并及时释放 处理完成数据 占用的内存空间及Excel临时文件缓存空间, 直至待处 理数据队列中全部数据写入完成。 [0009]S3、 将生成的Excel文件发送至客户端供用户下 载保存。 [0010]进一步地, 步骤S1包括以下分步骤: [0011]S11、 通过应用服 务器接收客户端发出的数据导出请求。 [0012]S12、 读取配置文件中待处 理数据的参数配置 。 [0013]S13、 根据数据导出请求传递的数据条件组装向数据库发送的查询请求的查询条 件。 [0014]S14、 与数据库建立连接并发送查询请求。 [0015]S15、 根据待处理数据的参数配置循环读取既定条数数据至内存中的待处理数据 队列中。 [0016]进一步地, 步骤S12中待处理数据的参数配置包括待处理数据的队列长度和Excel 每个Sheet页的容 量限制。 [0017]进一步地, 步骤S2包括以下分步骤: [0018]S21、 判断待处理数据队列中是否有数据待写入, 若是则进入步骤S22, 否则进入步 骤S3。说 明 书 1/4 页 3 CN 115357388 A 3

.PDF文档 专利 基于流式读取的大数据量Excel文件导出方法及系统

文档预览
中文文档 8 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共8页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 基于流式读取的大数据量Excel文件导出方法及系统 第 1 页 专利 基于流式读取的大数据量Excel文件导出方法及系统 第 2 页 专利 基于流式读取的大数据量Excel文件导出方法及系统 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 13:13:07上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。