期刊文献+
共找到1篇文章
< 1 >
每页显示 20 50 100
基于有状态实时流的流批一体数据处理平台的设计与研究 被引量:1
1
作者 周维 曹扬 +1 位作者 谢红韬 胡建 《现代信息科技》 2024年第6期29-34,共6页
当今,数据的规模和复杂性不断增加,对数据处理平台的要求也越来越高。传统的批处理和实时处理技术各有优缺点,很难满足大规模数据处理的需求。因此,流批一体化的数据处理平台应运而生。文章在讨论流批一体核心架构设计的基础上,提出一... 当今,数据的规模和复杂性不断增加,对数据处理平台的要求也越来越高。传统的批处理和实时处理技术各有优缺点,很难满足大规模数据处理的需求。因此,流批一体化的数据处理平台应运而生。文章在讨论流批一体核心架构设计的基础上,提出一种基于有状态实时流的流批一体数据处理方法,并通过平台化的方式实现流批一体数据的处理与计算。该平台先后在四川高速集团、贵阳政府单位示范应用,应用结果表明平台不仅统一了批处理和流处理框架,而且具有高效、可靠、可扩展等优点,同时能够满足大规模数据处理的需求。该平台的实现对于提高数据处理效率和准确性具有重要意义。 展开更多
关键词 批处理 有状态实时流 平台化 批一体
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部