基于改进的Flume的实时数据采集系统

作者:朱涛; 孙知信*; 宫婧
来源:科技资讯, 2021, 19(11): 73-79.
DOI:10.16661/j.cnki.1672-3791.2103-5042-0412

摘要

任意一个分布式系统都必须满足CAP理论,在数据分析分析系统中,最为重要的是效率以及可靠性,而数据采集时整个分析系统的基石,构建基于改进的Flume的实时数据采集系统,通过Flume采集数据,采用复合型Channel与Flume相结合,在保证数据源的丰富性和可靠性的前提下,提高采集的效率。实验结果表明,该系统的各项功能符合预期结果,Flume使用复合型Channel可以提高采集效率。

全文