基于Hbase的车联网海量数据存储

作者:李星; 邬少飞*
来源:电脑与电信, 2021, (05): 59-62.
DOI:10.15966/j.cnki.dnydx.2021.05.015

摘要

针对如何处理车联网数据的峰值问题,提出了一种基于Hbase的车联网海量数据存储的中间件控制方案。首先报文通过Kafka传递到中间件,再对传递至中间件的数据进行计数器处理,限制对Kafka的拉取消费;其次对传递至中间件的数据进行筛选处理,确保数据都是有效的数据,然后进行存储;最后针对车联网海量数据的应用场景选择能够满足需求的行键设计以及表结构设计。经实验表明,该中间件控制方案在存储的稳定性上比没有控制方案的具有优越性,该行键设计方案对比没有行键设计的方案在性能上具有显著的性能提升。

全文