基于Hadoop生态圈的选煤数据中台设计

作者：赵鑫; 王然风; 付翔

来源：工矿自动化, 2021, 47(12): 121-127.

DOI：10.13272/j.issn.1671-251x.2021040004

• 选煤厂智能化
• Hadoop生态圈
• 数据中台
• 大数据
• 多源异构数据
• 数据融合
• D-S证据理论

针对现有选煤厂信息管理系统采用的接口不规范,导致数据重复采集,且各系统相互独立,对多源异构数据处理能力弱等问题,基于Hadoop生态圈大数据技术,提出了一种基于Hadoop生态圈的选煤数据中台设计方案。通过主数据管理系统、企业服务总线定义数据标准实现系统集成;设计归一化、相关系数矩阵和噪声异常点检测程序实现数据处理;结合D-S(Dempster-Shafer)证据理论、Hadoop与Hive数据仓库设计多源异构数据融合子系统,实现数据融合;利用Highcharts数据可视化组件实现数据交互式的可视化展示。实际应用结果表明,该数据中台实现了主数据定义标准与系统集成接口规范化,提高了选煤数据处理能力,实现了多源异构选煤数据融合共享、数据实时交互式的可视化展示。

• 单位
  太原理工大学