基于Spark的供电所数据架构研究

作者:宋才华; 关兆雄; 布力
来源:自动化与仪器仪表, 2022, (06): 172-175.
DOI:10.14016/j.cnki.1001-9227.2022.06.172

摘要

现有的电力数据架构无法准确提取电力数据传输负荷特征,导致数据架构加速比过低,为增大数据传输效率,基于Spark设计供电所数据架构。度量各数据节点连接距离,设计数据连接访问结构;提取并行数据传输负荷特征,计算负荷节点间最大距离,追加读写校验容量标准值;设计电力数据整体逻辑架构,分别分析六个层级的逻辑架构的基础特征。在对比实验中计算各架构的加速比,当数据规模为10 000时,任意数量网络节点中该架构的加速比均高于其他电力数据架构。由此可见,基于Spark的数据架构在相同的数据规模下可以更快的速度传输数据。

全文