大数据网络并行计算环境中生理数据流动态负载均衡

作者:张笑东; 夏筱筠; 吕海峰; 公绪超; 廉梦佳
来源:吉林大学学报(工学版), 2020, 50(01): 247-254.
DOI:10.13229/j.cnki.jdxbgxb20181250

摘要

针对医疗大数据服务系统中生理数据流动态负载不均衡问题,传统方法处理能力只局限在某算子所处节点可处理的窗口范围,在数据逐渐增加的状态下处理能力不足,容易出现数据流拥塞的情况,而且忽略了对整个体系的负载分布和动态负载均衡中迁移决策的研究。为此,提出了一种新的大数据网络并行计算环境的生理数据流动态负载均衡方法。首先利用元组key的Hash值得到节点相应数据块,利用数据块记录获取相应目标节点,将数据元组输出。同时,对并行计算熵进行扩展,将其定义至异构集群,对其进行求解。将网络并行计算环境下并行计算熵看作医疗大数据服务系统中生理数据流动态负载均衡度的衡量指标,通过并行计算熵对是否需要进行负载迁移进行判断,并且通过并行计算熵确定迁移任务的方式及迁移量,从而制定迁移决策,实现大数据网络并行环境中生理数据流动态负载均衡处理。经实验验证,本文方法可行性高,计算性能及动态负载均衡性好。

全文