大数据流计算环境下的低延时高可靠性的资源调度方法

作者:孙怀英; 虞慧群; 范贵生; 陈丽琼
来源:华东理工大学学报, 2017, 43(06): 855-862.
DOI:10.14135/j.cnki.1006-3080.2017.06.016

摘要

在大数据处理过程中,如何保证流数据处理的可靠性及实时性变得日益重要。本文使用数据流图(DSG)对大数据流应用过程进行描述,并将DSG表示为扩展的Petri网以便对数据流过程进行建模。提出了基于CPU利用率平均变化率的资源熵算法计算资源组可靠性,并根据资源熵算法提出了基于时间和可靠性的资源调度算法(TRS-SCHE)以获得高可靠性、低延时的资源调度方案。通过仿真实验,模拟实现soda交通大数据分析应用并进行资源的调度,验证了TRSSCHE相比于Storm隔离调度算法在响应时间、请求失败率和算法时间复杂度方面的优势。

全文