摘要
针对大数据引擎完成计算功能时易出现负载不均衡问题,提出一种大数据计算引擎均衡部署数学建模方法。结合流式计算与批量计算模式,构建双模式大数据计算架构。以公平为前提合理分配引擎任务数量,获取剩余计算容量,设定带权思想负载均衡约束,根据数据流大小,确定部署最佳开销;以约束模型为部署目标,利用蚁群算法初始化处理信息素函数,得到引擎被部署到各任务节点的几率,通过启发函数确定蚂蚁爬行路径,经过信息素的局部和全局更新,完成所有路径循环,得出全局最优解,计算引擎最佳部署方案。仿真结果证明,上述方法所用部署时间最短,可实现计算引擎的均衡负载,减少部署开销。
- 单位