井冈山大学学报(自然科学版)

6文章编号:1674-8085(2018)04-0006-05切换网络下加速分布式在线加权对偶平均算法王俊雅(安徽理工大学数学与大数据学院,安徽,淮南232000)摘要:研究了切换网络下加速分布式在线加权对偶平均算法,提出了A-DOWDA算法.
首先利用加权因子对对偶变量进行加权,其次在有向切换网络是周期强连通,且对应的邻接矩阵是随机的而非双随机的条件下,加速了算法的收敛速率,最后通过数值实验验证了算法的可行性.
关键词:分布式;加权;切换网络;对偶平均;Regret界中图分类号:TP-301.
6文献标识码:ADOI:10.
3969/j.
issn.
1674-8085.
2018.
04.
002ACCELERATEDISTRIBUTEDONLINEWEIGHTEDDUALAVERAGEALGORITHMINSWITCHEDNETWORKSWANGJun-ya(CollegeofMathematicsandBigData,AnhuiUniversityofScienceandTechnology,Huainan,Anhui232000,China)Abstract:WestudiesthedistributedonlineweighteddualaveragealgorithmisacceleratedunderswitchednetworkandanA-DWDAalgorithmisproposed.
Firstly,weightingfactorsareusedtoweightdualvariables.
Secondly,thedirectedswitchednetworkisperiodicallystronglyconnected,andthecorrespondingadjacencymatrixisstochasticratherthandoublystochastic,theconvergencespeedofthealgorithmisaccelerated.
Finally,anumericalexperimentisperformedtoverifytheeffectivenessoftheproposedalgorithm.
Keywords:distributed;weighted;switchednetwork;dualaverage;Regretbound0引言近些年来,随着网络规模的增长,复杂网络成为人们研究的热点领域.
通过增加这些系统的规模和复杂性,需要分散控制方案,以降低数据传输速率和确保本地故障时的鲁棒性,这使得分布式网络受到了越来越多的重视,在并行计算、机器学习和通信系统等多个方面具有广泛的应用[1-3].
文献[4-6]提出了基于次梯度的分布式优化算法,但其成本函数是不变的,而网络的拓扑结构允许变化.
然而,环境中的不确定性往往会对成本函数产生重大影响,难以建立易于处理的优化问题.
文献[7-9]通过随机框架来提高算法鲁棒性,但随机优化方法难以解决动态问题.
本文考虑基于在线优化的分布式权重对偶平均算法,不仅能处理复杂系统的动态模型,而且节约了网络成本和存储空间,避免了资源浪费.
文献[10]提出了基于交替乘子法的分布式在线算法,对网络数据流进行实时采集和分析,增强了网络的鲁棒性.
在许多实际应用中,个体间的状态信息交流不一定是双向的,即当个体i向个体j发送信息时,个体j并不一定向个体i发送信息,这就导致了通信网络的有向性,因此其所对应的邻接矩阵一般是随机的而未必是双随机的[11].
由于数据第39卷第4期Vol.
39No.
4井冈山大学学报(自然科学版)2018年7月Jul.
2018JournalofJinggangshanUniversity(NaturalScience)6收稿日期:2018-05-05;修改日期:2018-06-27基金项目:安徽省级精品资源共享课程(11528);硕士研究生创新基金项目(2017CX2046)作者简介:王俊雅(1994-),女,安徽阜阳人,硕士生,主要从事分布式优化研究(E-mail:784836893@qq.
com).