全文总字数:4091字
1. 研究目的与意义(文献综述)
1.1 背景资料 近几年已经见证了惊人的移动数据增长,其中的大多数是实时产生并分布在终端设备(比如,智能手机和传感器) ,这些数据可以训练人工智能(ai) 模型,然而因为诸如隐私问题,网络堵塞,还有延迟等,把这些巨量的数据上传到云端是不切实际的。
为了解决这些问题,联邦学习框架由此而生, 它在网络边缘实现了分布式机器学习。
特别地,服务器通过汇合设备传输的局部模型(或随机梯度) 更新全局模型, 本地模型由设备本地的数据集计算。
2. 研究的基本内容与方案
研究使用两层神经网络进行深度学习训练。系统包括普通移动用户市场,市场中每个设备都有一个标价,这样ai服务器可以购买移动用户的服务来进行联邦学习训练。市场标价随着时间改变。
每个ai服务器决定是否要求工作机进行联邦学习。市场价格作为输入联邦学习请求为操作。这种情况下,ai服务器的操作空间为2^n,其中n是工作机的个数每个工作机都有一个有限处理队列(或能源队列,等等)。工作机可能愿意帮助服务器收集敏感数据并进行联邦学习训练。同时,工作机可以使用有限队列执行自己的任务。在这种情况下,工作机在决定将多少队列空间用于联邦学习时需要权衡。这个觉得反过来会影响ai服务器的应用程序。
3. 研究计划与安排
(1)2020/1/13—2020/2/28:确定选题,查阅文献,外文翻译和撰写开题报告; (2)2020/3/1—2020/4/30:系统架构、程序设计与开发、系统测试与完善; (3)2020/5/1—2020/5/25:撰写及修改毕业论文;(4)2020/5/26—2020/6/5:准备答辩。
4. 参考文献(12篇以上)
[1] y. lecun, y. bengio, and g. hinton, “deep learning,”nature, vol. 521, no. 7553, pp. 436–444, 2015.[2] k. bonawitz, h. eichner, w. grieskamp, d. huba, a. ingerman,v. ivanov, c. kiddon, j. konecny, s. mazzocchi,and h. b. mcmahan, “towards federated learning at scale:system design,” arxiv preprint arxiv:1902.01046, 2019.[3] h. b. mcmahan, e. moore, d. ramage, and b.a. y arcas,“federated learning of deep networks using model averaging,”corr, vol. abs/1602.05629, 2016.[4] k. bonawitz, v. ivanov, b. kreuter, a. marcedone, h. b.mcmahan, s. patel, d. ramage, a. segal, and k. seth,“practical secure aggregation for federated learning on user-held data,” arxiv preprint arxiv:1611.04482, 2016.[5] j. hofbauer and k. sigmund, “evolutionary game dynamics,”bulletin of the american mathematical society,vol. 40, no. 4, pp. 479–519, 2003.[6] e. of mathematics, “cauchy-lipschitz theorem,”https://www.encyclopediaofmath.org/index.php/cauchy-lipschitz theorem.[7] s. sastry, “lyapunov stability theory,” nonlinear systems,pp. 182–234, 1999.[8] y. lecun, l. bottou, y. bengio, and p. haffner,“gradient-based learning applied to document recognition,”proc. of the ieee, vol. 86, no. 11, pp. 2278–2324,1998.[9] b. gu, f. hu, and h. liu, “modelling classification performance for large data sets,” in international conferenceon web-age information management, 2001, pp. 317–328.[10] r. foundation, “raspberry pi 3 model b,” https://www.raspberrypi.org/products/raspberry-pi-3-model-b/.[11]. w. y. b. lim, et al. "federated learning in mobile edge networks: a comprehensive survey," arxiv:1909.11875 [cs.ni], sep 2019.
[12]. y. zou, s. feng, d. niyato, y. jiao, s. gong, and w. cheng, "mobile device training strategies in federated learning: an evolutionary game approach," in proceedings of ieee international conference on green computing and communications (greencom), atlanta, usa, 14-17 july 2019.
[13]ian goodfellow,yoshua bengio,aaron courvile.deep learning[m] 赵申剑等译.北京:人民邮电出版社.2017
