近年來，隨著云計算、大數(shù)據(jù)、人工智能等新興技術(shù)的蓬勃發(fā)展，分布式優(yōu)化在大規(guī)模計算、機器學習等領(lǐng)域得到了廣泛應用。針對算法中關(guān)于步長的嚴格約束和理論收斂速度局限性導致算法收斂速度慢的科學問題。本專著主要研究內(nèi)容包括：分布式優(yōu)化與常微分方程之間的關(guān)系、加速分布式優(yōu)化算法設(shè)計與分析�；谔荻鹊募铀俜植际絻�(yōu)化算法存在收斂速度慢的現(xiàn)象。一方面，當目標函數(shù)為光滑強凸函數(shù)時，現(xiàn)有加速算法的步長嚴格依賴于目標函數(shù)條件數(shù)，使得步長充分小時才能保證算法收斂，而算法收斂速度與步長正相關(guān)，從而導致了算法收斂速度較慢。另一方面，當目標函數(shù)為光滑凸函數(shù)時，現(xiàn)有加速算法最優(yōu)收斂速度為（k是迭代次數(shù)）。本文針對上述小步長、理論收斂速度局限性導致算法收斂速度慢的問題展開深入研究。
陳蕊娟，河南開封人，中共黨員，漢族，博士，講師。2014年本科畢業(yè)于許昌學院，2016年碩士畢業(yè)于華中科技大學，2021年博士畢業(yè)于華中科技大學，期間于2017年10月至2018年10月獲國家留學基金委資助公派到加拿大滑鐵盧大學開展博士聯(lián)合培養(yǎng)，2021年12月進入武漢紡織大學工作。主要從事分布式優(yōu)化算法設(shè)計與分析、機器學習算法分析及應用。以第一/通訊作者在國內(nèi)外期刊如Science China-Technological Sciences、Journal of the Franklin Institute -Engineering and Applied Mathematics、Advances in Mathematical Physics等國際學術(shù)期刊上發(fā)表學術(shù)論文4篇。
目 錄
第1 章 緒論 001
1 1 研究背景與意義 001
1 2 國內(nèi)外研究現(xiàn)狀 006
1 3 本書主要內(nèi)容 012
第2 章 隱式Euler 加速分布式優(yōu)化算法 015
2 1 問題描述 015
2 2 線性微分方程收斂性分析 022
2 3 算法Im-DGD 設(shè)計與分析 029
2 4 算法實現(xiàn)與分析 034
2 5 本章小結(jié) 038
第3 章 辛格式加速分布式梯度下降算法 040
3 1 問題描述 041
3 2 非線性微分方程 042
3 3 算法Sym-DGD 設(shè)計與分析 053
3 4 算法實現(xiàn)與分析 059
3 5 本章小結(jié) 064
第4 章 校正加速分布式優(yōu)化算法 065
4 1 問題描述 066
4 2 算法CoAcc-DGD 設(shè)計與分析 067
4 3 算法實現(xiàn)與分析 076
4 4 本章小結(jié) 079
第5 章 隱式Runge-Kutta 加速分布式優(yōu)化算法 080
5 1 問題描述 081
5 2 Runge-Kutta 加速優(yōu)化算法 087
5 3 算法D-ImRK 設(shè)計與分析 100
5 4 算法實現(xiàn)與分析 104
5 5 本章小結(jié) 108
第6 章 總結(jié)與展望 109
6 1 本書主要內(nèi)容及結(jié)論109
6 2 本書的主要創(chuàng)新點110
6 3 展望 111
參考文獻 113
書單推薦
