非线性最优化计算方法【2025|PDF|Epub|mobi|kindle电子书版本百度云盘下载】

非线性最优化计算方法PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

目录1

上篇 无约束最优化方法1

第1章　基础知识1

1.1　凸集及其基本性质1

1.2　极值（一般函数）的最优性条件6

1.2.1　多元函数极值概念6

1.2.2　梯度与Hesse矩阵7

1.2.3　局部极值的最优性条件11

1.3　凸函数及凸函数极值的最优性条件14

1.3.1 凸函数的定义及判定14

1.3.2　凸函数的次梯度17

1.3.3　凸函数的最优性条件19

1.4　拟凸函数与全局最优21

第2章　最优化方法概述25

2.1　最优化问题的提法及分类25

2.2　最优化问题举例26

2.3　无约束极值问题算法综述30

2.3.1 下降算法31

2.3.2　算法收敛速度及终止法则35

2.3.3　收敛性条件39

第3章　一维搜索（寻查）42

3.1　搜索（寻查）区间的确定43

3.2　二分法45

3.3　直接方法46

3.3.1　0.618法（黄金分割法）47

3.3.2　分数法（Fibonacci法）49

第4章　Newton方法及其改进54

4.1　Newton方法及其局限性54

4.2　Newton算法的改进56

4.3　特征值法（Greenstadt方法）58

4.4　Newton算法的Gill和Murray修正方案60

第5章　共轭方向法64

5.1 共轭方向64

5.2 共轭方向法66

5.3.1　正定二次函数的基本算法71

5.3　共轭梯度法71

5.3.2　基本性质74

5.3.3　一般函数的共轭梯度法75

第6章 拟Newton法79

6.1　尺度矩阵意义下的最速下降方法79

6.2　DFP公式及DFP算法81

6.2.1　DFP公式及其基本性质81

6.2.2　DFP算法83

6.2.3　DFP算法的二次收敛性质85

6.3　DFP对偶公式及其等价形式88

6.3.1　DFP对偶公式及其基本性质88

6.3.2　DFP对偶公式的几种等价形式89

6.4　DFP对偶算法91

6.4.1　修正矩阵Bk＋1的LDLT分解92

6.4.2　带LDLT分解的DFP对偶算法96

第7章　直接搜索方法99

7.1　单纯形替换法99

7.1.1　Rn中的单纯形99

7.1.2　单纯形替换算法103

7.2　方向加速法107

7.2.1　基本定理及Powell基本算法107

7.2.2　Powell算法的方向调整原理112

7.2.3　Powell算法方向调整的判别准则114

8.1　观测数据的最小二乘拟合120

第8章 线性最小二乘法120

8.1.1　残差121

8.1.2　最小二乘拟合的数学模型122

8.2　超定方程组及其最小二乘解123

8.2.1　超定方程组的最小二乘解123

8.2.2　最小二乘解的存在性及唯一性126

8.2.3　举例129

8.3　Golub方法（用正交分解求最小二乘解）132

8.3.1　矩阵的正交分解132

8.3.2　Golub算法135

附录Ⅰ 初等反射矩阵（H矩阵）及其性质141

9.1.2　问题的形成146

9.1.1 问题的提出146

9.1　非线性最小二乘法问题146

第9章 非线性最小二乘法146

9.1.3　解法概述149

9.2　Gauss-Newton算法（简称G-N算法）150

9.2.1 G-N方向的构造150

9.2.2　G-N算法及其局部收敛性质151

9.3　修正的G-N算法（Hartley方法）157

9.4 Levenberg-Marquarat算法（简称L-M算法）159

9.4.1　L-M算法的基本想法159

9.4.2　L-M算法的基础定理160

9.4.3　L-M算法165

9.4.4　L-M算法的收敛性质166

附录Ⅱ 最优化方法的发展进程169

无约束最优化方法习题174

下篇　约束最优化方法182

第10章　线性规划及其解法182

10.1　线性规划问题举例182

10.2　线性规划问题的基本概念及解的性质184

10.2.1　线性规划模型的一般形式184

10.2.2　线性规划问题解的概念185

10.2.3　线性规划问题解的性质187

10.3　单纯形法191

10.3.1　单纯形法原理191

10.3.2 用人工变量法找初始可行基——大M法和两段单纯形法195

10.3.3　修正单纯形法200

10.4.1　对偶问题举例204

10.4　线性规划的对偶问题204

10.4.2　原问题与对偶问题的关系206

10.4.3　对偶问题的基本定理208

10.4.4　对偶单纯形法212

第11章　整数规划215

11.1　整数规划问题举例215

11.2　整数规划的分枝定界法和割平面法217

11.2.1　分枝定界法217

11.2.2　割平面法220

11.3　0-1规划223

11.3.1　0-1规划举例223

11.3.2　0-1规划的解法224

11.4　指（分）派问题227

11.4.1　指（分）派问题举例227

11.4.2　匈牙利法228

11.5　整数规划问题应用实例231

第12章　约束最优化问题的最优性条件234

12.1　约束最优化问题的数学描述234

12.1.1　全局解与局部解234

12.1.2　凸规划235

12.2　几何最优性条件237

12.2.1　必要条件237

12.2.2　充分条件242

12.3　引用Lagrange函数的最优性条件243

12.3.1　必要条件245

12.3.2　充分条件249

第13章　非线性规划的对偶理论252

13.1　Lagrange对偶问题与弱对偶性定理252

13.2　鞍点判别条件255

13.3　扩展的对偶定理258

第14章　可行方向法261

14.1　可行方向法261

14.1.1　线性约束的情形264

14.1.2　非线性约束的情形270

14.2　投影梯度法277

14.3　既约梯度法284

15.1.1　罚函数法292

第15章　罚函数法292

15.1　罚函数法292

15.1.2　罚函数法的收敛性质295

15.2　障碍函数法297

15.2.1　算法的构成297

15.2.2　障碍函数法的收敛性定理300

15.3　广义Lagrange乘子法301

15.3.1　等式约束下的广义乘子法302

15.3.2　不等式约束下的广义乘子法305

15.3.3　等式与不等式约束下的广义乘子法306

15.4　精确罚函数法308

15.4.1　非线性等式约束问题的可微精确罚函数法308

15.4.2　一般非线性约束问题的可微精确罚函数法309

第16章　二次规划311

16.1　二次规划问题及其k-T条件311

16.2　Lemke算法313

16.3　Wolfe方法317

16.4　序列二次规划法320

第17章 离散系统的动态规划方法324

17.1 多阶段决策问题（引例及相关基本概念）324

17.2　多阶段决策问题的数学描述327

17.2.1　数学模型327

17.2.2　Bellman最优性原理327

17.2.3　动态规划基本定理328

17.3　求解多阶段决策问题的动态规划方法330

17.4　多阶段决策问题实例分析334

17.5　离散线性二次型系统的动态规划方法338

第18章　现代优化方法简介342

18.1　随机试验法342

18.2　禁忌搜索算法346

18.2.1　禁忌搜索算法的主要步骤346

18.2.2　禁忌搜索算法的特征347

18.3　模拟退火算法350

18.3.1　模拟退火算法的基本原理351

18.3.2　模拟退火算法的基本步骤和实现的技术问题352

18.4　遗传算法356

18.4.1　遗传算法的基本原理和步骤356

18.4.2　遗传算法的技术问题357

18.5.1　人工神经网络的基本概念361

18.5　神经网络算法361

18.5.2　人工神经网络的基本模型362

18.5.3　前向型人工神经网络365

18.5.4　反馈型神经网络——Hopfield模型369

附录Ⅲ Matlab及其应用371

1.1 Matlab简介371

1.1.1　数学软件371

1.1.2　什么是Matlab371

1.1.3　Matlab的主要用途375

1.1.4　几点说明376

1.1.5　矩阵运算376

1.2.1　无约束极值算例380

1.2　最优化方法计算380

1.2.2　约束极值382

1.2.3　线性最小二乘问题385

1.2.4　非线性最小二乘问题387

1.3　数据分析389

1.3.1　数据的输入和输出389

1.3.2　列数据分析391

1.3.3　实测数据归一化（标准化）392

1.3.4　多项式拟合393

1.3.5　多元线性回归396

约束最优化方法习题399

参考文献410