内容简介：

目录

写在前面
一、牛顿法
1.看图理解牛顿法
2.公式推导-三角函数
3.公式推导-二阶泰勒展开
二、BFGS公式推导
三、L-BFGS
四、算法迭代过程
五、代码实现
1.torch.optim.LBFGS说明
2.使用LBFGS优化模型

优化器系列文章列表
Pytorch优化器全总结（一）SGD、ASGD、Rprop、Adagrad
Pytorch优化器全总结（二）Adadelta、RMSprop、Adam、Adamax、AdamW、NAdam、SparseAdam
Pytorch优化器全总结（三）牛顿法、BFGS、L-BFGS 含代码

写在前面...

查看原文

? Pytorch优化器全总结（三）牛顿法、BFGS、L-BFGS 含代码