4.4 牛顿类算法——介绍了经典牛顿法及其收敛性，并介绍了修正牛顿法和非精确牛顿法；
4.5 拟牛顿类算法——引入割线方程，介绍拟牛顿算法以及拟牛顿矩阵更新方式，然后给出了拟牛顿法的全局收敛性，最后介绍了有限内存BFGS方法。