论文标题

准Newton方法的概括:应用于鲁棒的对称多摄氏度更新

Generalization of Quasi-Newton Methods: Application to Robust Symmetric Multisecant Updates

论文作者

Scieur, Damien, Liu, Lewis, Pumir, Thomas, Boumal, Nicolas

论文摘要

准Newton技术通过使用所谓的SECANT方程来估计Hessian估计牛顿的步骤。其中一些方法使用多个割线方程来计算Hessian,但会产生非对称的更新。其他准Newton方案,例如BFGS,可以执行对称性,但无法满足一个以上的方程式。我们提出了一种新型的准Newton对称更新,使用几个SECANT方程在最小二乘意义上。我们的方法概括并统一了准Newton更新的设计,并满足了可证明的鲁棒性保证。

Quasi-Newton techniques approximate the Newton step by estimating the Hessian using the so-called secant equations. Some of these methods compute the Hessian using several secant equations but produce non-symmetric updates. Other quasi-Newton schemes, such as BFGS, enforce symmetry but cannot satisfy more than one secant equation. We propose a new type of quasi-Newton symmetric update using several secant equations in a least-squares sense. Our approach generalizes and unifies the design of quasi-Newton updates and satisfies provable robustness guarantees.

扫码加入交流群

加入微信交流群

微信交流群二维码

扫码加入学术交流群,获取更多资源