روش بی‌اف‌جی‌اس

روش BFGS روشی در محاسبات عددی بهینه‌سازی (ریاضیات) است. برای برنامه‌سازی غیرخطی بدون قید. این روش تقریبی برای روش بهینه سازی نیوتون است.

ایده ی عملکرد

جهت جستجو p_k در لحظه ی k ام توسط پاسخ معادله ی نیوتون داده می شود.

$B_{k}\mathbf {p} _{k}=-\nabla f(\mathbf {x} _{k})$

که در آن $B_{k}$ تقریبی به ماتریس هسین است که در هر مرحله بروز رسانی می‌شود و $\nabla f(\mathbf {x} _{k})$ گرادیان تابع به ازای هر x_k است.

الگوریتم

با شروع از مقدار اولیه $\mathbf {x} _{0}$ و مقدار تقریبی اولیه $B_{0}$ مراحل زیر تکرار می شوند تا اینکه به تقریب مورد نظر $x$ برسیم.

1. انتخاب جهت $\mathbf {p} _{k}$ با حل : $B_{k}\mathbf {p} _{k}=-\nabla f(\mathbf {x} _{k}).$.
2. انجام جستجوی خطی برای یافتن بهترین سایز قدم $\alpha _{k}$ برای بروزرسانی $\mathbf {x} _{k+1}=\mathbf {x} _{k}+\alpha _{k}\mathbf {p} _{k}.$.
3. مقدار دهی $\mathbf {s} _{k}=\alpha _{k}\mathbf {p} _{k}.$.
4. $\mathbf {y} _{k}={\nabla f(\mathbf {x} _{k+1})-\nabla f(\mathbf {x} _{k})}.$
5. $B_{k+1}=B_{k}+{\frac {\mathbf {y} _{k}\mathbf {y} _{k}^{\mathrm {T} }}{\mathbf {y} _{k}^{\mathrm {T} }\mathbf {s} _{k}}}-{\frac {B_{k}\mathbf {s} _{k}\mathbf {s} _{k}^{\mathrm {T} }B_{k}}{\mathbf {s} _{k}^{\mathrm {T} }B_{k}\mathbf {s} _{k}}}.$

جستارهای وابسته

• روش های شبه نیوتون
• L-BFGS روش
• الگوریتم تپه نوردی

منابع

• Avriel, Mordecai (2003), Nonlinear Programming: Analysis and Methods, Dover Publishing, ISBN 0-486-43227-0

پیوند به بیرون

• SOURCE CODE OF HIGH-PRECISION BFGS A C++ source code of BFGS with high-precision arithmetic