Levenberg-Marquardt法について

以前にC++ Library Eigen を利用する簡単な手順を書きましたが，ある問題に対する非線形最適化を行うことを目的とし，その準備としてEigen の利用方法を調べていました。

今回は信頼領域法のひとつであるLevenberg-Marquardt法を利用します。

Levenberg-Marquardt法については"Wikipedia"に詳しく記載されています。

Eigenを利用した実装方法は「iPhone アプリ研究会」に記載されています。




参考にしたサイト
Wikipedia
https://en.wikipedia.org/wiki/Levenberg%E2%80%93Marquardt_algorithm

C.T. Kelley, Iterative Methods for Optimization, SIAM Frontiers in Applied Mathematics, no 18, 1999, (PDF)
http://www.siam.org/books/textbooks/fr18_book.pdf

Methods for Non-Linear Least Squares Problems by K. Madsen, H.B. Nielsen, O. Tingleff(PDF)
http://www2.imm.dtu.dk/pubdb/views/edoc_download.php/3215/pdf/imm3215.pdf

wildpieの日記
http://wildpie.hatenablog.com/entry/20120712

iPhone アプリ研究会
http://appteam.blog114.fc2.com/blog-entry-265.html
http://appteam.blog114.fc2.com/blog-entry-263.html

stackoverflow
http://stackoverflow.com/questions/18509228/how-to-use-the-eigen-unsupported-levenberg-marquardt-implementation

programmingexamples
http://programmingexamples.net/wiki/CPP/Eigen/LevenbergMarquardt