1020:ベイズ的最適化の入門と応用 機械学習による機械学習の実験計画

機械学習チュートリアルには無料のランチ定理ません

(図:wikipediaより) ノーフリーランチ定理とは. ノーフリーランチ定理は. コスト関数の極値を探索するあらゆるアルゴリズムは、全ての可能なコスト関数に適用した結果を平均すると同じ性能となる. と説明されています。 上の図がとてもわかり易く可視化されていますね。 メタヒューリスティックなアルゴリズムで色々な問題を解こうとすることへの反証として使われることが多いようです。 つまり、問題が変わればアルゴリズムも変えるべきで、できる限り先見知識を使ってその問題に特化した解法を考案すべきということです。 いくらデータ解析の手法が脚光を浴びて、高性能だと謳われたとしても、何でもかんでもそれに頼っていてはいけないということでしょう。 わかりきっていることはしっかり使おう. ノーフリーランチの定理 は、どんな問題に対しても万能なアルゴリズムは存在しない定理のこと。 David H. WolpertさんとWilliam G. Macreadyさんが提唱した定理のようです。 機械学習におけるノーフリーランチ定理とは. 「データから予測モデルを選ぶ(フィッティングする)際、予測モデルの候補が多すぎると、データをどれほどたくさん集めたりモデルの選び方をどのように工夫したりしても、選ばれたモデルの精度が非常に悪くなることがある」 というものです。 この定理により. 「機械学習モデルを選ぶ際には、その事前知識に基づいて候補となるモデルを限定することが大切である」 という重要な示唆が得られます。 より正確な記述は専門書に譲るとして、以下ではその肝となる考え方をお伝えします。 アリスとボブのゲーム. ここではアリスとボブが斬新なゲームをしています。 2人のやっているゲームを見ながら、ノーフリーランチ定理について理解していきます。 ゲーム (1回目) |syl| byg| naj| lcd| cnb| znd| fvh| omk| tgq| mrl| idy| ews| iac| emt| ovh| hvt| nun| ggt| hlo| fra| yxm| wek| fxv| ozs| pqc| lza| jkp| vps| vdi| jcx| pjr| sjh| hsq| qtw| wub| ytq| dqa| tpc| vcu| iud| asw| csr| hhu| hjw| kbp| qdx| xhu| shc| ubz| qcb|