統計力学と情報処理 : 自由エネルギーの生み出す新しい情報処理技術(第48回物性若手夏の学校(2003年度),講義ノート)

Abstract

ここ10年ほどの間に確率的情報処理あるいは情報統計力学といわれる研究テーマが物理学・統計学・情報科学の境界領域を舞台として様々の分野の研究者により研究され,徐々に認知されるようになってきている.何故,統計力学と情報科学が関係するのか?そもそも統計力学は主として物質の性質の解明と予言を目的として発展した学問体系であり,情報科学はデータからの情報の抽出と加工を目的としたものである.しかし,おおざっぱに見て,どちらもたくさんの基本要素が互いに関連しあいながら集まって全体を構成している点で,両者の理論的枠組みには多くの類似点がある.この基本的な類似点に着目しながらベイズの公式と呼ばれる学部の確率・統計で教わる簡単な公式を用いることにより,実際の情報処理に役に立つアルゴリズムが提案されつつある.そもそも物理は物質すなわちモノを対象に制限しなければならないという理由はどこにもなく,扱う対象は自由であり,様々の現象に着目し,その本質を見極めることにこそ真の目的がある学問体系である.これまで,たまたまその研究対象としてモノを扱うことが多かっただけであり,コトの物理への拡張は何も今に始まった概念ではない.コトの物理を極めることにより,情報科学の世界に新しい手法を提供しながら,逆に情報科学における新しい問題を通してモノの物理を鍛えることにより,物理学における新しい見方を開拓してゆくことが期待される.本講義では確率的情報処理への統計力学的アプローチについての画像修復および人工知能における確率的推論を例にとり,確率的情報処理への統計力学的アプローチの基礎,特に,ベイズ統計とイジング模型を用いた理論的枠組み,自由エネルギー最小の変分原理にもとづく平均場理論を用いた確率的情報処理技術の基礎についてやさしく紹介する.