共同利用

深層学習における確率場の解析と発展


種別 短期共同研究
研究計画題目 深層学習における確率場の解析と発展
研究代表者 大輪拓也(富士通研究所・研究員)
研究実施期間 平成29年2月13日(月)~ 平成29年2月17日(金)
研究分野のキーワード deep learning, random field, boltzmann machine, determinantal point process
目的と期待される成果 2012年に行われた画像認識の国際コンテストで圧倒的な精度を発揮した深層学習は、最近では囲碁で欧州プロに圧勝するなど、近年その活躍は目覚ましい。活躍の場は研究領域だけでなく産業界にも広がっており、国内外で開発された深層学習を実装するためのオープンソースソフトウェアが広く利用され、今日の人工知能におけるコア技術となっている。今後も様々な場面での活躍が期待され、多くの研究者やエンジニアが研究と開発に取り組んでいるが、そもそも深層学習がなぜ有効かという問いには未だ明確な答えがなく、これに答え得るための理論的な解析が強く望まれている。また、有効性が示された分野は画像や音声処理などの一部に限られており、適用範囲を広げるためにも数学的な理解を深めることは重要である。
深層学習の学習モデルは大別してAutoEncoderとBoltzmann Machine(BM)の二つがあり、前者は決定論的なシステムであるのに対し、後者は確率場として定式化される。それぞれに利点はあるが、後者のほうが数学的な見通しが良く、確率場の理論を用いることでモデルの拡張が検討できる。例えばランダム行列の固有値の分布の抽象化であるDeterminantal Point Process(DPP)も確率場の一つであり、物理学において重要な研究題材であると共に、近年ではTaskerらによる機械学習への応用研究により更なる注目を集めている。そこで本研究では、深層学習における確率場の振る舞いを理論的な観点から考察し、さらにその知見をもとにBM以外の確率場の深層学習への適用可能性についても検討する。DPPはその候補の一つであり、BMとDPPの振る舞いを比較することで適用可能性や効果を確認する。深層学習で扱うことができる確率場のモデルが広がれば、これまでに有効性が示されていない分野への応用が期待できる。そのため、本件における理論的な解析から応用へとつなげる継続的な研究を視野に入れている。
組織委員(研究集会)
参加者(短期共同利用)
大輪拓也(富士通研究所・研究員)
穴井宏和(富士通研究所・主管研究員)
恐神貴行(IBM東京基礎研究所・シニアリサーチスタッフメンバー)
白井朋之(九州大学IMI・教授)
脇隼人(九州大学IMI・准教授)
前原貴憲(静岡大学・助教)