Bengioのエネルギーベースの生成モデルを読む

ランニング30分　英語15分

(1)  超有名なBengioが参加しているエネルギーベースの生成モデルの論文を読む。DeepLearningの生成モデルでエネルギー関数を使ってGANを数理的に厳密化したものである。流石に理論も拡張性もありすばらし論文である。GANでは生成器と識別器の２モデルのDLで精緻化するが、これも２モデルのDLでエネルギーモデル(Deep Energy Model)の最小化で精度を向上させ、エネルギーモデルの結果を生成器(Deep Generative Mode)に反映させ、できるだけエネルギーが少ないデータを生成するものである。 GANやVAEは画像の生成モデルしか実績はないが、このモデルは複雑な事象でも適応できそうである。Bengioがエネルギー関数を「Expert（熟練者）」と呼んでいるのは、逆強化学習を意図したものと考えられる。

[1606.03439] Deep Directed Generative Models with Energy-Based Probability Estimation