DeepMind AIの過去・現在・将来の概観記事を読む

AI論文 ロボテックス 自然言語解析

ランニング30分　英語できず

引き続きDeepMindハザビスの「AIと脳神経学の関連」の記事を読む。

「Neuroscience-Inspired AI」

次の様なDeepMindが構想するAIを述べており、既に素晴らしい成果であるDQNやAlpha碁を超えて、さらに実用的で複雑な問題を解決あるいは取組んでいる。様々なモデルやアイデアは、これらが脳神経学の知見と近いものがあるとしている。しかしDeepMindとしての主張は、脳神経学を真似るのではなく、問題解決型のAIモデルを作るのに脳神経学を参考にしているという話である。

1)今まで

　現在のAIとしての成果が著しいのは、DQNやAlpha碁に見られる様にDeepLearning　とRL(強化学習）を統合したDeepRLである。このモデルは一見すると脳神経科学と隔ている様に見えるが、次の４つの分野で強い影響を受けている。

2)現在

　2.1) Attention

　　　CNNに見られる様にDeepLearningのネットワークは実データ（画像や音声）を

　　　仕組みとしてAttention(抽象化）する能力がある。これは脳科学の様々な部位の

　　　連携で認識する方法と異なる。

　2.2)Episodic Memory

　　　経験（One-shot）の記憶をEpisodeとして外部記憶に置き、これを効率的に

　　　使う方法である。これは脳が睡眠や休憩中に経験を抽象化して蓄積することに

　　　似ている。

　2.3)Working Memory

　　　系列記憶のLSTMの拡張として、Neural Turing MachineやDNC(Differencial

             Network Computer)は外部記憶上の制御機能で複雑な系列連想を可能にした。

　　　この記事には触れていないが、これは制御機能がLie群多様体での写像になって

　　　いることが後に証明された。

　2.4)Continual Learning

　　　人間や動物は過去の事を継続して覚えているが、NeuralNetworkは最適化モデル

　　　なので、前の状態を全て書き換えてしまう。EWC(elastic weight consolidation)

           は下図にある様に前の学習状態の重さを弱くして、必要になった場合に強く

　　　して復活させようとするものである。https://arxiv.org/abs/1612.00796

 

f:id:mabonki0725:20170802114707p:plain

　　　

3)これから

    3.1)Intuitve Understanding of the Physical World

       幼少記に、すぐ適応する仕組みの解明。これには生成モデルが適用でき

　　これによる隠れ変数は成分（特徴量）を捉えており、これを学習することで

　　早期の理解が可能になることが示されている。　　

　　Early Visual Concept Learning with Unsupervised Deep Learninghttps://arxiv.org/abs/1606.05579

        Attend, Infer, Repeat: Fast Scene Understanding with Generative Modelshttps://arxiv.org/abs/1603.08575

    3.2)Efficent Learning

　　数少ない事例から、既存知識を駆使して推論する仕組の解明

       Building machines that learn and think like people https://arxiv.org/abs/1604.00289

　　これも生成モデルを利用したモデルで、見慣れない文字を早期に理解する

　　DRAW: A Recurrent Neural Network For Image Generationhttps://arxiv.org/abs/1502.04623　

　　いわゆるC.Kempの概念理解　　

        http://mlg.eng.cam.ac.uk/mlss09/mlss_slides/mlss09-tenenbaum-lecture1.pdf

   3.3)Transfer Learning

　　転移学習による、新規知識の一般化

　　https://rapunselshair.pbworks.com/f/barnett_2002.pdf

　　人間が経験しなくても、理解できる仕組みの解明

　　Zero-shothttps://arxiv.org/abs/1707.08475

        ロボテックス分野での早期理解

　　 Sim-to-real robot learning from pixels with progressive nets https://arxiv.org/abs/1610.04286

  

    3.4)Imagination and Planning

　　人間は環境の不明度によって計画や模擬をする能力の仕組みの解明　　

    3.5)Virtutal Brain Analysis

　　AIは未だにBlackBoxなので実際の脳の複雑な仕組みをAIに適応して解明

4) AIから脳科学へ

　DeepLearningが逆伝播(Backpropagation)をして最適化しているのに対して、

　脳科学の知見ではこの現象が見られない事に苛立ちを示している。このギャップの

　解明を期待している。