Socherの本格的な意味解析の論文

ランニングできず　英語できず

　終日Socherの論文読み。意味解析を本格的に取組んだ古典的名論文である。

https://nlp.stanford.edu/pubs/SocherHuvalManningNg_EMNLP2012.pdf

　言葉を配列Lと行列Lmのペアとしてとらえ、２分岐パーサで言葉間の関係を配列の重みWと行列の重みWmで統合して、節も配列と行列とする。これを再帰的に全文の配列と行列を生成する。パラメータとしては[W,Wm,L,Lm]を教師付き学習として階層型のLSTMで解く。VM-RNNモデル

非凸空間であるが、収束は早いと述べている。但し行列は行列分解して次元を下げている。

　　　

この方法の特徴は、形容詞や副詞付きの語句がモデルに反映できることで、また言葉の行列（図中のA,B,C）にwordNetなどの外部の概念が反映できることである。

教師付データとしては以下の２方法

①映画の「評論文、感情の格」で学習させている。

　　　　　学習結果　感情（９種類)毎の格（横軸）と判断確率（縦軸)

　　　　　言葉[or not and]による論理判断結果は完璧と記述されている

②名詞間の関係の学習