2017-03-01から1ヶ月間の記事一覧

条件付GANが半日でできた

ランニングできず 英語15分 最近は殆ど英語は通勤時間で行っている。 Conditional GANであるpix2pixがGPUのお陰で半日で計算できた。条件にしたがって架空の画像を生成していることがわかる。 所謂、望む条件に従う架空の画像が作成できるので、好みのファッ…

やっとGPUをDLサーバに入れる

テニススクール80分 英語10分 英語のリスニングには、古いカセットの教材を使うと便利だということが分った。 昨日のT研でのゼミの議論から、条件付GANの重要性を再認識したので、DeepLearningサーバの性能を改善する必要に迫られた。 一日かけて、GPUボード…

Alpha碁の実装サイトを知る

ランニングできず 英語20分 (1)T研の機械学習ゼミで「VAEとGANおよびその応用」を発表 Vae gan nlp from Masato Nakai www.slideshare.net M先生は一応興味を持ってくれた。一言片句で理解し、問題を発展させる手腕に、改めてM先生の理解力と洞察力は別格と…

論文の英語自体が理解できないとは情けない

ランニングできず 英語 30分 画像に対しての質問に答えるモデルの論文を勤務の間に読むが、内容が全く理解できない。 https://arxiv.org/abs/1601.01705 奈良先端大の進藤裕之助教の紹介なのでちゃんとした論文と思うが、英語の文章自体が理解できない事は始…

面白い論文を探す

ランニング30分 英語できず 明後日はプロ集団のT研のゼミの発表だが、少し落ち着いて論文を探す。 やはり面白いのはこのサイト http://arxiv-sanity.com/discussions ここから以下を注目 写真を夜の風景や異なる季節の写真と合成する(美しい写真) https://…

論文リストから無駄に過ごした時間を悔やむ

ランニングできず 英語20分 Online Toeicのリスニングが終了、別のサイトを探さなければならない http://vu.flare.hiroshima-u.ac.jp/english/TOEIC_project/index2.cgi 映画は相変わらず聞き取れない 午前中は自動運転、午後NextremaのAI論文読み会に参加す…

英語論文の読会の継続を検討する

ランニングできず 英語20分 来年度から移動の役員からの指示で、移動先の審査効率の分析で1日と費やす。I研のAIモデルとの比較となる様だ。 T研のゼミ発表は28日(火)に延期、理研のY先生の初参加だがレベルが低く申し訳ない気持ちになる。GANの理屈が未消…

画像の被写体の認識はDLで全てできる

ランニング30分 英語20分 英語聞き取りの成果は殆どない。 T研でのゼミの準備でSkype接続を習う。無料でこんなに簡単に世界中と繋がるのは脅威的だ。あらためてOpenInovationの恩恵の素晴らしさを実感する。 T研も古い先生が多いのでDeepLearningが浸透して…

Concept Learningの概要を読む

ランニングできず 英語20分 英語の理解は天気予報からと聞いたことがあるが、まだ映画とは全く聞き取れない。 Concept-Learningの論文読みに費やす。考え方は、事前分布をデータから事後分布を精緻化く過程(Sleep)とそこから生成過程(Wake)のいわば伝統的…

DeepLearning版の概念学習を読み始める

ランニングできず 英語30分 ゼミの発表資料を作るが、理解していない所は徹底して書けない。やはり難しい論文を相手にしていると実感する。本日からSalakhutdinovの確率プログラミングConcept-learningを読み始める。やはり生成モデルなので来るべきものが発…

M研ゼミの資料を作成し始める

ランニング30分 英語30分 来週のT研でのゼミ発表の資料を作成し始めるが、VAEの細かい点を忘れている事に気がつく。年のせいもあるけどDeepLearningは構成図で理解していると理論をすっかり落としてしまう事態に戸惑ってしまう。本当の理解が出来ていない証…

Salakhutdinovとは何者

ランニングできず 英語30分 Controlled Text Generation論文を読み終わるが、実験結果の評価の記述が理解できない。来週はこの状態でゼミで発表することになる。画期的な論文といえ1週間も費やした。この間次々と読むべき論文が出て、この発散傾向は宿命す…

テキストから画像を生成

ランニング30分 英語30分 産総研の神経AIの講演に参加。前半の全能アーキテクトの山川さんの話は相変わらず分らない。後半のOIST銅谷先生の話はいつも素晴らしい。人生も残り少ないがこういう人に成りたかった。脳内の生理の実験結果と強化学習+機械学習+…

NLP学会ではLSTMの成果が注目されている

ランニングできず 英語30分自然言語学会2017(筑波大)に初参加した。学会費と参加費で1万円ぐらい費やし痛い出費である。若い人が多い学会で雰囲気が良い。初参加で不明だがDeepLearningの注目度が高い。画像からTextで内容を生成するポースターがあり1万…

DeepLearningとベイズ統計の統合が扉を開く

ランニングできず 英語30分 CTG(controlled text generation)論文で離散処理と系列生成の理論が理解できず困惑。変分法による損失関数をDeepLearningで処理するには微分可能な連続値が必要な事をは理解した。ゼミは自然言語を研究しているT先生なので、なん…

DeepLearningの条件付生成に取組む

テニス2時間 英語30分 controlled text generation 論文読み。VAEを使って潜在変数Zを生成しているが、意図的なContextと生成メカニズムが未だ理解できない。同様な方法としてConditional GANを先に理解する必要があるかもしれない。読むべき文献が増える一…

VAE+GANの文献を見つける

ランニングできず 英語20分 午前中はTゼミで自動運転SLAMの勉強。一回サボっただけで全く理解できなくなっている。この修復は急がなくてはならない。T君からDeepLearningにはGPU必須との話を聞き、早速BIGカメラに行って様子をみる。お化けGPUという3000コア…

分散表現+GAN+DNCが当面の目標か

ランニング30分 英語20分 chainer版のDNCをサーバで稼動させる。こんどは2日かかると表示がでる。chainerはPFN社が提供するDeepLearningのツールだが、主なAIモデルは殆ど修正せず稼動できる。日本のAI技術の底上げでPFNの貢献は大きいといえる。優秀な人材…

DNCの日本語の文献を見つけた

ランニングできず 英語20分 DeepMind社のDNCの理論とプログラムの理解を行う。毎回新しいモデルに取組む毎に、自己の無能を思い知るため、断崖から下を除く思いをする。DNCの論文もプログラムも全く理解できず厳しい試練と覚悟したが、ネットで検索すると「…

DNCの深い闇に入る

テニススクール 80分 英語20分 DeepLearningによる生成モデルGANとVAEについて一区切りついたので、DNCの理解入る。GANやVAEの適用分野を探しながら、この精度の検証もしたい。DNCのソースがGitにあったが、python2.7の記述だったので、2to3コマンドでpython…

当面の目標のGANとVAEは実行できた

ランニング30分 英語20分 ようやくGANが実行でき、それらしい結果が得られた。2月初旬にS先生から借りたAIサーバでの当初の目標 DeepLearningの生成モデルVAE(Valiational AutoEncoder)とGAN(Generative Advanced Network)の稼動が1ヶ月で達成できたこと…

DeepLearningの3方向を追いかける

ランニングできず 英語20分 DCGANのchainerのプログラムを解読する。やはりVAEと同じで、相当難しい変分理論による損失関数をDeepLearningで表現すると簡単なコードにる事に驚く。DeepLearning自体が未詳であるので、ある意味で学術上の危険すら感じる。一方…

DeepMind社の論文読会が発足する

ランニング30分 英語20分 疲労の蓄積か殆ど成果がなく終日過ごす。こな事は始めてである。かなりストレスに弱くなっている事を自覚する。 DeepMind社の論文やプログラムのフォローの会、M君がDNCの説明をしてくれる様になり有難かった。この分野の論文や実装…

GANの簡潔なプログラムに驚く

ランニングできず 英語20分 自動運転のゼミがあると思い登校するが、来週だったので、カフェテラスで自習する。VAEは終了したのでGANのchainerプログラムを解読する。VAEもそうだが理論は変分法なので相当難しいがプログラムは実に簡潔にできている。皆が理…

DCGANの計算が70日と表示される

ランニング30分 英語できず AIサーバでgit cloneでchainerのプログラムを取り込みvaeを実行。 python train_vae.py とタイプするだけで、VAEが実行できた。まだ結果の解釈ができていない。 DeepLearningはVAEとGANをTensorFlowで実行することが目的だったの…

プログラムを読んで理解を確信に変える

ランニングできず 英語30分 広島大学のFreeのonLine問題を使っているが、引っ掛け問題(Rake lake,crown clown等)が多くて正解できず相当挫折感がある。 VAEのchainerのソースコードを理解する。論文だけでなくプログラムの理解してやっと理解が確信に変わる…

老齢に達してもまた1年を繰返す

ランニング30分 英語できず VAEのchainerのソースコードが理解できず。久しぶりにAIサーバを起動してみる。UNIXを殆ど忘れているので起動エラーが修正できない。Ipythonのツールspyderが起動できた。pythonの統合開発環境として便利だと思う。この年になって…

VAEはベイズとDeepLearningを統合する

ランニング30分 英語20分 VAE(Variational AutoEncoder)のコード理解中。考え方としては変分近似をニューロで行ったものだが、ベイズ統計の生成モデルとニューロサイエンスを結合した所が画期的である。非教師学習の生成モデルと教師学習のニューロサイエン…