しましまのICML2015まとめ

しましま @shima__shima

今日からICML2015に向けて出発．国際会議 35回目，ICML1回目，フランス 3回目，リール 1回目．日本からたくさん来てそうな気配．

™ @tmaehara

本日からICMLです． 11:00 NRT AF0275 / 19:07 CdG AF7229

しましま @shima__shima

武蔵野線が遅れて、飛行機ピンチ

しましま @shima__shima

間に合った、出発が遅れてた

しましま @shima__shima

Lilleに着いた．業界人がいっぱいTGVに乗っていた

しましま @shima__shima

ICML2015第1日目：チュートリアルの日

™ @tmaehara

ICML2015 pic.twitter.com/E7mVBLxjeJ

拡大

拡大

™ @tmaehara

goods pic.twitter.com/rJBnBDCaJM

拡大

Philip Irri @PhilipIrri

First day of #ICML2015 in Lille, France. #reactive pic.twitter.com/pPaRmtDtkM

拡大

しましま @shima__shima

#icml2015 conference venue pic.twitter.com/betHZt8EEm

拡大

しましま @shima__shima

リールの広場 Grand Place pic.twitter.com/f4KWuLvtJm

拡大

しましま @shima__shima

ICML2015のスポンサー icml.cc/2015/?page_id=… すごくおおくてびっくり．常連+ヨーロッパ勢って感じかな？日本からはパナソニック．

Hiromi ARAI @hiroara

@shima__shima あ、fairnessですね！今度様子を教えて下さいm(_ _)m

しましま @shima__shima

@hiroara #fatml ワークショップでお話する時間をいただけた fatml.org/details.html#s… のでノコノコやってきました．また報告させていただきます．

しましま @shima__shima

日本企業はスポンサーになってても求人ブース出してないことがおおいけど，パナソニックのシリコンバレーの研究所が求人ブースだしてるな

marieb @marie_marieb

#icml2015 The @LilleGrandPalai is ready to welcome you pic.twitter.com/VWVsRv2da0

拡大

™ @tmaehara

deep Q learning の何が良いのかをやっと理解した。

™ @tmaehara

通常のQ学習（モデル無し）だと、全状態・全アクションをみないとダメだけど、DQNはQ関数を「推定」することで、より少ないサンプル数で戦う。つまり、似た状態に対する学習を同時にやってる感じなのか。

しましま @shima__shima

@tmaehara 飽和モデルでなくて，パラメトリックなモデルを使うのは，90年代のTD-Gammonとかの3層ニューロでもあったかと．DQNの方が複雑ですが

™ @tmaehara

@shima__shima 飽和モデルって言うんですね。確かにこの設定ならパラメトリックにしたくなります（というか、しないと学習に必要なサンプル数が悲惨なことになりそう）。

™ @tmaehara

これ表現がちゃんとしてたら普通にガウス核展開とかで学習すれば、十分良い性能出るんちゃうか（古い論文にありそう）

™ @tmaehara

普通にチュートリアル内にあった

しましま @shima__shima

Percy Liang さんによるNLPの自然言語の意味論．word2vec でよく耳にするようになった．

しましま @shima__shima

ちゃんと知らなかったが，distributional semantics (分布意味論)，frame semantics（フレーム意味論），model theoretic semantics (モデル理論的意味論) とあるらしい．

しましま @shima__shima

分布意味論は，有名になったskip-gramモデルで，文脈と語の意味が対応するという考えに基づくもの．学習でやりやすいが，全体を一つにまとめてしまう無理がある．