NIPS2013読み会

NIPS2013読み会@東京大学
4
Kenta Oono @delta2323_

Deep Q Networkで人間にかなわないようなゲームには比較的長期的な戦略が必要になる蛍光がある。将棋とかどうなんだろ。 #nipsyomi

2014-01-23 20:18:11
Shohei Hido 比戸将平 @sla

次は@tb_yasuさんの、ノード特徴量が連続値である場合のグラフカーネルの話。これもMPIの第一人者Karstenさんのところですね。数少ない構造カーネル論文… http://t.co/KL55bGOg0W #nipsyomi

2014-01-23 20:22:51
中川裕志 @hiroshnakagawa3

Deep Learningでなければ人でなし、もとい、機械学習でなし、ということがよく分かったNIPS読み会。

2014-01-23 20:23:49
Kenta Oono @delta2323_

shortest-path kernelは精度は良いけれど、ノード数の4乗の計算時間がかかる。そこで、GraphHopper Kernelというカーネルを提案。グラフがスパースの場合はO(n**2)で動く #nipsyomi

2014-01-23 20:30:15
Yuya Unno @unnonouno

エッジに実数値、ノードにベクトルがついたグラフに対して、それぞれの全ての同一長の最短路集合間で対応する各ノードのカーネルの和として、グラフ間のカーネルを構築。これは効率的に計算できる #nipsyomi

2014-01-23 20:32:04
Shohei Hido 比戸将平 @sla

グラフカーネル的にはn^2ってオーダーとしてはもうベストだよね #nipsyomi

2014-01-23 20:37:15
MIYOSHI Kunihiko @colspan

@okapies 現在NIPS論文読会にて死にかけている。助けてくれないか。

2014-01-23 20:38:19
Yuya Unno @unnonouno

各ノードをルートとする最短路パスツリーを考えると、どの長さで他のノードで到達するかがたたみ込むように計算できて、そのお陰で計算量を削減できる、というような印象 #nipsyomi

2014-01-23 20:38:36
イッチ @Quasi_quant2010

NIPS2013読み会で発表しました Similarity Component Analysis、http://t.co/QgSjA5Vm50

2014-01-23 20:40:26
Kenta Oono @delta2323_

分散機械学習では、理論面を強調すると非現実的な仮定が置かれる事がある。逆に実装を重視して理論的な解析が全くできない事も。その中間を取る事は出来ないかというのがモチベーション #nipsyomi

2014-01-23 20:49:01
Yuya Unno @unnonouno

分散機械学習のフレームワークとして、同期タイミングを低頻度、そのたびに一番遅いノードを待つことで、BSPなどより効率化かつ理論保障できるように。パラメータは中央で管理なのがjubatusと違う #nipsyomi

2014-01-23 20:54:08
Kenta Oono @delta2323_

提案手法のSSPではスレッド間のイテレーションの差sに上限を設ける。理論的な精度保証が出来る。s=0でBSP, s=∞で完全非同期に対応。 #nipsyomi

2014-01-23 20:54:51
Koji Matsuda @conditional

はーNIPS読み会たのしそう

2014-01-23 20:55:03
Yuya Unno @unnonouno

jubatusってgit的だよね、という話をこないだしてて、その意味で言うとこの方法はsvn的だ(何だそれ #nipsyomi

2014-01-23 20:55:19
もっちぃ @tanimocchi

Tagged Signal Modelみたく、一般化超距離空間での不動点計算とか、CPO(Complete Pertial Order)上のChaotic Iterationの枠組みでJubatusの収束を定式化したりして、証明する事ってできないのかしら? #nipsyomi

2014-01-23 20:56:28
Shohei Hido 比戸将平 @sla

.@beam2dさんによる世界初の実験ビルド環境maf実演トーク始まりました http://t.co/vjuR0gb9VM #nipsyomi

2014-01-23 20:57:41
Yuya Unno @unnonouno

wafというビルドシステムを利用した実験環境mafの紹介。かつて辻井研では、実験はみんなmakeで行っていて、これをクラスタマシン上で分散makeするシステムとくっつけて大規模にハイパーパラメータ探索してた記憶 #nipsyomi

2014-01-23 21:00:12
Shohei Hido 比戸将平 @sla

「これで実験用にパラメータを変えたLIBSVMが100回位走ります、が、時間がかかるので、こちらに終わったものがあります」 #nipsyomi

2014-01-23 21:08:02
enjoy my life @issei_sato

仕事が大量発生中なのでNIPS読み会後の飲み会は不参加で汗

2014-01-23 21:43:30
Shohei Hido 比戸将平 @sla

ご登壇ご参加頂いた方々ありがとうございました。次回の論文読み会でまたお会いしましょう! #nipsyomi

2014-01-23 23:33:35
Yuya Unno @unnonouno

今日の日記 NIPS2013読み会でword2vec論文の紹介をしました http://t.co/7n74xA83TY @unnonounoさんから

2014-01-25 18:37:06