しましまのICML2015まとめ

Salim Jouili @jouilis

Word embedding with order consideration results from @dreasoning #icml2015 #MachineLearning pic.twitter.com/yScMXLNgns

拡大

Andrew B. Collier @datawookie

Junpei Komiyama "MP-TS is the first computationally efficient algorithm with optimal regret." #ICML2015

Páidí Creed @paidicreed

Hashing can shrink your neural network's memory footprint without much impact on performance #icml2015 pic.twitter.com/LktybcDW6A

拡大

Justin Basilico @JustinBasilico

Normalizing inputs of each deep network layer within a mini-batch can dramatically speed up training #ICML2015 jmlr.org/proceedings/pa…

EuraTechnologies @euratechnologie

#ICML2015 Leon Bottou, @Facebook AI Research en tête d'affiche à l'International Conference on Machine Learning 2015. pic.twitter.com/qWclw0bnH4

拡大

しましま @shima__shima

7月8日(水) ICML2015 3日目：本会議 2日目

しましま @shima__shima

On the Relationship between Sum-Product Networks and Bayesian Networks 以前教えてもらった入力の重み付き和の積を複数回重ねるsum-productネット．重みの総和が1に正規化してあるとベイジアンネットに変換可

しましま @shima__shima

モデリングのセッションはわたしの興味にあってた

Centre Inria de l'Université de Lille @Inria_Lille

Panel d'experts #machinelearning pr présenter #icml2015 : Francis Bach, Philippe Preux, Léon Bottou et Joelle Pineau pic.twitter.com/2F3FT0VrS3

拡大

しましま @shima__shima

休み時間中は音楽がかかってるのだが，なんかずっとトリップホップだ

Centre Inria de l'Université de Lille @Inria_Lille

#icml2015 en quelque chiffres : L'excellence scientifique au cœur de #Lille @IdexLille pic.twitter.com/AjASQBXsqC

拡大

しましま @shima__shima

深層学習のセッションも一つぐらいは見ておこう

しましま @shima__shima

Unsupervised Learning of Video Representations using LSTMs 系列-系列を回帰結合ネットで翻訳につかってたグループがビデオについてやってみた感じ．

しましま @shima__shima

系列間の対応はこの方法でとりあえず総取りにきてるな．同じ系列を予測する自己符号化型と予測型のネットの組み合わせてるところがポイントの工夫のようだ．

Alison B. Lowndes ✿ @AlisonBLowndes

Listening to Jimmy Ren sensetime.com talk deep edge aware filters @icml15 #icml2015 #deeplearning pic.twitter.com/jkVt1aExAn

拡大

しましま @shima__shima

Show, Attend and Tell: Neural Image Caption Generation with Visual Attention 画像と自然言語文の対応．画像特徴+注目領域と自然言語文の各語とを回帰結合ネットで対応付け

しましま @shima__shima

深層学習で画像のセッションだけど，静止画でCNNっていうのはもうぜんぜんなくて，回帰結合ネットで系列を扱ってるな

しましま @shima__shima

@shima__shima 最後だけCNNだけど，ラベルに関連する画像の領域の特定というsaliency mapの問題．もうラベル付けの精度を上げようっていう競争は頭打ちかな？

Hideki Nakayama @n_hidekey

基礎理論分野としてはもうsolved problemなんでしょうね

しましま @shima__shima

@n_hidekey 絶対的な正解率はまだだけど，深層学習で上がる分は上がりきったってことではないでしょうか？ 次のブレイクスルーを探す地道モードに移行かと

™ @tmaehara

Invited talk by S.A.Murphy

Hideki Nakayama @n_hidekey

一般画像認識で、例えばILSVRCでは識別率が人間並みに到達しているわけだが、これを人間を圧倒的に超えるレベルまでもっていくことは原理的に可能なのだろうか。教師データは人間が作ったものでしかないわけだし、そもそも評価できないか。

™ @tmaehara

invited talk，スマホで健康的なネタ．だいぶ，わかりませんでした……．

しましま @shima__shima

@n_hidekey 自然言語処理のReutersかなんかのコーパスで，これ以上分類精度が上がらないのは，どうももとのラベルに一部間違いがあるんではってのは聞いたことが

しましま @shima__shima

@n_hidekey 手書きの郵便番号だったら横に住所が書いてあるので正解が分かるとかありますよね？一般の風景じゃなくて，医療画像で検査結果と比べるとかだといろいろありそうな