ICLR/ICML2019読み会 @ DeNA のつぶやきまとめ
-
- いいね！0
Koichi Hamada
@hamadakoichi
本日 ICLR/ICML2019読み会。自分も「Generative Adversarial Networks @ ICML2019」のテーマで話します。 connpass.com/event/138672/ #icml2019jp
2019-07-21 13:44:14
Kazuyuki Miyazawa
@kzykmyzw
Open Reviewって公式Reviewer以外からのコメントに返答するかどうかって採否に関係あるのかな？ #icml2019jp
2019-07-21 13:44:55
nuuuu
@ny_ganow
ICLR/ICML2019読み会でしゃべります slideshare.net/YoshihiroNagan… #icml2019jp
2019-07-21 13:49:24
Kazuyuki Miyazawa
@kzykmyzw
理論的にはいいかもしれないが、RNNはGPU効率の問題もあり、同じ時間とコストで勝負すると並列性が高いCNNに勝てないケースが多い #icml2019jp
2019-07-21 13:50:48
Kazuyuki Miyazawa
@kzykmyzw
ICLRはOpenReviewで投稿＝公知になってしまうため、まず特許を出さないといけないことが多い企業の人にはややハードル高し #icml2019jp
2019-07-21 13:53:02
pshiko@クレイジーポッター
@p_shiko
Rnn系はcnn系に比べて計算効率に劣ることから、同じコストでのパフォーマンスが悪い。そのため理論的な正しさとは別にrnn系の研究の投稿数は縮小気味とのこと #icml2019jp
2019-07-21 13:53:18
Yuji Tokuda
@dakuton
OpenReview形式だと企業は出しづらい面もある。特許申請してからでないと公開できないため #icml2019jp
2019-07-21 13:53:30
Kazuyuki Miyazawa
@kzykmyzw
コード付きsubmitは出す側からすると大変だよなぁ。提出必須にされたり、査読者がちゃんとコード動かせるように、みたいな規定設けられると破綻しそう。#icml2019jp
2019-07-21 13:58:15
Yuji Tokuda
@dakuton
ordered neurons LSTMを用いて言語の階層構造をメモリセルに載せる。cumax(softmaxの累積和)をforget/input gateに使い、過去情報に重み付けをつけてメモリ更新を行う #icml2019jp
2019-07-21 14:14:16
yu4u
@yu4u
Ordered Neurons: 時系列データの背後にある階層構造を暗に解くことができる。他にも応用がありそうでめっちゃ面白い #icml2019jp
2019-07-21 14:16:49
yu4u
@yu4u
IoUを損失関数にする場合ですが、CVでもdisjointなBOX対にちゃんと勾配を発生させる手法があったりしますね uiiurz1.hatenablog.com/entry/2019/04/… #icml2019jp
2019-07-21 14:26:15
Yuji Tokuda
@dakuton
Smoothing the Geometry of Probabilistic Box Embeddings: 既存の分散表現に包含関係を持ち込みつつ、階層重なりがないものの勾配が0になる問題をsoftplusで解決。WordNetがもつ上位語/下位語関係の有無が分類できていることを確認 #icml2019jp
2019-07-21 14:28:56