界隈で話題になってた記事だこれ #neurips18yomi tech-blog.abeja.asia/entry/hyperbol…
2019-01-26 17:55:47backprop での更新どうするんだろ. 単純に考えると測地線に沿ってよしなに動かすって感じになるのかな #neurips18yomi
2019-01-26 17:58:15backprop, 測地線に沿ってやるのではなくその点での曲率しか使わないっぽい? disk model でやると円盤の外に行っちゃうケースないんかな. あと disk model の円周の近くだと float の精度問題でないんかな. cdn-ak.f.st-hatena.com/images/fotolif… #neurips18yomi
2019-01-26 18:06:12DMVの大元がNeurIPS2018読み会にて発表した資料を公開しました。 紹介した論文はCatBoostというGBDTライブラリの詳細に関するもので、"Prediction shift"という問題を"Ordered boosting with Ordered TS"というアルゴリズムで解決しました。 niconare.nicovideo.jp/watch/kn3831 #neurips18yomi
2019-01-26 18:09:43ぐぬぬ面白いけど難しい、、、ユークリッド空間で扱うとうまく解けず、双曲空間で扱わないと解けないタスクの具体例を誰か教えてください。。。 #neurips18yomi
2019-01-26 18:11:44Hyperbolic Neural Networks 双曲空間への埋め込みを考えたNN。 一般的なユークリッド空間で埋め込むのではなくて双曲空間で埋め込んだほうがよい性質がある(こともある?/ex. word2vecで200次元で表していたものを双曲空間なら5次元で表せる)。 #neurips18yomi
2019-01-26 18:14:00公開しました。個人的には、機会を見てLIghtGBMと性能比較をしたいと思います。 2年ほど前に利用したときと比べてかなり性能が向上しているようなので・・・。 また、性能は置いといて、Ordered TSは優秀だと思いました。#neurips18yomi twitter.com/Dwango_DMV/sta…
2019-01-26 18:14:03ジャイロベクタースペースやリーマン幾何を使ってNNを考える(NNの各コンポーネントを双曲空間の対応物で置き換える)。#neurips18yomi
2019-01-26 18:14:16N響第1905回定期公演は、とりあえず、録音だけしておきます。 (撤退します) むしろ、私は、#neurips18yomi のハッシュタグに出ているGAN関係のスライドを見ます。
2019-01-26 18:14:44hyperbolic space で word の埋め込みをしたもの分離する場合, それをそのまま hyperbolic での直線で分離するのと, それを disk に移してから Euclid での直線で分離するのとでは, 前者の方が良いよね, という話 #neurips18yomi pic.twitter.com/sgomrECsWw
2019-01-26 18:16:05甲野佑(DeNA)によるテーマ発表 "Reinforcement Learning @ NeurIPS2018" #neurips18yomi
2019-01-26 18:17:44強化学習の問題 - サンプル効率性 - 探索促進 - 環境の制約 - 近似関数の保証 #neurips18yomi
2019-01-26 18:18:11傾向としては サンプル効率性に加え、探索促進が増えた。 共通していえるのは探索回数を減らしたい。 反復 = 期待値の収束 x 価値の更新 x 環境の探索 #neurips18yomi
2019-01-26 18:18:32『前方ボーナス・後方報酬』(甲野さん命名) - 知らないところには行って欲しいのでボーナスを上乗せ - たまたま知らないところに着いたら報酬 であってる? #neurips18yomi
2019-01-26 18:25:54Go-Explore 「モンテズマの復讐」で圧倒的な成績 有望そうな過去訪れた好きな場所からリスタートさせる セーブポイントとそこに到達するまでの経路を保持。セーブポイントからランダム探索を行って良い軌跡を格納。 #neurips18yomi
2019-01-26 18:31:38環境の外乱が少ないことを強く仮定しているしいつでも使えるものではない印象.ただ有益なケースはかなりありそうなのでたびたび見かけることになりそうだなぁ #neurips18yomi
2019-01-26 18:31:44