- shima__shima
- 2445
- 11
- 0
- 0
Packed house for the start of #ECML #AI pic.twitter.com/0VkaVU7hC0
2017-09-19 02:11:03#ECML Keynote by Frank Hutter on optimizing true end-to-end #AI #deeplearning with #automl #metalearning #bayesian www2.informatik.uni-freiburg.de/~hutter/ pic.twitter.com/JgCeQTg8f7
2017-09-19 02:52:54We have a lift off!Welcome to @ECMLPKDD 2017.Frank Hutter giving a talk on #AutoML pic.twitter.com/QR9gRy4Fj5
2017-09-19 03:24:37午前はストリームや能動学習のチュートリアル. 能動学習は,各アプローチの長短所がよくまとめられていた.ストリームを対象としたとき,空間的にどの事例をラベル付けするのかに加え,どの時間帯にラベルを取得するのかも問題になるという視点は面白かった.
2017-09-19 05:55:34ストリームではラベル付けや予測の確認に遅延があり,その間に概念ドリフトがあると困るが,転移学習の技術で対応するという方向の研究がいろいろあるというのは知らなかった.
2017-09-19 05:55:45オープニング.会場は劇場でマス席まである.クラッシクとマケドニア民族音楽の演奏.手に持つタイプの太鼓とあまり笛が1本だけのバグパイプのような楽器が出てきた.
2017-09-19 05:56:5849ヶ国から参加.上位から独仏米伊スロベニア・マケドニア英伯中日蘭愛印西. 事前登録 615+当日参加.3/4は欧州から,米亜は同じくらい.去年は伊開催で646. ECMLPKDDとしてはスポンサーは多め.
2017-09-19 05:56:59最初の招待講演はパラメータ調整の自動化 autoML のHutterさん GitHub github.com/automl プロジェクト ml4aad.org
2017-09-19 05:57:00基本は SMAC3 というベイズ最適化を使った WEKA / sklern / NN (Caffe) の超パラメータ最適化. 過去の調整に基づくメタ学習によるウォームスタート.見込みの薄い学習の早期打ち切りや,学習データの部分サンプリングによる高速化などが組み込まれている.
2017-09-19 05:57:02Thank you for the interesting discussion! Interactive Adaptive Learning Tutorial and Workshop @ECMLPKDD pic.twitter.com/SNyAdg4sUY
2017-09-19 15:21:40Alex Graves @DeepMindAI introduced for his Invited Talk @ECMLPKDD on RNNs #deeplearning #AI #ECML pic.twitter.com/XDywnNkRL5
2017-09-19 16:14:12DNC helps avoid memory access costs - typically (mem-size)^2 ..with recoding & sequence chunking deepmind.com/blog/different… #ECML pic.twitter.com/JCdhPlqTrv
2017-09-19 16:31:34Alex Graves "recurrent neural networks (RNNs) [...] the Swiss army knife of sequence processing for ML" @ECMLPKDD pic.twitter.com/lbUubhWD2k
2017-09-19 16:42:30. @DeepMindAI ACT: giving RNNs "ponder time" arxiv.org/abs/1603.08983 #AI #ECML pic.twitter.com/l1Qo4yWSfw
2017-09-19 16:53:48Graves recommends guided curriculum learning (teacher-student) vs uniform sampling for RNNs #ECML #AI arxiv.org/abs/1704.03003
2017-09-19 16:59:26Alex Graves talk new architectures and training strategies to overcome limitations of Recurrent Neural Networks @ECMLPKDD #ecmlpkdd2017 pic.twitter.com/oX9CoBXBjB
2017-09-19 17:04:40一つ目はアテンションなどの外部記憶についてで,今まではないようの類似性に基づく参照が行われていたが,書き込みの順序を記憶しておくことで時間順の参照を可能にする.二つ目は,入力が終わったら出力が始まるが,このタイミングを変更する試み.
2017-09-19 17:21:04三つ目はBPTTの代替としてsynthetic gradientという方法.出来るのかと思ったが,逆伝播してくる情報を予測して,それを元に更新するらしい.最後は効率よく学習できるような順序で訓練データを与えるカリキュラム学習のような試み.
2017-09-19 17:21:14ML学生論文賞,Arbitrated Ensemble for Time Series Forecasting - 系列に対する弱学習器の結果を統合するが,各弱学習器の結果への影響の度合いを別にメタ学習してあり,その結果を用いて統合の重みを決定する.
2017-09-19 17:21:25Non computational approach #ecmlpkdd #ecmlpkdd2017 pic.twitter.com/8L2bCdXPl3
2017-09-19 17:57:20@b_p_chamberlain talking about predicting Twitter users' age based on what they follow in @ECMLPKDD. pic.twitter.com/ggOP5pyQjf
2017-09-19 18:05:23