しましまのECMLPKDD2017まとめ

しましまのECMLPKDD2017の参加・聴講記録 http://ecmlpkdd2017.ijs.si/
0
前へ 1 2 ・・ 5 次へ
ECML PKDD @ECMLPKDD

We have a lift off!Welcome to @ECMLPKDD 2017.Frank Hutter giving a talk on #AutoML pic.twitter.com/QR9gRy4Fj5

2017-09-19 03:24:37
拡大
しましま @shima__shima

午前はストリームや能動学習のチュートリアル. 能動学習は,各アプローチの長短所がよくまとめられていた.ストリームを対象としたとき,空間的にどの事例をラベル付けするのかに加え,どの時間帯にラベルを取得するのかも問題になるという視点は面白かった.

2017-09-19 05:55:34
しましま @shima__shima

ストリームではラベル付けや予測の確認に遅延があり,その間に概念ドリフトがあると困るが,転移学習の技術で対応するという方向の研究がいろいろあるというのは知らなかった.

2017-09-19 05:55:45
しましま @shima__shima

オープニング.会場は劇場でマス席まである.クラッシクとマケドニア民族音楽の演奏.手に持つタイプの太鼓とあまり笛が1本だけのバグパイプのような楽器が出てきた.

2017-09-19 05:56:58
しましま @shima__shima

49ヶ国から参加.上位から独仏米伊スロベニア・マケドニア英伯中日蘭愛印西. 事前登録 615+当日参加.3/4は欧州から,米亜は同じくらい.去年は伊開催で646. ECMLPKDDとしてはスポンサーは多め.

2017-09-19 05:56:59
しましま @shima__shima

最初の招待講演はパラメータ調整の自動化 autoML のHutterさん GitHub github.com/automl プロジェクト ml4aad.org

2017-09-19 05:57:00
しましま @shima__shima

基本は SMAC3 というベイズ最適化を使った WEKA / sklern / NN (Caffe) の超パラメータ最適化. 過去の調整に基づくメタ学習によるウォームスタート.見込みの薄い学習の早期打ち切りや,学習データの部分サンプリングによる高速化などが組み込まれている.

2017-09-19 05:57:02
koh_t @koh_t

オールドバザーの路地裏でやってたライブ pic.twitter.com/jtgHVoS1Sz

2017-09-19 06:52:00
拡大
しましま @shima__shima

9月19日(火):本会議 1日目

2017-09-19 12:27:36
Adrian Calma @adrian_calma_

Thank you for the interesting discussion! Interactive Adaptive Learning Tutorial and Workshop @ECMLPKDD pic.twitter.com/SNyAdg4sUY

2017-09-19 15:21:40
拡大
拡大
Alison B. Lowndes ✿ @AlisonBLowndes

DNC helps avoid memory access costs - typically (mem-size)^2 ..with recoding & sequence chunking deepmind.com/blog/different… #ECML pic.twitter.com/JCdhPlqTrv

2017-09-19 16:31:34
拡大
拡大
Adrian Calma @adrian_calma_

Alex Graves "recurrent neural networks (RNNs) [...] the Swiss army knife of sequence processing for ML" @ECMLPKDD pic.twitter.com/lbUubhWD2k

2017-09-19 16:42:30
拡大
Alison B. Lowndes ✿ @AlisonBLowndes

Graves recommends guided curriculum learning (teacher-student) vs uniform sampling for RNNs #ECML #AI arxiv.org/abs/1704.03003

2017-09-19 16:59:26
Hamda Ajmal @hamdabinteajmal

Alex Graves talk new architectures and training strategies to overcome limitations of Recurrent Neural Networks @ECMLPKDD #ecmlpkdd2017 pic.twitter.com/oX9CoBXBjB

2017-09-19 17:04:40
拡大
しましま @shima__shima

基調講演 DeepMindの Alex Graves さん.RNN(回帰結合NN)の改良について.

2017-09-19 17:20:53
しましま @shima__shima

一つ目はアテンションなどの外部記憶についてで,今まではないようの類似性に基づく参照が行われていたが,書き込みの順序を記憶しておくことで時間順の参照を可能にする.二つ目は,入力が終わったら出力が始まるが,このタイミングを変更する試み.

2017-09-19 17:21:04
しましま @shima__shima

三つ目はBPTTの代替としてsynthetic gradientという方法.出来るのかと思ったが,逆伝播してくる情報を予測して,それを元に更新するらしい.最後は効率よく学習できるような順序で訓練データを与えるカリキュラム学習のような試み.

2017-09-19 17:21:14
しましま @shima__shima

ML学生論文賞,Arbitrated Ensemble for Time Series Forecasting - 系列に対する弱学習器の結果を統合するが,各弱学習器の結果への影響の度合いを別にメタ学習してあり,その結果を用いて統合の重みを決定する.

2017-09-19 17:21:25
Bryan Liu @liuchbryan

@b_p_chamberlain talking about predicting Twitter users' age based on what they follow in @ECMLPKDD. pic.twitter.com/ggOP5pyQjf

2017-09-19 18:05:23
拡大
koh_t @koh_t

時系列扱う辺りは決定木が存在感ある

2017-09-19 18:36:10
前へ 1 2 ・・ 5 次へ