しましまのNIPS2014まとめ

seanmcgregor @seanmcgregor

I'm in the #NIPS2014 workshop "Fairness, Accountability, and Transparency in Machine Learning" fatml.org

seanmcgregor @seanmcgregor

Much talk about fairness in classification, no mention of fairness in MDPs. Give it a few years. #NIPS2014

しましま @shima__shima

とりあえずCS系の人は私の論文を引用してくれてた．この分野の人と認知してもらってるみたいでよかった…

しましま @shima__shima

小さなワークショップだけど，オバマ大統領の選挙チームの分析担当の Ghani 先生 fatml.org/details.html くるのか．あんまりスライドに文字を書いてくれないので，いつもよく分からないんだが…

Hal Daumé III @haldaume3

from VW tutorial talk: tinyurl.com/pyvwsearch is ipython notebook, tinyurl.com/pyvwtalk is a longer talk #nips2014

Rayid Ghani @rayidghani

Excellent, passionate, & exciting discussions around fairness, accountability, and transparency in machine learning #fatml #NIPS2014

Shubhendu Trivedi @_onionesque

"In high dimensional error surfaces the problem in training is with saddle points not local minima." (Surya Ganguli) #NIPS2014

Andreas Mueller (also at mastodon) @amuellerml

This line for asking questions would scare me only slightly. #NIPS2014 pic.twitter.com/fTapJIV5TL

拡大

Moritz Hardt @mrtz

Rayid Ghani: Interpretability of the model is less important than interpretability of predictions. #fatml #nips2014

Hanna Wallach (@hanna@sigmoid.social) @hannawallach

Really awesome panel at #FATML #NIPS2014 workshop by/ @fakefoster, @rayidghani, and @mathbabedotorg!!!

Kohei Hayashi @hayasick

個人的に昨日面白かったポスター：papers.nips.cc/paper/5579-rec… 要素間の大小関係を集めたものをデータとして，順序関係に関する確率分布を考える．具体的にはバイナリツリーで階層的に要素間の嗜好のdisagreementみたいなもの（相関？）を考え，モデル化する．

Kohei Hayashi @hayasick

@hayasick あと実験で @shima__shima さんの寿司データを使っていて，結果が面白かった．まぐろ，鉄火まき，中トロがツリー構造の深いところにまとまっている＝それらの中にはあまり順序関係は存在しないという解釈が可能．

しましま @shima__shima

.@hayasick 引用してくれたけど私の名前が Kamisha になってて (´・ω・`) だったのですね．ネタの名前は英語にしてあったと思うのですが，ローマ字になってますね．

しましま @shima__shima

ワークショップ fatml.org の報告

しましま @shima__shima

ワークショップのイントロ：アルゴリズム自体は中立でも，データは社会の鏡 (Data as Social Mirror) なので不公正な判定も生じる

しましま @shima__shima

Can We Learn to Be Fair?：2011年の論文の紹介．不公正にならないように変換したデータを公開する方法．元空間が似てるデータは変換しても似てるリプシッツ性と，全体とマイノリティグループで確率分布がおなじ統計的一致性

しましま @shima__shima

Learning Rich But Fair Representations：ICML13の内容．公正にするのだが，相互情報量は分布の一致などの制約項を導入する方法．私の発表を引用してくれていてZemel先生とはお話できてよかった

しましま @shima__shima

Moving Beyond Prediction dirichlet.net 社会学系の人でスライドにあまり説明なくて，ついていけなかった．データや手法から始めるのではなくQuestionからはじめるべきと主張

しましま @shima__shima

技術は魔法ではないので，数学や物理学で示された限界は超えられないので，データや手法から始めて限界を見極めて議論しないと夢物語に終わると思う．忘れられる権利の議論とかでそういつも思うのだが

しましま @shima__shima

Privacy through Accountability cs.cmu.edu/~mtschant/ife Goolgeの広告の振る舞いを調べるのにランダムテストをして調査する information flow experiments というのをやっている

しましま @shima__shima

Certifying and Removing Disparate Impact fairness.haverford.edu 公平になるような確率分布の補正だが，あまりついていけなかった

しましま @shima__shima

Accountable Algorithms transparencyは手続きの説明だが，accountability は所定の手続きが行われていることを監査できたりすることと違うことらしい

しましま @shima__shima

暗号の枠組みを使って，確かに所定のアルゴリズムを使って処理したことを保証したりしてた

しましま @shima__shima

NIPS2014 第6日：ワークショップ2日目

中川裕志 @hiroshnakagawa3

@shima__shima 忘れられる権利は数学やデータの問題ではなく、法律の問題だと思うのだが。だから、その議論は私たちが期待するものとは違う方向に進むに違いないでしょう。