amazonの人材評価AIが女性差別を起こして開発中止「ポリコレVS人工知能」「不都合な真実」

西村誠一 @khb02323

この話は先日起きた日本の医科大学における不当な女性差別にも通じる所がある。間違いなんだけど背景的に理解もできる的な

高山瑞穂 @mizpi

@khb02323 結局、男女問題に限らず「平等」というものは、論理を越えた部分でやって行かないと実現出来ないってことです。

高山瑞穂 @mizpi

乱暴に言ってしまえば、男女を始め、あらゆる不平等は「なるべくしてそうなった」とは言える。だからAIが雇用で女性差別を行うのは論理的には当然の帰結なんだろうと思う。 守旧派の人達のロジックはすなわちこれだよね。 でも、それでいいの？論理的に正しければそれでいいの？

早漏のフリーレン @supohobi

Amazonの極秘AIツールが「女性蔑視だった」という理由で廃棄されていたことが判明 - GIGAZINE gigazine.net/news/20181011-… 寿退社や出産休暇もあるだろうし、むしろ女性を優遇しないと平等にならんだろうなぁ。採用というか、社会の制度の問題だな。

emuren @emurenMRz

結局のところ、機械学習で選別できる人材ってのは"これまでの人事で優秀と評価された人"なわけで、常にイノベーションを求められるようなところでは役に立たないと思うのよね(´・ω・`)

みき @North_Fomalhaut

そりゃそうだ。 差別は基本的には合理的なものだもの。 合理的だから世の差別は尽きない。

tomo @tomo4950

焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で | Article [AMP] | Reuters jp.reuters.com/article/amazon… ポリコレvsAIの幕開けですね。与信AIなんかも問題視されそう。

つくりメール @tsukurimail

フェミニストと機械の最終戦争がいま始まる…

ASA @asaneru

Amazonの極秘AIツールが「女性蔑視だった」という理由で廃棄されていたことが判明 - GIGAZINE gigazine.net/news/20181011-… 基本的に過去データが元だからAIに革新はできないっていうパターンか。難しいね

ユウ @AugKawa

前にもAIがナチスを肯定したから手を加えたとかそういうのがあったけれど、『自分達に望ましくない方向に進んだからAIに干渉する』ということをやる限りは、人工知能が人間に並ぶ、人間を超えることは絶対に無いと思う。

も や @hinemoth513

人工知能の発達を阻害するのは人間の「平等論」なのかもね。 統計データを純粋に突き詰めた先には「差別論」的な結果が現れる事は多分あるんだと思う。 あくまで「個人」ではなく「数字」で見てる訳だけ。 正しいか正しくないかは誰目線かだよね。

酔いどれふりす @HurisDrunk

さっきの記事きっちり読んだが、これ、AI開発運用でやっちゃいけない、というかやり始めたら無駄な「人間が理由わかんないから使わない」をやっちゃってるじゃん。 採用者の主観によらないモノを求めてるんじゃないんかい！ アマゾンがＡＩ採用打ち切り「女性差別」で reut.rs/2PtxC7Z

グレたトンベリ @hakukoh

@Huris056 欲しい人材条件で設定したら男性に偏ってしまって社会倫理的に問題になる前に取り止めたという可能性

酔いどれふりす @HurisDrunk

@hakukoh ありえますねえ・・・ まあ、平等なんてもんは利益と敵対する要素なんですから考え始めりゃAIなんぞ使えませんわなあ。 でも、Amazonほどの大企業には底を確保する社会的義務があると思いますが。

DaysInTheWater @dagarivattnet

結局これって評価方法が違うにせよ、人間が一般的に過去のデータから学ぶことと同じことをプログラムにさせているわけだから、過去のデータから学ぶということそのものの限界を示しているのかもしれませんね…

ネサル・マド・クサカタ・サンムーン @HIKARIGANICS

AIの学習用データへの依存性や判断過程の不透明性などの問題点がよく出ていて興味深いなー。 焦点：アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で | ロイター jp.reuters.com/article/amazon…

あめんぼ @AmenboJP

差別と区別を理解できない人間サイドに問題があるのでAIが殺処分を決定定期

梨甘🍐 @nashi_37

人工知能が「差別する」出来るようになったんなら、それはそれですごいと思う。 多分、人工知能が機械的に選択した結果の内容を、人間がチェックしたら差別的な結果だったってだけだろうけど

ウアルダ @otorizero

適材適所が結果的に差別判定だったとかだったら面白い

ラーメンデブ @OMMC_spl

男性からしたら今の世の中男性の方がよっぽど差別されてるけどな

KYfather @KYfamilyfather

このネタ、どーゆーAIの設計をしてたのか思いを巡らすと楽しい。 男尊女卑な過去データを元に設計してたのが原因とは思うが、本当に女性にゃ合わない仕事で実はAIは最適解を示していた…。なんてなオチだと、なお愉快。人類はポリコレで自らスッ転ぶという見本になる。>RT

濱田 優 ｜編集・ライター👑 ZUU Co.,Ltd. @masaruhamada

おじさん脳なのかな twitter.com/okasanman/stat…

岡三マン @okasanman

Ａｍａｚｏｎが社員募集用の人工知能の開発中止　人工知能が女性差別の疑いで　 reuters.com/article/us-ama…

2018-10-11 08:35:16

黒描@海外不動産開拓中 @blackkittcat

これは男の方が社畜として飼うには有効というAIの総合的判断かな？ twitter.com/okasanman/stat…

俺の感覚を信じる @orenokankaku

人工知能だからそうなったんだろうな。未だに男が女の分まで頑張って稼いで女は子供を作ったり子育てに金の心配なく勤しむのは自然なことだと思ってる。そうでないパターンも当然、認めつつ。差別と区別なんだと思う。 twitter.com/okasanman/stat…

もそ @tokamon

機械学習の学習データから差別が合理的と判断される可能性が高まり、その結果格差がより拡大される、ってことの実例か。議論せずほっとくと浸透してしまう。 twitter.com/okasanman/stat…