amazonの人材評価AIが女性差別を起こして開発中止「ポリコレVS人工知能」「不都合な真実」

ロイター @ReutersJapan

米 #アマゾン は優秀な人材を獲得するため、採用選考にＡＩを導入しようとしましたが、プログラム開発を途中で断念しました。女性に対する評価が低く出るためで、公正な審査ができないと判断しました。 #人材採用　#AI #人工知能 bit.ly/2RIDP1A

Haruhiko Okumura @h_okumura

AmazonのAI採用ツールの元記事はこれか reuters.com/article/us-ama… 実験ツールで，実際の採用に使ったわけではないという。性別欄はなくても「女子チェス部主将」とか「女子大卒」に負の評価を与えたという。それだけならそういう記述を消せばいいだけだろうが，他にも問題があったのかも

はんま𝕏 @hanma2020

Amazonの極秘AIツールが「女性蔑視だった」という理由で廃棄されていたことが判明 - GIGAZINE gigazine.net/news/20181011-… 人間の女性差別傾向をAIが拡大したって事か？ 子は親の鏡とはよく言ったもんだなって。

reo/gum @rmemom0806

人口知能が女性差別？区別ではなく？

Neo @melmelgogo

@Reuters_co_jp AIに差別などという感情はないと思います。　むしろ、公正に判断した結果がそうなったのではないでしょうか。

totugekitai @totugekitai

結果に対して公平だから差別を強化する結果になるのか。

クマー @kumahhh

ブラックボックスAIに任せると女人禁制になる話

青空さん(雑多アカ) @yuukoaozora

ネットで知識を吸収するとなぜかすぐにネオナチになるんだよなAIって。 twitter.com/okasanman/stat…

岡三マン @okasanman

Ａｍａｚｏｎが社員募集用の人工知能の開発中止　人工知能が女性差別の疑いで　 reuters.com/article/us-ama…

2018-10-11 08:35:16

くら @Popai_pepe

@htmk73 Aiは正直なのです。

テック系ベンチャーキャピタリスト @maru56

不都合な真実だな（ゴリラと一緒で） twitter.com/okasanman/stat…

てるしっど @terucid46

機械も人間も仕事において女性を避けるのは当然の流れだったのか…？

よしくん @yoshikuns_jp

まぁ、男女それぞれに得手不得手はあるだろうし、正確になればなるほど平等主義の人間と違いAIは素直に優れているほうを示すだろうね。 / アマゾンがＡＩ採用打ち切り、「女性差別」の欠陥露呈で (Reuters) #NewsPicks npx.me/uYYD/Zb2w?from…

シダ（不愉快なお前の隣人） @s_i_d_a

AIが人間を教師とした結果として男女差別を学習してしまふの、ディストピア感がある。

ihcamezak @ihcamezak

「正しい判断」をして政治的に正しくなくなることもありそうだから、難しいですよね。これ、「男性差別」だったら、こういうふうにはならなかったかも。 twitter.com/okasanman/stat…

ゆむゆ @yu_yum

アルゴリズムが公正な目で学習した結果を蔑視と呼ぶのか、と思ったけど、そもそも人間による偏った評価を元に学習したからってことかな？ Amazonの極秘AIツールが「女性蔑視だった」という理由で廃棄されていたことが判明 - GIGAZINE gigazine.net/news/20181011-…

Kazuo @mimic007

AIは過去のデータから正しい推論をしたのにスクラップにされるんだなあ。 人事担当者が解任されるのならわかるんだけど。 Amazonの極秘AIツールが「女性蔑視だった」という理由で廃棄されていたことが判明 - GIGAZINE gigazine.net/news/20181011-…

てつを @Takotiha

Amazonの極秘AIツールが「女性蔑視だった」という理由で廃棄されていたことが判明 - GIGAZINE gigazine.net/news/20181011-… 機械が公平にデータだけ見て学習した結果だからねw まぁ元になったデータに偏りがあると言われればそれまでだけど

てん @tenn_25

この事例は問題あるかもだけど、結局AIがどんなに優れて合理的な判断をしても人間都合の解釈や抑制が入るから活かされないんだよなって思った。 twitter.com/asciijpeditors…

ASCII.jp @asciijpeditors

「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に ascii.jp/elem/000/001/7…

2018-10-11 11:15:02

ひろせぶろん @excelsus1

君らも前例が少ないことは苦手かｗそらデータの蓄積で判断してるんだからそーだわな。

すーほ@ @r_m_s_8573

女性差別者でもなく特別フェミニストでもない男からすると 「世の中男女平等のはずなのに許せん！」 より 「AIすっげええええ！！」 が勝ってしまうのはおかしいことなのかな twitter.com/jingbay/status…

高梨陣平 @jingbay

Amazonが求職者の評価AIを首に。女性への偏見をアルゴリズムが持っていた。Womenの単語を仕様しresumeを低評価。過去10年の採用された人のresumeで教育。男性が多く、必然的に男性を評価するよう学習。 twitter.com/mashable/statu…

2018-10-11 06:35:54

バンビ🍜🍣 @bambi_918

「人工知能は女性差別をする」か。面白いな。

西村誠一 @khb02323

これ、味わい深いニュースだと思ってて、世界的に女性は結婚退職リスクがある、出産休職・退職リスクがあるなど諸々の気を遣うべき点をまともに学習させたら「女性はよっぽど優秀でもない限り雇うべきでない」って判断しちゃうよね twitter.com/okasanman/stat…

西村誠一 @khb02323

女性差別に纏わる話は差別でなくて区別だったり、逆によっぽど女性を優遇しない限り同等の扱い相当にならないとか難しい

西村誠一 @khb02323

やっぱり生物学的な違いというか「女性は子供を産む」、「子供に対する愛情が強かったり育てる側になる事が多いのも女性」という根本的な違いがある以上、例えば「雇用」、「就職」ってキーワードに絞ると男女差をゼロにするのは難しいですよね