AIに「飯テロ」というお題で描かせるのが流行っているが「髭のある中近東系の男性」が出力されることが多くAIが偏見を学習して再生産しているではないかと心配になる
-
atomgn2911
- 49110
- 75
- 21
- 52
-
- いいね！52
トッケイヤモリ
@zatazata
一部でAIに「飯テロ」というお題で描かせるのが流行っているのだけど、出て来る結果が見る限り「髭のある中近東系の男性」で、これ、AIが偏見を学習して再生産しているのだと思う。今後問題にしないといけない側面だと思う。 pic.twitter.com/rwXAezoLi1
2022-09-21 09:05:49
拡大
拡大
こんな感じになるらしい
おうまさん
@oumasanx
飯テロってワードをAIに描かせるやつが面白かったので自分でもやってみたけど誰なんだこいつは pic.twitter.com/0vmOODDsLB
2022-09-20 22:27:21
拡大
杏ケ丘レースウェイ管理人
@430CEDRIC
AIに「飯テロ」を指示すると・・・っていうネタを知ったのでやってみたら・・・手が無いんですが・・・ pic.twitter.com/FTnbf3QG3D
2022-09-21 17:03:30
拡大
こういう理由らしい
K.H
@k_gunsou
テロ＝中近東のイスラム系が起こすものという認識は偏見以外の何物でもないからな。 確か、実際には中東系のテロよりも白人の銃乱射の方が死者が多いという統計がある、という記事をどこかで読んだ気がするが、どこだったか忘れてしまった。 もう一度探しておこう。 twitter.com/zatazata/statu…
2022-09-21 20:29:43
いちごそば
@ichigosoba
AIに「飯テロ」を描かせると飯とテロリストの絵が生成されるのは、どうもAIが「飯テロ」を「terrorist who threatens to eat or feed a meal」と解釈しているからのようで、この英文をAIに食わせると画像のような絵が生成される。 pic.twitter.com/2WBu1hgOIT
2022-09-21 01:33:20
拡大
結構前から指摘されている問題
HA710
@8_7_10
Googleの作った画像認識AIが学習データの偏りのせいで黒人を人として認識しなかった話を思い出すなあ twitter.com/zatazata/statu…
2022-09-21 17:21:48
土岐頼益／二〇〇八
@steep_edge0415
えっ… こんな画像が出てくるとは。これはかなりまずそう。 AIの高度化で避けて通れないであろう偏見の問題が、ついに表に出てきたのか（これが初めてではないだろうけど） twitter.com/zatazata/statu…
2022-09-21 19:12:12
WRB/Niyang
@wrb_new
CGIのおしゃべりAIがめちゃくちゃpolitically incorrectなことばっか言い出した事件思い出すなあ。当然AIは学習用データに含まれる人間のバイアスを再生産しちゃうよね。 twitter.com/zatazata/statu…
2022-09-21 19:02:32
ﾊﾓﾝ
@amnesiac0511
「テロ」の文脈で出てくる画像に中近東系男性が多いこと、それに「飯」が付随した絵。 海外では以前から問題視されてきたけど、もう日本語でも進んでるか…。 ＞人工知能が「偏見」を学んでしまった──画像認識で「白人男性」より「黒人女性」の識別率が低かった理由 wired.jp/2018/02/23/pho… twitter.com/zatazata/statu…
2022-09-21 20:01:09
AIとバイアス
bbscience
@bbsience1
こういうの、別に偏見ではなくて世の中の画像とテキストにそれが多いってだけであって、偏見かどうかもわからない。偏見を助長し得る、というのであればそれはそう。 twitter.com/zatazata/statu…
2022-09-21 20:40:12
Flanker
@Flanker_YM_Xpr
人口に膾炙するいわゆるAIなんて結局はお手本から得た統計結果をオウム返しするブラックボックスであって、それ自体に知性や倫理など無いし。教師データ自体にバイアスが掛かっていたらそれを忠実に真似るだけ。 twitter.com/zatazata/statu…
2022-09-21 20:38:10
Kamimura Tomoka
@kamimuratomoka
AIの学習能力は素晴らしい。AIが悪いんじゃない。 とはいえ、再生産させ流布しないような歯止めは必要でしょうね。 ネット上にはびこる差別的な言説も、学んだことを素直に吐き出しているだけ、なんでしょう。AIと同じかAIにも劣るってことでいいんでしょうか。 twitter.com/zatazata/statu…
2022-09-21 19:48:36
fusakui
@fusakui_politik
AIのアウトプットを「こんな感じでした！」と無批判に受け止めるのではなく、そこに埋め込まれた偏見や差別意識をきちんと検出する力がAI時代の"教養"なんだろうね。 歴史や社会情勢を理解していないと、そのレベルでAIを使いこなすのは難しい。 twitter.com/zatazata/statu…
2022-09-21 18:04:21