5日前

AIに「飯テロ」というお題で描かせるのが流行っているが「髭のある中近東系の男性」が出力されることが多くAIが偏見を学習して再生産しているではないかと心配になる

Microsoft の AI が停止された事件がありましたね
81
トッケイヤモリ @zatazata

一部でAIに「飯テロ」というお題で描かせるのが流行っているのだけど、出て来る結果が見る限り「髭のある中近東系の男性」で、これ、AIが偏見を学習して再生産しているのだと思う。今後問題にしないといけない側面だと思う。 pic.twitter.com/rwXAezoLi1

2022-09-21 09:05:49
拡大
拡大
こんな感じになるらしい
笛座一(ふえざ はじめ) @fueza_hajime

AIに「飯テロ」で描かせるとなんでこうなるんだよ!!! pic.twitter.com/XOCplinFSa

2022-09-20 20:31:20
拡大
拡大
マイト・ダイ @___spareribs

うちのAIの飯テロも結構やばいと思う pic.twitter.com/KkUYCrVJor

2022-09-21 09:58:29
拡大
おうまさん @oumasanx

飯テロってワードをAIに描かせるやつが面白かったので自分でもやってみたけど誰なんだこいつは pic.twitter.com/0vmOODDsLB

2022-09-20 22:27:21
拡大
同志99 @Dousi99

AIが飯テロ作ったら凄い事になるんやな pic.twitter.com/51oRj6WFiw

2022-09-20 17:58:12
拡大
お昼ライダー @430CEDRIC

AIに「飯テロ」を指示すると・・・っていうネタを知ったのでやってみたら・・・手が無いんですが・・・ pic.twitter.com/FTnbf3QG3D

2022-09-21 17:03:30
拡大
こういう理由らしい
あらばまさんま @Cc80Hl

テロリストが中東系って固定されちゃってるのか。 twitter.com/zatazata/statu…

2022-09-21 20:23:31
K.H @k_gunsou

テロ=中近東のイスラム系が起こすものという認識は偏見以外の何物でもないからな。 確か、実際には中東系のテロよりも白人の銃乱射の方が死者が多いという統計がある、という記事をどこかで読んだ気がするが、どこだったか忘れてしまった。 もう一度探しておこう。 twitter.com/zatazata/statu…

2022-09-21 20:29:43
いちごそば @ichigosoba

AIに「飯テロ」を描かせると飯とテロリストの絵が生成されるのは、どうもAIが「飯テロ」を「terrorist who threatens to eat or feed a meal」と解釈しているからのようで、この英文をAIに食わせると画像のような絵が生成される。 pic.twitter.com/2WBu1hgOIT

2022-09-21 01:33:20
拡大
結構前から指摘されている問題
HA710 @8_7_10

Googleの作った画像認識AIが学習データの偏りのせいで黒人を人として認識しなかった話を思い出すなあ twitter.com/zatazata/statu…

2022-09-21 17:21:48
土岐頼益/二〇〇八 @steep_edge0415

えっ… こんな画像が出てくるとは。これはかなりまずそう。 AIの高度化で避けて通れないであろう偏見の問題が、ついに表に出てきたのか(これが初めてではないだろうけど) twitter.com/zatazata/statu…

2022-09-21 19:12:12
WRB/Niyang @wrb_new

CGIのおしゃべりAIがめちゃくちゃpolitically incorrectなことばっか言い出した事件思い出すなあ。当然AIは学習用データに含まれる人間のバイアスを再生産しちゃうよね。 twitter.com/zatazata/statu…

2022-09-21 19:02:32
ハモン @amnesiac0511

「テロ」の文脈で出てくる画像に中近東系男性が多いこと、それに「飯」が付随した絵。 海外では以前から問題視されてきたけど、もう日本語でも進んでるか…。 >人工知能が「偏見」を学んでしまった──画像認識で「白人男性」より「黒人女性」の識別率が低かった理由 wired.jp/2018/02/23/pho… twitter.com/zatazata/statu…

2022-09-21 20:01:09
リンク WIRED.jp マイクロソフトのAI、ヘイト発言を「学習」して停止 マイクロソフトは、ミレニアル世代をターゲットにしたAIチャットロボット「Tay」を開始したが、16時間後に停止した。ヘイト発言を学習し、乱発し始めたためだ。 33 users 268
AIとバイアス
bbscience @bbsience1

こういうの、別に偏見ではなくて世の中の画像とテキストにそれが多いってだけであって、偏見かどうかもわからない。偏見を助長し得る、というのであればそれはそう。 twitter.com/zatazata/statu…

2022-09-21 20:40:12
Flanker @Flanker_YM_Xpr

人口に膾炙するいわゆるAIなんて結局はお手本から得た統計結果をオウム返しするブラックボックスであって、それ自体に知性や倫理など無いし。教師データ自体にバイアスが掛かっていたらそれを忠実に真似るだけ。 twitter.com/zatazata/statu…

2022-09-21 20:38:10
Kamimura Tomoka @kamimuratomoka

AIの学習能力は素晴らしい。AIが悪いんじゃない。  とはいえ、再生産させ流布しないような歯止めは必要でしょうね。  ネット上にはびこる差別的な言説も、学んだことを素直に吐き出しているだけ、なんでしょう。AIと同じかAIにも劣るってことでいいんでしょうか。 twitter.com/zatazata/statu…

2022-09-21 19:48:36
fusakui @fusakui_politik

AIのアウトプットを「こんな感じでした!」と無批判に受け止めるのではなく、そこに埋め込まれた偏見や差別意識をきちんと検出する力がAI時代の"教養"なんだろうね。 歴史や社会情勢を理解していないと、そのレベルでAIを使いこなすのは難しい。 twitter.com/zatazata/statu…

2022-09-21 18:04:21
残りを読む(9)

コメント

jnpi kws @JnpiK 5日前
食事による暴力行為あるいはその脅威によって、敵対者を威嚇する料理人。鉄鍋のジャンで出てきそうっスね
3
ニートその3 @apribi 5日前
飯って字が入ってるからなのか米率高いなw
1
ぱるみじゃーの @Parmigiano_r 5日前
確かにアメリカの銃乱射事件をあんまり「テロ」って報道してない気がするなあ。
10
BlueBike @BlueBike17 5日前
Parmigiano_r 政治的主張や目的が無ければテロじゃないからな。
57
神無月 @sanpai2929sii 5日前
「ぶっかけうどん」って入力したら絶対に酷い事になるぞこれ・・・
10
フルバ@も~っと!狂犬ちゃん @furubakou1 5日前
そりゃアメリカは20年前にテロ食らってるからな…さもありなん。日本もあんまり他人事ではないが。(邦人が人質にとられて処刑されてる。その動画も出回った。)
32
フルバ@も~っと!狂犬ちゃん @furubakou1 5日前
furubakou1 …ここまで書いて思ったけど件のお絵描きAIはアメリカ製よね…?
9
ぱるみじゃーの @Parmigiano_r 5日前
BlueBike17 アメリカの銃乱射ってどういう動機が多いのかね?そういうのもあんまり日本のニュースでやってない気が。
2
alan smithee @alansmithy2010 5日前
ただ、food pornだとセンシティブ扱いになって生成結果が出ないことが多いのよね...
1
MAR-in @marinwith2wwit1 5日前
偏見を可視化して楽しんでいるものを相手に、偏見の再生産を防ぐよう求めるのは無理な話でしょうね。そうでなければ戦艦名から女の子を出すなんてできないわけで。
12
ますぞー(Masuzoh) @Masuzoh_twt 5日前
そのうちAIの絵をAIのフェミニストが永遠に批判するようになるさ
5
Hiroshi Yamashita @HiroshiYamashi4 5日前
食欲を満たすとまずい時間に旨そうな飯画像貼ることに「テロ」という単語使うことの是非はどうなんだろうか
3
白米 @suVKORblFsVBC3T 5日前
途中の銀シャリ、これジャスミンライスじゃない?
1
テレジアさん(Theresia) @Theresia 5日前
AIピカソで飯テロって入れたら、床に細長い生米が盛られてる画像が出た。 TLに流れてきたけど、2019年あたりにこの問題は出てたらしいので、何かしら対策したのでしょう(AIは詳しくないので有識者に任せる)。
0
野良馬 @nobody_oyaji 5日前
偏見とはいうけど近年のテロはイスラム絡みが多かったせいではないだろうか。 単独犯行ならともかく組織的な物は。そこなんとかならんと無理だろ
16
野良馬 @nobody_oyaji 5日前
Parmigiano_r 日本で報道されてる物見てるとブチ切れパターンが多い印象。
2
gx9900 @GX9900GUMDAMX 5日前
BlueBike17 つまり飯テロは見た人に飯を食べさせるという政治?目標を達成させることが目的と。
0
lap_top @lap_top_pc 5日前
この生成AIは元々日本語非対応のstable diffusionを利用してて、入力された文字列を機械翻訳してから流してるからそうなるよね。そもそも大元が飯テロという日本語の単語を学習してない
25
じげん (目には目を埴輪には埴輪を) @jigen_the3 5日前
飯テロ→飯を食えと言う政治的主張を乗せた農協の犯罪だった?(まて
0
85(はこ) @85nooekaki 5日前
偏見?????完全に事実だろテロリスト原産国がよ😅😅😅😅✋✋✋✋
22
ussy @ussy_cat 5日前
googleが、今までの採用基準をAIに食わせて採用まかせたら、今まで通り女性差別したので停止させたと以前ニュースで見た気がする。知らんけど
5
. @YmLjf9kj21v 5日前
女の偏見蔑視イメージの自省なんてしない男オタクもイスラムさんには配慮の姿勢を見せるよね。怒らせたら怖いもんな?女と違って。
16
長 高弘 (獣脚類ティラノサウルス科ズケンティラヌス) @ChouIsamu 5日前
そろそろ、お絵描きAIにエロ用語を入力したら、推しの2次元キャラの絵が出力された場合の事を真剣に考えといた方が良くねえか???
0
nekosencho @Neko_Sencho 5日前
こういう、世間の持つ悪いイメージに乗せられやすいってのが今のAIの欠点だよな。 AIの場合、普通の人間と違って大量に処理できてしまうので、偏見や差別を大幅に増幅してしまいかねない危険さがある。
6
はくり @sirosiro11223 5日前
普通に小説書いてたAIのべりすとくんが突然豹変したようにゴリッゴリの差別主義展開を吐き出してくるのすき
0
nekosencho @Neko_Sencho 5日前
おもしろいで済むうちはいいけど、企業の採用だとか犯人の捜査だとか、そういうとこに関わってくることもあるからねえ。 日本人だって少数派な欧米で作られたAIだと差別の被害を受ける可能性はけっこう高い
19
がち割り釜 @dYCaml6NteCE1tu 4日前
偏見じゃなくて事実だろ 純粋にAIがテロを行った沢山の人達を集めた結果だろうよ 母数が多すぎるんだよ
7
しいたけ @si_ta_k 4日前
中東系+大きなバッグの組み合わせ見たら逃げる
1
よもぎ@鰤嫌い好き @cataildragger 4日前
これまでは機械や数学は客観的な視点を提供するものだった。これからは人間の主観を反映することもある。後者に適応できず、前者の考えを持ち続ける人が多いとAIは偏見・差別の増幅装置になる……。情報教育カリキュラムに後者の考えを組み込まないと。
0
赤べこ @akabeko7654 4日前
これでエロテロリストを出力した結果過激な水着の美女か全裸中東男性の2択になるわけか
22
無味乾燥 @UnaKiri_Megane 4日前
それらしい絵っていうのは言ってしまえば偏見の出力そのものだし善悪の方向性をAIは認識しないから差別とかもそのまま学習しちゃうのはどうにもならんね。テロのお題でこういう人種出したらエラーにでもするしかないけどあまり制限ばかり増えるのはどうなんだろう
3
占い講師 やまだまさゆき @tarotnavi 4日前
「自分が欲しいと思う画像のプロンプトを追求する」のか「自分が『こう』だと思ったプロンプトで意外なものが出てきた」かの違いかな。 very Large and very tasty meat dishes で生成すると腹が減るからお薦めしないw
1
苔むすび @mushitaraba 4日前
BlueBike17 銃乱射事件に政治的主張がないなんて決めつけれないと思うが
0
苔むすび @mushitaraba 4日前
国葬反対言いながら自分に火を放った人に「自爆テロだ」と盛り上がった翌日に、「テロといえば中東だよな」と話しかけられるのも大分奇妙な話ですしね
3
ヤスラン @tanaka_yasuhide 4日前
???「全ての偏見を含まないAIが必要だ!!」 ???「では全ての偏見が含まれないデータセットを作れる人間を用意してください」
19
彼浦なたね @kanoura 4日前
お絵描きAIが流行る前の、チャットAIの時点で問題になってなかった?
1
たちがみ @tachigamiSama 4日前
ネットに転がってるイメージ画像を収集して出力する玩具なんだから想定の範囲内では 最初から偏見を可視化する玩具でしょ
3
さくさく @3939saksak 4日前
悪人顔の善人みたいな感じで好き
0
キタムラシステム @kitasys 4日前
「あーごめん!その日 俺テロだわ」のせいだと思っている
1
金目の煮付 @kinmenitsuke 4日前
まあそもそも(少なくとも)日本では「テロ」という言葉をカジュアルに使いすぎな感はありますよね。個人的には好きな感覚ですけど。
7
まほろば紳士は眠り続ける @fyopue 4日前
変えたいなら中東からテロリストを消滅させるかテロリストを極めて均等な人種構成で増加させるしかないし、偏見と言うには無理がある。 考え方の順序が根本的におかしい。
6
wowithdraw @wowithdraw 4日前
そんなもん「男性」とか「女性」食わせたら如何にも昔ながらの髪型やら服装やらが反映されて"期待通りの"結果が得られちゃってた時点で言いなさいよ。というかそもそもAIの学習って「〇〇と言ったらこれだよね」という偏りを煮詰めたものじゃないの?
5
じめ @jime314 4日前
ご飯没収されたやつ、男の人が悲しそうに見えてジワる
4
からすもどき @karasumodoki 4日前
AI自体は偏見なんて持ってないからな、一切の忖度なく現実に基づいた結果がこれ
2
ヴァラドール @_Vorador_ 4日前
AIが描いたワヤワヤの料理が好きだ 異世界の料理感がすごい
1
稙田惟純 @ohgakorezumi 4日前
日本語で「飯テロ」と呼ばれるもの、本来の英語翻訳では「food porno」だから、ちゃんと訳されていれば中東どころかテロとも結びつくはずないので「翻訳が中途半端にしか働いてない」という問題のほうも少し考えた方が良いかも知れん。
3
アオカビさん @Penicillium_ch 4日前
偏見があるとするならば、AIによる学習ではなく、AIに食わせたデータが偏ってる。そしてその元データを作ったのは人間なのだから、偏見があるとするなら人間の方なのだ。AIは現実という偏った情報を食わされてるに過ぎない。
1
w @windymelt 4日前
「だってAIが『テロ』で中東の人間を出力するんだからテロリスト多いんでしょ」っていう風に一回転したらもう偏見の固定が完成してしまう感じがするな。
1
う"るすと @wurst2081 4日前
「AIが偏見を学習する」には「AIが ”偏見を選って学習する / させる"」必要があると思うんだけど、まさか「無作為に収集したものから生成された結果」をして「偏見を学習した」と言ってる訳じゃないよな???
1
う"るすと @wurst2081 4日前
「中東とテロの関係が事実として薄いか(世界中のテロの中で相対的に)少ない、あるいは大きな事件が起きることで話題になったりもしてない」なら「テロで検索して中東の人間の画像が多くヒットする」ならそれは「大衆の偏見による産物」だろうけど、事実として関連性が高かったり(瞬間的にでも検索結果に影響を及ぼすような)重大事件があるならそれは「偏見の反映」ではない。
1
JETHRO @Agiwyl 4日前
中東系の人たちは気に入らないと思うけどテロリスト人口多すぎてAIがテロっつったらこれでしょと出力してもしゃーないよね
2
たむはち @tam8boy 4日前
そもそも飯「テロ」ってすげえ言葉だよな
0
MAR-in @marinwith2wwit1 4日前
Neko_Sencho その心配は無意味ではないでしょうか。お絵描きAIのようにネット上の偏った情報をそのまま学習したらこうなりますが、採用AIや犯罪捜査AIにネットのデータをそのまま流し込んで役に立つと考える開発者はいないでしょう。
0
暮れ色みかん @nana339 4日前
今回は日本人の英語力とそういうテロリストの画像が多すぎるのが原因だけど、将来的に日本向けにカスタマイズされたAIが出た時に、歴史上の人物が女性化したり、猫が「ヨシ!」のポーズしてたりするかもしれないな
0
暮れ色みかん @nana339 4日前
角野卓造やマイケルムーア監督をAIに描かせて、ハリセンボン近藤が出てきたら笑えるけど、サジェスト汚染や検索結果の工作のような新手のネガキャンも出てくるのは怖い
0
暴君虎 @Tyrannotiger 3日前
55年前ならヘルメットにタオルの出で立ちになっていたのだろうか?
0
富士見野男 ワクチン3回接種済 @yasu43851374 3日前
三菱重工爆破も地下鉄サリンも「事件」ではなく「テロ」と呼んでいれば違っていたんだろうな
0
劇場版ベーコン収穫祭 @__yuuu______ 3日前
これはAIに問題があるんじゃなくて、AIに倫理観はインプットされてない(今のところは)から、技術が追いつくまでは人間がある程度コントロールしてあげましょうね、って話でしょうよ。AIは道具なので、使う人間次第ですよ
1