小学生、大学でAIの講義を受けて気づいてしまう「わざと悪いデータを与えて偏見を作ることもできるのでは？」→「君のような勘のいいガキは…」

1T🍵T @1T0T

学園祭の模擬授業終了。小学生らしき子から質問が。 「AIってわざと悪いデータを与えてわざと偏見をつくることもできるんですか？」 有能な小学生だ…

1T🍵T @1T0T

学園祭で小学生が質問したくなる授業ができた、というのはある意味満足ですね

namatameuraura @namatameuraura

@1T0T どこかで聞いてきたような質問だが。。

1T🍵T @1T0T

「この本に載ってます」って勧めればよかったか（嘘 amazon.co.jp/%E6%84%8F%E6%8…

蒸気王 @SteamMarionette

@1T0T pic.twitter.com/pWu2i9DKhx

拡大

クソリプ ピカニキ @netatuiyarou

@SteamMarionette まさに貼ろうとしてた

白熊@おっ！㌠ @polarbear_cx5

@1T0T Microsoftの作ったAIが、アメリカのSNSに放流したら立派な差別主義者に育ち、日本のSNSに放流したら立派なヲタクに成長したという話を思い出しました

とも @DY9lsHuUUlQzpdK

@1T0T 最初のうちは悪意に満ちそうだか、それでもデータが膨大になっていけば、自ずと中庸に収斂されそうな気がする

Randy Ready @Jack_Spike

@1T0T 現場で要求されるのは「失敗したときのリカバリー」だからそういうのも与えると思うぞ

わなごなwannagonna🧲 @TDlMfYJgeZCKao3

@1T0T 似たような話を聞いたことがあるのかな。

甕星@Perfect Brown Lunchbox @mikahosi

@1T0T まさしくそれが原因で、Amazonは採用判断の為のAIを止めましたね。学習元データに差別的偏りがあって使えなかった。

ティルティンティノントゥン @tiltintinontun

@1T0T 差別と偏見については確率と統計を用いることは禁忌とされているようです。科学が入ってはいけない領域なんでしょう。

YogaFlame @yogaflame12345

@1T0T ゲーミングチンポ華道部とかまさにそれだと思う

hiZu @OOOSNKOOKACH

@1T0T つまり仮面ライダーゼロワンの 天津がアークにしたみたいなことは実際にできるのか？って話か‥

snatch（水本貴幸）の作った曲上げてくアカウントX @This_is_snatch

@1T0T そもそも今のaiからは 「その手があったか！」と言うものは 出てこないですよ

いかリング磯辺フライ Sciurus vulgaris @photck

@1T0T 「みんな思ってても口に出せないこと」が最も重要で、 その結果、AIにそれだけは学ばせないままになるという構造はありますでしょうね。

FuFe @futetsu1

@1T0T 悪いデータにも左右されるし 同じデータでも学習のさせ方にも左右されるし 同じデータで学習のさせ方も一緒でも同じものにならない かな？

Lilビックバンビガロ @ninoharui

@1T0T ちょっと前のやつであったよね Twitterでデータ集めたら差別しだしたやつ

鼻くそ丸 @64564musikorosi

@1T0T まさにAI絵師がそうなってる。

akibow @akibow38

@1T0T ネット上で自由に会話できる人工無能が、ユーザーのいたずらで立派なネオナチになった事件があった記憶が。

㍿Cしゃーぷ @C_Kabushiki

@1T0T とりあえず、数学を学ぼうぜ 数学は楽しいぜ