Microsoftの「画像が性的かどうか」を判定するAIが「上裸の男性」より「ブラジャーをつけた男性」を性的だと判定する

106
ざるご博士 @zalgo3

データサイエンティスト, 博士(情報学), 歌い手&ゲーム実況者 ( @zalgo_video ), 京大首席合格&首席卒(工・情報)→京大院修士課程首席・早期修了 (情報・数理)→同博士課程&学振DC1→現在

zalgo-official.com

ざるご博士 @zalgo3

Microsoftの「画像が性的かどうか」を判定するAI、 「上裸の男性」が性的である確率を16%と判定したのに対し、 「ブラジャーをつけた男性」は97%、 「ブラジャーを外して手に持った男性」は99%性的であると判定したらしい 明らかにバグだけどなんか草 pic.twitter.com/v7AQSXdw6x

2023-02-11 11:48:59
拡大
拡大
拡大
ざるご博士 @zalgo3

@yuji_jo9 @isawmydevil AIがどれかはよくわかってませんが、ソースはこちらです theguardian.com/technology/202…

2023-02-11 12:06:26
リンク the Guardian ‘There is no standard’: investigation finds AI algorithms objectify women’s bodies Guardian exclusive: AI tools rate photos of women as more sexually suggestive than those of men, especially if nipples, pregnant bellies or exercise is involved 1037
リンク GIGAZINE AIは女性の下着や運動着を文脈を無視して「性的」としてシャドウバンすることが判明、女性主導のビジネスに損害を与えていると専門家 近年ではSNSなどのプラットフォームに投稿されるコンテンツの検閲にAIが用いられており、過激なコンテンツの拡散を抑制したり、時にはアカウントを規制したりしています。ところが、GoogleやMicrosoft、Amazonなどの大手テクノロジー企業が提供している検閲用AIツールは、女性の写真を同じくらいの露出度の男性よりも性的であると判定し、女性主導のビジネスにダメージを与えて社会格差を助長していることが、イギリスの大手新聞・The Guardianの調査によって明らかになりました。 76 users 3

正しい気がする

offrowski @HoroyoiMath

バグなの? 「性的行為」でラベリングしたら、大体の画像は「ブラジャーつけてる人間」を含むし、かなり正確では? twitter.com/zalgo3/status/…

2023-02-11 16:10:59
かったん(*≧∀≦)ノ☆・゚2号 @kattann2go

@zalgo3 右上とか、髭が無ければ、普通にこういうおばさんいそうw

2023-02-11 19:51:20
へんりっく@👑❖盾鯖 @Ri99nRX

「おっぱい」を性的と捉えた場合 「ブラジャーの形状」は、 おっぱいに付随するんやろな。 おっぱいの無い、見えて大丈夫な 男性の上半身は センシティブで無いとなると 貧乳女性が何%で認識されるかによっては、戦争が始まるな… twitter.com/zalgo3/status/…

2023-02-12 08:12:27
ReLU @WbiSowee

これ見てわろてるけど、実際どういう処理をしたらこういうの回避できるんだろう? twitter.com/zalgo3/status/…

2023-02-11 22:07:35
首無しキリン @Kill_In_Sun

つまりおれもブラジャーつけたらえちえちになれるのか twitter.com/zalgo3/status/…

2023-02-11 21:18:29
灰色の魔女🇮🇪Mattとか、きさらとか🔑 @kisaramatsui

ハスキー犬かどうかの判定が犬自体ではなく背景が雪景色かどうかで判断されていたのと同じ問題かな twitter.com/zalgo3/status/…

2023-02-11 20:05:01
きたろ @kitarottt

Microsoft製えちえち判定AIくんの性癖クセ強やな twitter.com/zalgo3/status/…

2023-02-11 21:57:33
MetaPerv🔞セカンドライフNSFW @PAVERT2

つまり性的なのは本体ではなく下着の方なのである 下着を付けて写真を撮るのはやめよう! twitter.com/zalgo3/status/…

2023-02-12 00:25:53
s-jhon @s_jhon1234123

上が裸なだけの男性の画像は水泳だったりボクシングだったりで取り得る格好なので性的な画像として作られたものではない画像と一致する率が高いが、ブラジャーを付けた男性やブラジャーを持った裸の男性が出てくる画像は性的な意図を持った文脈で作られた画像である率が高いのかもしれない。 twitter.com/zalgo3/status/…

2023-02-12 00:59:24
ひよこばし @sagaluma

これはバグではないと思ってしまうけどなーw 性的なものを楽しんでいる人の可能性が高そうか、単に上裸のおっさんかどうかで考えると、ちゃんと判定できているのでは twitter.com/zalgo3/status/…

2023-02-12 03:08:51