Twitterのエロ画像検出AIを検証

けたまさんの検証が興味深かったのでまとめさせていただきました。
261
けたま @_ketama_

うーん?肌色率の高い画像を自動で不適切なコンテンツと判断する機能がTwitterに追加されたのか、投稿から数秒で報告してる人がいるのか…ԅ(˙ω˙ԅ)どっちだろ

2015-12-20 08:55:15
けたま @_ketama_

これはたぶん色で自動判断する機能付いたなTwitter(。☉౪ ⊙。)

2015-12-20 09:04:08
けたま @_ketama_

自動でえろ要素含むか判断する機能よりもツイートごとに不適切な内容設定するボタンを実装してほしいんですけお…投票ボタンの横あたりにチェックボックスとかでいいから…

2015-12-20 09:06:54
けたま @_ketama_

うーん何基準なんだろう…

2015-12-20 09:14:49
けたま @_ketama_

フォロワー0のアカウントで同じ画像貼ったら速攻で不適切な内容に設定されたからやっぱ色で判断してるんだろうなぁ 肌色~白 以外の色の比率が上がったら「服を着てる」って判断してるのかな

2015-12-20 09:19:24
けたま @_ketama_

アルゴリズム的に全裸はアウト、着衣エロはセーフってことになるのか 予想だけど

2015-12-20 09:20:52
けたま @_ketama_

しかしマイクロビキニとかに制限かかってないとこを見ると線の形まで判断してる可能性もあるな…試してみるか

2015-12-20 09:26:43
けたま @_ketama_

あ、ほぼ間違いないなこれ 線の形まで抽出して自動で判断してるっぽい ・黒背景ならセーフ ・グレー化したものはセーフ ・局部っぽい部分を黒線で囲んで塗り潰すとセーフ pic.twitter.com/0vyAtObejy

2015-12-20 09:41:24
拡大
けたま @_ketama_

さらに線を消してみたらそもそも投稿させてくれない pic.twitter.com/hmIdaLdqJI

2015-12-20 09:52:46
拡大
けたま @_ketama_

TwitterのAI、全裸を判別することに超特化してる感じがする

2015-12-20 09:54:47
けたま @_ketama_

ん…待てよ…?このアルゴリズムで引っかかるのって要するに白背景で全裸の絵で、ある程度以上コントラストが強かったり着衣だったらどれだけ局部が生々しく描かれてても引っかからないよね…むしろあっさりめな絵の方が引っかかるはず… これ中堅ロリ絵作家さんが凍結食らいやすい理由じゃね…?

2015-12-20 10:12:10
けたま @_ketama_

ちょっと凍結経験のある人の絵柄の統計がほしい 予想が正しければ  ・着衣エロ少なめ全裸多め ・塗りはあっさり ・背景はあまり描かない って人が多くなると思う コントラストきつめな絵や極端な体形のキャラを描いてる人は引っかかりにくいはず

2015-12-20 10:38:15
けたま @_ketama_

このように異色肌はAIに検知されません pic.twitter.com/gFgXCYo0mO

2015-12-24 16:50:36
拡大