Togetter/min.tを安心してお使い頂くためのガイドラインを公開しました。

Twitterのエロ画像検出AIを検証

けたまさんの検証が興味深かったのでまとめさせていただきました。
261
けたま @_ketama_

うーん?肌色率の高い画像を自動で不適切なコンテンツと判断する機能がTwitterに追加されたのか、投稿から数秒で報告してる人がいるのか…ԅ(˙ω˙ԅ)どっちだろ

2015-12-20 08:55:15
けたま @_ketama_

これはたぶん色で自動判断する機能付いたなTwitter(。☉౪ ⊙。)

2015-12-20 09:04:08
けたま @_ketama_

自動でえろ要素含むか判断する機能よりもツイートごとに不適切な内容設定するボタンを実装してほしいんですけお…投票ボタンの横あたりにチェックボックスとかでいいから…

2015-12-20 09:06:54
けたま @_ketama_

うーん何基準なんだろう…

2015-12-20 09:14:49
けたま @_ketama_

フォロワー0のアカウントで同じ画像貼ったら速攻で不適切な内容に設定されたからやっぱ色で判断してるんだろうなぁ 肌色~白 以外の色の比率が上がったら「服を着てる」って判断してるのかな

2015-12-20 09:19:24
けたま @_ketama_

アルゴリズム的に全裸はアウト、着衣エロはセーフってことになるのか 予想だけど

2015-12-20 09:20:52
けたま @_ketama_

しかしマイクロビキニとかに制限かかってないとこを見ると線の形まで判断してる可能性もあるな…試してみるか

2015-12-20 09:26:43
けたま @_ketama_

あ、ほぼ間違いないなこれ 線の形まで抽出して自動で判断してるっぽい ・黒背景ならセーフ ・グレー化したものはセーフ ・局部っぽい部分を黒線で囲んで塗り潰すとセーフ pic.twitter.com/0vyAtObejy

2015-12-20 09:41:24
拡大
けたま @_ketama_

さらに線を消してみたらそもそも投稿させてくれない pic.twitter.com/hmIdaLdqJI

2015-12-20 09:52:46
拡大
けたま @_ketama_

TwitterのAI、全裸を判別することに超特化してる感じがする

2015-12-20 09:54:47
けたま @_ketama_

ん…待てよ…?このアルゴリズムで引っかかるのって要するに白背景で全裸の絵で、ある程度以上コントラストが強かったり着衣だったらどれだけ局部が生々しく描かれてても引っかからないよね…むしろあっさりめな絵の方が引っかかるはず… これ中堅ロリ絵作家さんが凍結食らいやすい理由じゃね…?

2015-12-20 10:12:10
けたま @_ketama_

ちょっと凍結経験のある人の絵柄の統計がほしい 予想が正しければ  ・着衣エロ少なめ全裸多め ・塗りはあっさり ・背景はあまり描かない って人が多くなると思う コントラストきつめな絵や極端な体形のキャラを描いてる人は引っかかりにくいはず

2015-12-20 10:38:15
けたま @_ketama_

このように異色肌はAIに検知されません pic.twitter.com/gFgXCYo0mO

2015-12-24 16:50:36
拡大

コメント

goya4 @goya4 2015年12月26日
肌色の幅はどのくらいなんだろう?(数値的に)
1
羽倉田 @wakurata 2015年12月26日
自撮りで握りこぶしをとって投稿しようとしたらはじかれる予感
28
nekosencho @Neko_Sencho 2015年12月26日
これがきっかけで異色肌ブームがきたりしてなw
31
緑川⋈だむ @Dam_midorikawa 2015年12月26日
モノクロ絵だったら問題ないんか
4
🚮 @recyclebin5385 2015年12月26日
全裸で褐色肌があらわになって異物挿入された七面鳥の丸焼きなんかもAUTOなんだろうな
3
さだこーじ🙈🙉🙊 @SadaKoji 2015年12月26日
またつまらんAIを……(^^; 要するに内容じゃないから、あんまり関係ない人が巻き込まれてる可能性あるよね
8
うちゅぎひのえ @uchugi 2015年12月26日
キューピー人形の写真をうpろうとしてみたいけど手元になかった残念
1
三楽斎 @nekokagetora 2015年12月26日
たしか鶏肉の写真が引っかかってなかった?
1
雑賀教司 / 緋色のダイヤモンド @Dragon_Engine 2015年12月26日
そういうからくりなのかー。検証ありがとうございます。レッド沢あかさんとかダウラスリリさんとかもそういうメカニズムかなー?
0
パキPとかなんしーとか:ベタ・ウベリス孵化成功 @hermitnanc 2015年12月26日
こういうの見たかったんだよ!ありがたや(絵描きじゃないけど)。
0
九銀@半bot @kuginnya 2015年12月26日
この手の規制が納得の行くものであった事は一度としてないな。大雑把すぎるし投稿できないとかおかしいし。
5
けたま @_ketama_ 2015年12月26日
自撮りとかAVパッケの三次ポルノの判別が主目的で、そのAIにコントラスト弱めな絵がたまたま引っかかりやすくなってるんじゃないかと予想してます なので乳首に高彩度な赤色使ってたり寒色を影に使ってたりする、イラスト的な特徴が強い絵は引っかかりにくいんじゃないかと思ってます
7
けたま @_ketama_ 2015年12月26日
あと実験しといてアレですが、そもそもTwitterの利用規約的にエロ絵は通報されると言い逃れできないのでなるべくチキンレースは避けましょう
48
やって後悔よりやらない選択 @Negative_IsGood 2015年12月26日
全身裸体風のボディースーツを着てだれか投稿してくれないかな~。もうすぐ丸9年だし。
0
もっこㄘん @Mokko_Chin 2015年12月26日
筋肉もりもりマッチョの変態でも引っかかるのかな??
0
Orihika @Orihika 2015年12月26日
※アルゴリズムへの挑戦。
0
フシハラ @Fushihara 2015年12月26日
Twitterはエロ画像の投稿にめっちゃ緩いイメージだったけど手が入ったか。鍵垢か公開アカウントかどうかは関係ないのかな
1
節穴 @fsansn 2015年12月26日
青肌ブームがワンチャンあるで
1
進歩的文化人@全人類の一歩後ろを行く男 @12345678909543c 2015年12月26日
こういうギリギリを狙ってると面倒なことにしかならんからワンチャンとか辞めてください。。
21
Mizuta Fumitaka @Humi_TW 2015年12月26日
確かに、興味本位のチキンレースは止めた方が良いかも…下手すると「単一色なイラストは全部アウトな!」って事に成りかねん(^^;;
3
ざの人 @zairo21 2015年12月26日
まだ色が規制されるAIならいいじゃないか! 将来は 人類そのものが規制されるかもしれないんです! って 関暁夫が 言っていた。 信じるか信じないかは あなた次第です!
2
部熱戸 @Rusty_Dosukebe 2015年12月26日
確か赤ん坊の写真もアウト認定されてたな…ソースはコザキユースケ先生のツイート
3
さるたに @Sarutani_tweet 2015年12月26日
この理屈だと黒人とか有色人種の全裸画像は弾けない可能性があるな。そういう方向でTwitter社が人種差別的と非難されたりしてな。
29
みみなが もとの @miminaga 2015年12月26日
水玉フィルターをかけたお相撲さん画像で挑戦するとどうなるの?
4
瑞樹 @mizuki_windlow 2015年12月26日
肌色一色で塗った画像はどうなるんだろう……?と、思ってアップしたら普通にアップできた。つまらん。
0
Dcdcxr @Dcdcxr 2015年12月26日
普通に全裸無修正のアップロードできたけどな。フォロワーが少ないからいいのかな。
1
寿命 @hisa_ino 2015年12月26日
所詮 AI ができることなんか現状この程度、ってこと。
0
小猫遊りょう(たかにゃし・りょう) @jaguring1 2015年12月26日
この程度なら、今のAIでも簡単に対処できそうだな。画像処理の技術進歩は急速だからな。
0
小猫遊りょう(たかにゃし・りょう) @jaguring1 2015年12月26日
「ッなに考えてるんですかっ!この変態ッ!こんな画像、絶対に見ちゃダメですっ!ドキドキ(//_//)ドキドキ」って言ってるツイッター社の人工知能を想像して、逆にエロい。
6
小猫遊りょう(たかにゃし・りょう) @jaguring1 2015年12月26日
もっと正確な画像認識を行なうシステムは簡単に作れるので、ツイッター社はもしかしたら緩めに制限をかけてるんだと思う。自社のサービスをあまり損なわせないようにして、なおかつ、「僕たち、ちゃんと規制してますよ?(チラっチラっ)」ってアピールしてるんだと思う。
18
bun🍃 @bun3559 2015年12月26日
ガミラス人のオタク(メルダに決まってるだろ)が歓喜。
1
kartis56 @kartis56 2015年12月26日
毛が多ければスルーされるのならケモナー大勝利の予感
2
kartis56 @kartis56 2015年12月26日
むしろ情報商材とかの詐欺アカウントをAIでいいからさっさと潰すべき
16
深井龍一郎 @rfukai 2015年12月26日
kartis56 米国の状況をとてもよく反映してますね。
1
儀狄@パブリックエネミー @giteki 2015年12月26日
この手の定番のネタなんですけど、大相撲の写真とか絵は引っかかりますか?
4
hase_zzz....zz... @hase_zzz 2015年12月26日
これが青肌ブームを招いてblue filmの言葉を復活させることになるとか……無いな。
1
Mill=O=Wisp @millowisp 2015年12月26日
「エロ画像を自動収拾させようと肌色率とか色々条件つけたら、力士の画像がいっぱい集まった」みたいな笑い話があったのを思いだしたが
22
杉山真大@震災被災者 @mtcedar1972 2015年12月26日
つか、リアルのウホッ!な画像 http://pic.twitter.com/xvqz6dIumq ですらスルーされてしまうのか!?
1
さかも⋈ @nebusokuqchan 2015年12月26日
肌の色で検出率下げられるならupするとき何かフィルタかけて違う色味で投稿→(ここでAI(?)が判断)→クライアント側で表示するとき元の色に戻して表示できれば回避出来んじゃね?何かソフト必要になるけど。
0
うてん @uten73 2015年12月26日
だから野獣先輩はセーフなのか…
0
友若@うひょおおおおおお @rtomowaka 2015年12月26日
こうやって徐々に偏向をかけられて、最終的にドラゴンカーセックスや戦闘機とのゲイセックスになります
15
撃壌◆ @gekijounouTa 2015年12月26日
色々テストしてみたけど、普通に投稿できた(内部的にはイエローカード溜まってるのかしら?) http://bit.ly/1NGHZPJ http://bit.ly/1NGHZPL http://bit.ly/1NGHZPN
1
dice @DAIKON7748 2015年12月26日
uten73 遠回しにう◯こ色とディスるのはやめろ!
0
neologcutter @neologcuter 2015年12月26日
迷ったら白黒で投稿すればいいんでないの?
1
サウローロ⋈@ぼっち党員 @saurohro 2015年12月26日
一定の支持層がある「局部付近に穴をあけた水着もの」はひっかからないということかな
1
3mのちくわ(20禁) @tikuwa_zero 2015年12月26日
肘とか膝とか曲げて指でワレメっぽくした画像とか投稿したら、一発で垢BANされそーなザル判定で怖いな。
0
m.i. @L_z_m_i 2015年12月26日
今は一部を隠すことや色で投稿ができていても、「露出高めか全裸の女性なら色に関係なくNG」ぐらいすぐになってもおかしくないかも
0
m.i. @L_z_m_i 2015年12月26日
近ごろも海外では例えばプレイボーイ誌がヌードをやめるとか、SWのレイア姫のビキニ姿が封印になろうかとか、そういう潮流が強くなっているのもあるんですかねえ
0
くりあ/CLEA-R-NOT-3 @Clearnote_moe 2015年12月26日
こういう機械的な制限をかけていくから、どんどんこじらせてマイリトルポニーにいきつくんだな……。
26
がちゃ @GacHaPR1Us 2015年12月26日
逆に考えると、このソートbot使えばエロ画像収集しまくれるわけだな
1
ずんどこべ @zundokobe 2015年12月27日
全裸を規制しただけで世の中の変態を規制できると思ったら大間違いだぜ…
3
でら @lux_candela 2015年12月27日
褐色と黒色に対する冒涜だって訴えられないだろうか(暴論
0
あるウソつき @akiyo_s_jp 2015年12月27日
「黒人はエロくない」を黒人差別ととるか、「白人エロは規制する」を白人差別ととるか。いやあ差別なんてのは見方によって千差万別だねぇ。
10
えびとろあなご蒸し@ロボガZポセス鯖 @ebitoro 2015年12月27日
野獣先輩とかってホモ系も自動判別でBANして欲しいわ。トレンドやハッシュタグ検索開くたびに出てきて吐き気収まらんorz
0
まっと @mat_ust 2015年12月27日
昔、肌色検出すればエロ絵見放題だぜ!とプログラムを作り走らせたところ、相撲の写真ばかりひっかかったという事例があったような。
5
ロチョナコ🦁👓(名前戻した) @rochonaco 2015年12月27日
|_・) 肌色のアイコンと背景にしよう!(大暴投)
0
渡志郎 @watarishirou28 2015年12月27日
今ほどSE頑張るな少しいやたっぷりサボれ手を抜けと思ったことはない
0
アルビレオ@炙りカルビ @albireo_B 2015年12月27日
jaguring1 「やってますよアピール」はそのとおりだと思うけど、Twitter社はあまり儲かってないし直接利益に繋がるようなものでもないし投稿される画像数は膨大なので将来の増加もある程度見越して一枚あたりにかけられるコストと時間にはかなり厳しいはずです。「一枚につき数秒じゃ間に合わねーよ、最悪でも0.1秒でジャッジしろ」くらいに
0
PAKU♉🖖直腸癌~静養中%いのちだいじに @PAKU 2015年12月27日
色判定になると、「はだいろ」とは何色?に行き着くけど、それらはどうしているのだろう?
0
IOEUROPA @IOEUROPA6 2015年12月27日
すみません、先程間違えて無言コメントしたみたいになってしまいました。
0
IOEUROPA @IOEUROPA6 2015年12月27日
もしかして、先日、朝起きたらアカウントロックされてたのは、以前に何度かポタージュスープの画像をアップしたのが原因なのかな?w
0
風間翔(アクアトトぎふにて2/9~4/11まで委託販売) @kazamashow 2015年12月27日
以前に子豚画像が何故か『不適切』扱いされたので実験した。 こっちは無事だった https://twitter.com/kazamashow/status/681075122921275392
0
朝倉玲亜(水瀬玲亜)/アクキー頒布中☆ @Reah_Asakura 2015年12月27日
shinmk ガミラスがOKならガトランティスも行けますねw
0
ねぷちゃん @ikura_chodai 2015年12月28日
とにかく明るい何とかさんは犠牲となったのだ…
4
phantom12v @phantom12v 2015年12月28日
ikura_chodai とにかく明るい安村「安心してください、履いてますよ」→Twitter「知らんがな」
0
おおかみ @wolf64m 2015年12月28日
これ、肌色のベタに陰影付けただけの何だか判らない画像も反応するのかな
0
ぴかっ太 @Pikatta 2015年12月28日
相撲画像は引っかかるのかしら?
0
mikunitmr @mikunitmr 2015年12月28日
「黒人のエロ画像なら裸とは認識されない」だったら人種差別で訴えて良い
0
裏技君 @urawazakun 2015年12月28日
裸体写真への対策であってエロ絵対策ではない説
0
reesia @reesia_T 2015年12月28日
下手したら砂漠や砂浜の画像でも弾かれることもありそう
0
りっきー @Rikitinn 2015年12月29日
あらやだ。ホントに表示されないし。
0
Rogue Monk @Rogue_Monk 2015年12月29日
しょーむないとこに資源を注ぎ込むTwitter。 でもそこがいい。
0
玲央@俺節R ⊿⁴⁶ @leo_orebushi 2015年12月29日
もう15年以上前だけど、掲示板監視システム作ってた会社(今でも有名なところ)は、オマンコ検出やってたで。 それを真顔でプレゼンされるモンだから、聴いてるこっちが辛かった。 隣に座ってる上司は必死に笑いをこらえてるし。 調子にのって別の上司が「黒人とか逆光はどうですか?」とか質問するし。
4
佐倉和音🥴 @O_Flow 2015年12月29日
がんばってるなぁ。でもTwitterはエロ画像展示場じゃないし、個人サイトでもないんだからいいんじゃないの。しれっと無修整本番画像を「描いてみた」とか「新作です!」って無邪気に流すエロ特化型の人たちは少し頭冷やして自重したほうがいいと思うよ。割と真剣に。
7
佐倉和音🥴 @O_Flow 2015年12月29日
自分のサイトでやれ、馬鹿!って言う人がとても増えた。語り系の人もそうだけど全然「ソーシャル」じゃないよね?
2
タツコマ@ポリアモリー @TATukoma1987 2015年12月29日
確かに、これを根拠にツイッター社に対して人種差別裁判起こしたら勝てそうな案件ですね。欧米だったらやってる人いるでしょう。
0
y㍍㍍u㍍㍍_㍍㍍k㍍㍍u@緊急事態解除の福岡 @yu_ku_yu_ku 2015年12月29日
モノクロ写真風にグレースケールに変換すればいいのね。
0
らぃりる-A列車switch版(3/12発売)に期待中 @Liriru 2015年12月29日
つか、全裸写真対策なんじゃなかろうか。日本だと素全裸のジヤケとか逆に珍しくて意味なかったりして
0
なかつ くにあき⋈🎏🐙 @nakatsukuniaki 2015年12月29日
なんだtwitterに投稿されたエロ画像を自動収集してくれるソフトの話じゃないのか(何期待してた
0
köümë™ @tknr_koume 2015年12月29日
とにかく明るい安村のtwitterでの今後について
1
Hiroshi Ikeno @Bluebird_U13 2015年12月30日
補色で投稿して各自反転とか。
0
Syokaze @Syorkaze 2015年12月31日
フォトショ系なら画質を劣化させず補色に変換できるだろうけど、それを戻すスマホのアプリとかあるんだろうか 劣化させずに
0
Hiroshi Makita Ph.D. @BB45_Colorado 2015年12月31日
ガミラスやボラーやガトランティス人なら大丈夫なのだろうか???
0
二条肝兼 @IamNotUs 2016年1月1日
「エロ画像展示場ではない」と言いうる程度には「ポルノヘイターたちのサロンではない」とも言えるわな。
1
cacahuatl @cacahuatl 2016年1月1日
こういうポルノ画像の検知って、「nudity detection」というカテゴリできちんとした論文が書かれていたりするんだなこれが。
5