イラストをAIが学習するのを防ぐために「アンチラーニングフィルター」みたいなものを実装できないか？→効果がないどころか逆効果になる可能性も

人間が描いたイラストをAI絵師が勝手に学習データに利用するのを防ぐ方法はある。人間には分からない程度のノイズを加えてAIを誤認識させることはできるので、 Pixivなどはイラストに被せる「アンチラーニングフィルター」みたいなのを実装したら良さそう。 pic.twitter.com/Bdl6sjQjPI

2022-10-06 10:05:03

拡大

国語1 @niku_dn

@Akihitweet これは物体認識を妨害するための技術で学習の防止には役に立ちませんよね

2022-10-06 21:07:08

kazu@KF2P&ND5RE @kazu_1991

類推するときには効くが、学習には効果はない。 twitter.com/Akihitweet/sta…

2022-10-06 17:20:32

〆 @s1mesaba

@Akihitweet これは画像生成モデルとは全く別物なのでほとんど意味ないです。

2022-10-07 09:22:53

おどり @liteur1622

@Akihitweet SNSとかで画像をアップロードする際によく使われるやつね写真取ってアップロードしてるだけなのに、いろんなデータが含まれるわけよでもイラスト勉強の邪魔はできないと思う

2022-10-07 10:20:40

Lyiase @lyiase

これって推論時に誤認させるもので、学習時に乗せても効果ないんだよな…。あとどんなモデルでどんなデータが入ってるか分かってないと攻撃できないので、長く運用されるモデルにしか攻撃するチャンスが無いのよね。 twitter.com/Akihitweet/sta…

2022-10-06 19:31:33

笹竹🍝 @PANDA31030810

@Akihitweet AI絵師が描いたイラストを学習データに利用してまたAIが絵を描いてそれをまた学習して… ってのが続くだけだから根本的な解決にはならないかも自己満ならいいけど

2022-10-07 03:19:32

soakaye(そーけい) @soakaye

アンチラーニングって無理じゃ無いかな。何を学習させるかによるけど特徴点抽出して学習するんだから。ランダムノイズじゃ多少精度が悪いデータになるだけで余り意味が無い。思い切り違う特徴にすると別の絵になってしまう。 twitter.com/Akihitweet/sta…

2022-10-07 01:37:34

四月一日涼音 @ZenFone_Love

CCCD的なアレになると思います twitter.com/Akihitweet/sta…

2022-10-06 15:27:50

くまなが・元aqur＠片手でもプラモを作り隊 @temple2g

なんかCCCD思い出しちゃった twitter.com/Akihitweet/sta…

2022-10-06 14:52:53

すまほん!! @sm_hn

若い頃「CCCDうぜえ、クソな大人が生み出した音質劣化のゴミ規格」と思っていたオタク、その時の感情を思い出した方がいい twitter.com/Akihitweet/sta…

2022-10-06 14:55:43

はやぽん @Hayaponlog

著作権保護を目的としたコピーコントロールCDを思い出す。あれはジッターが増える関係で音は悪くなるし、規格逸脱品なのでポータブルCDプレイヤーで読み込めない等の問題もあったからなぁ。 twitter.com/Akihitweet/sta…

2022-10-06 15:16:01

佐々野ささき 🇨🇦メロスピ制作VTuber @sasanosasaki

これ、手段としてはだいぶ理想的ですし自分で選択する分には良いんですが、コピーコントロールCDみたいにイラストサイト側で勝手にやると「なんか元の絵と微妙に違って気持ち悪い」とか「元のデータに手を加えられるのキモチワルイ」って言われるケースが出て来そう。 twitter.com/Akihitweet/sta…

2022-10-06 15:07:19

SKA❄ ＠ICT系VTuber @SK_Animation

全く意味ないですね。添付の画像は推論時のものなので。さらに言えば、ワンチャン逆効果になりますね。 twitter.com/Akihitweet/sta…

2022-10-07 12:37:12

おかゆ @okayu

推論時の入力に敵対的 (adversarial) なノイズを加えて誤認識させる研究はあるけど、学習時に関してはむしろ精度向上を期待してノイズを加えるので、意味がないどころか下手したらより高精度になるかもしれない。 twitter.com/Akihitweet/sta…

2022-10-07 05:18:01

U-Not @U_Not_401

@Akihitweet 敵対的サンプルは、むしろ敵対的サンプルを入れて学習を行うことで精度は多少犠牲に足るけど敵対的サンプルに対してより堅牢になるってその論文に書いてある定期ただまぁ研究分野としては別だけどデータセット汚染みたいな分野はあるから発想としては割とアリだと思ってる

2022-10-06 21:01:27

ドキドキケンタウロス @sugi_timpo

確かこの画像、入力画像にこういう人間には分からないレベルでもノイズが入ると誤認する可能性があるだけで、学習データにやるとむしろ精度上がるっぽいねそもそも論として、元の文献で言われてる入力データの話でもこれは特殊な例で、どんな元データでも誤認させられるようなものは無かったような twitter.com/Akihitweet/sta…

2022-10-06 23:03:27