画像生成AIから自分のイラストを守る対策ツールが出たと聞いて様々な声「おおーついに!」「これで防げそう?」

KAI-YOU（カイユウ） @KAI_YOU_ed

「画像生成AIから自分のイラストを守る」対策ツール「Glaze」無償公開へ kai-you.net/article/86102 #kai_you 米大学の研究グループが発表。ほとんど目に見えない微小な処理を画像に加えて、画風や絵柄などが機械学習できないように。

Seamless @shiropen2

「自分の絵を画像生成AIから守る」――学習される前に絵に“ノイズ”を仕込みモデルに作風を模倣させない技術「Glaze」 levtech.jp/media/article/… ネット公開前に敵対的な摂動を注入。学習されても全く違う画像が生成される。図左2列が元画像,右2列が妨害後画像。プロ絵師約1000人の90%以上が保護成功と評価 pic.twitter.com/YAu5ING148

拡大

双真満月（omi）／薊の娘は～3/22より電子書籍配信決定 @fetus_un111

「画像生成AIから自分のイラストを守る」学習・模倣の対策ツール「Glaze」無償公開へ - KAI-YOU kai-you.net/article/86102 #kai_you おおー。 こんなものが出たか、ついに。

庭師🌱 @GardenPillars

うわぁ、これもすごい！学習され、模倣されてもノイズによって全く違う絵が生成されてしまう・・・ twitter.com/shiropen2/stat…

natsudo @ndrmaya

以前こういうことはできないのか？と呟いた記憶あるができるもんなんだなぁ 「画像生成AIから自分のイラストを守る」学習・模倣の対策ツール「Glaze」無償公開へ - KAI-YOU.net kai-you.net/article/86102

ゆうな @u6na9

これの大きいところはこれが突破されたとて「対策を個別で引っ剥がしてでもやってきた」ということになる点 i2iなんかはがっつり悪質と判断できるようになるね

ごみ🗑️ @Dl6_013_

やっぱりすぐこういうの出てくるよね

桜沼 @skr_155

見ず知らずの他人に勝手に自分の絵を使われて嫌な思いをするかもしれない、ていうのはある程度防げそう…？

ノットマン @kuroneko_danny

素晴らしい でもこれを学習されて いたちごっこになりそう

椿 @apophylite_

逆に機械学習阻害されて別物になった絵を「私が描きました。探してもどこにも元絵なんてないはずです」って言い張る人とか出てきたりしないのかなーって心配もちょっとあるかも

Nisemono@自称モザイクニキ @Fake_Otoko

これ逆にランダム生成で作りましたっていう「アリバイ」を与えることにもなりかねなくないか？ twitter.com/shiropen2/stat…

どこかのFくん @fkunn1326

Glaze、理屈はわかるんだけどノイズをとりさる技術なんていくらでもあるし、あれが本当に絵を守れるかって言うと違うような気がする いやまあ、そういう研究も必要だとは思うんだけどね？

sp8999＠加筆勢 @sp8999

@fkunn1326 拒否をしているだけでなく、承認段階を踏む方法(承認ボタンを押したあとに出てくる画像など)のタイプは学習させたら違法扱いになった気がするので、少なくともノイズ取った場合は完全に違法になるのでは？

みや @miyamoyame

ちなみにGlazeのサイト見たらわかるけどイタチごっこになるのは織り込み済みでこれの役割は法律が整備されるまでの繋ぎって言ってるからね もう泥棒扱いは免れないんだから許諾取る方向に切り替えていけ

なんか @_determina_

これ読んだ、すごい 学習する側がこれを突破する方法はいくらでもあると思うけど、そういう小細工をした時点で全く”フェアユース”じゃなくなると思うし、アーティスト側が画像だけで明確に意思表示ができるのめちゃくちゃ良いな arxiv.org/abs/2302.04222

なんか @_determina_

Glazeの再現実装やってみた！ pの値が大きいとさすがにちょっとノイズ入ってる感出るけどかなり良い感じすね pic.twitter.com/REf0e7u2PQ

拡大

なんか @_determina_

著者にメール送ったところ、GlazeはUndocumentedな防御策をいっぱい盛り込む予定らしくて、論文に書いてある機能だけをGlazeの非公式実装とは呼べなさそうなので（もちろん他にも色々理由あるけど）非公開にした！ この問題に対してめちゃくちゃ熱意感じる返信メールですごかった、頑張ってほしい

NISH⚓️⚓️yuu(本物) @hyuu_nis

これがどの程度意味があるのかは技術系に疎いので詳しくはわからないけど、法整備も進めていかなきゃいけないのは確かっぽいわな