画像生成AIを破壊しようとする行為はアレやコレに該当する可能性があるのでは？←もうちょっとしっかり条文全文確認しろ…実質1㍉もその法令には掛からんぞ。←なんだろう、ウソつくのやめてもらっていいですか？

mirium @numatakeja

画像生成AIに対する新たな防御ツール、Nightshade。記事の内容通りならメチャクチャ凄いぞこれ！！ ・わずか100枚の”毒入り”画像を学習させるだけでSDXLの出力がほぼ完全に崩壊する ・毒は伝播する。例えば毒入りの「犬」を学習させると「ハスキー」や「狼」の出力も崩壊する Glazeへの統合が楽しみだ twitter.com/TheGlazeProjec… pic.twitter.com/uKgeJYybvN

Glaze at UChicago @TheGlazeProject

By now, I'm guessing most have already seen the news on our new project, Nightshade. Lots of artists sharing it, but here's the article from MIT Technology Review (thank you to the wonderful @Melissahei), and a thread explaining its goals and design. technologyreview.com/2023/10/23/108…

2023-10-24 13:18:00

拡大

気持ちを言葉にする入 @fggHrd86gKuj9cO

法律の専門家に聞いてみたいこととして、「毒をばら撒く」ことによって画像生成AIを破壊しようとする行為は、第168条の2（不正指令電磁的記録作成等）や第234条の2（電子計算機損壊等業務妨害）などに該当する可能性があるのでは？ということ。あと、その幇助や教唆に関しても twitter.com/numatakeja/sta…

説教ヤンキー騎士ゾーン @ZoneEoTheNiceG

確かに《ググって出て来る条文だけ》を見ると当て嵌まるように思えるだろうが、もうちょっとしっかり条文全文確認しろ…実質1㍉もその法令には掛からんぞ。Nightshadeは分類的には暗号化技術であり該当は『防衛』となる。 twitter.com/fggHrd86gKuj9c…

説教ヤンキー騎士ゾーン @ZoneEoTheNiceG

要はマルウェア等のように『積極的に攻撃に出て行く』仕様でない限りは違法性を問えんのだ（寧ろAI側の方が勝手に持ってってるだけだからな）。 違法性をそれでも問いたいなら『反意図性』と『不正性』を詳らかにする必要がある。

説教ヤンキー騎士ゾーン @ZoneEoTheNiceG

反意図性は、「当該プログラムについて一般の使用者が認識すべき動作と実際の動作が異なる場合」に、不正性は、「電子計算機による情報処理に対する社会一般の信頼を保護し、電子計算機の社会的機能を保護する」概念に則した上で「社会的に許容し得ないプログラム」である事を証明する必要がある。

説教ヤンキー騎士ゾーン @ZoneEoTheNiceG

以上を根拠に想定を行えば、違法性は㍉もない事が証明される訳だ。コレを違法だと言っちまうと『全世界に現状存在するすべての暗号化技術が違法と言う事になる』訳だ。 ‥‥無理だろ？

説教ヤンキー騎士ゾーン @ZoneEoTheNiceG

現状、確かに『AIによる学習行為に違法性は認められない』が、同時に『AIの学習に対する防衛行為に対しても違法性は認められない』んだわ。対応法令が双方《全く一緒》である関係上、正に　超　ド　級　巨　大　ブ　ー　メ　ラ　ン　となってしまったという皮肉な話だ。