-
- いいね！0
mirium
@numatakeja
これもしかしてNightshadeを念頭に置いた記載か？ 自分の作品に防御かける”普通の使い方”で業務妨害とられるなんて有り得ないと思うんだが、わざわざこんなの書くの腹立たしいわ （資料4の技術事例にNightshadeは入ってないが、資料5にあるで認識はしてるはず） kantei.go.jp/jp/singi/titek… pic.twitter.com/asOQiLGix7 twitter.com/numatakeja/sta…
2023-12-12 20:30:21
mirium
@numatakeja
第4回AI時代の知的財産権検討会の資料が公開。我々が送った意見は「資料5」にまとまっている。自分の意見がちゃんと載っているかご確認を。 ……まあ載っていたとしても結局会議内容に反映されてないっぽいのが最悪なんだが。30条4に対して未だにコレだよ kantei.go.jp/jp/singi/titek… pic.twitter.com/ojM60cWkJw
2023-12-12 17:30:32
拡大
カイエダヒロシ
@kaieda_h
ワイのnightshade関連のポスト拾って「プログラムでもない画像ファイルをウイルスと言い張れるのは凄い」って言われてたっぽいけど、画像ファイルに仕込まれたマルウェアのニュース去年もなかったっけ？ マルウェアってウィルスの事だと思うけど…
2023-11-08 09:21:05
江添亮
@EzoeRyou
悪意をもって機械学習の学習ソースに使うと不具合を生じさせる著作物を、その著作物が学習に使われると知りながら公開した場合、違法性は問われるべきだ。 twitter.com/kanenooto7248/…
2023-12-13 03:14:11
鐘の音（除夜の鐘）ダイエット-30kg
@kanenooto7248
なにが面白いかと言って、「勝手に他人の著作物をAIに取り込むのは合法だが、その著作物によってAIが不具合を発生した場合、著作権者が違法性を問われることもある」とか資料に書かれていて、「お、おう！？」と思うアレ。流石に法解釈おかしいのではないか？
2023-12-12 21:19:35
青猫
@AonekoSS
@studiomasakaki ポイズニング的な手法はリスキーですね。 不正指令電磁的記録、つまりコンピュータウイルスの一種とみなされると3年以下の懲役又は50万円以下の罰金。ブラクラ貼って掴まった例（兵庫県警のアラートループ事件）とかもあるし、検挙範囲が曖昧すぎて……（下手すりゃプログラムとデータの区別も怪しい）
2023-10-25 23:29:55
気持ちを言葉にする入
@fggHrd86gKuj9cO
法律の専門家に聞いてみたいこととして、「毒をばら撒く」ことによって画像生成AIを破壊しようとする行為は、第168条の2（不正指令電磁的記録作成等）や第234条の2（電子計算機損壊等業務妨害）などに該当する可能性があるのでは？ということ。あと、その幇助や教唆に関しても twitter.com/numatakeja/sta…
2023-10-25 12:52:35
mirium
@numatakeja
画像生成AIに対する新たな防御ツール、Nightshade。記事の内容通りならメチャクチャ凄いぞこれ！！ ・わずか100枚の”毒入り”画像を学習させるだけでSDXLの出力がほぼ完全に崩壊する ・毒は伝播する。例えば毒入りの「犬」を学習させると「ハスキー」や「狼」の出力も崩壊する Glazeへの統合が楽しみだ pic.twitter.com/uKgeJYybvN twitter.com/TheGlazeProjec…
2023-10-24 23:29:46
賢木イオ＠スタジオ真榊
@studiomasakaki
「nightshade」なる画像生成AI攻撃ツールが登場。自分の画像をウェブにアップする前にこのツールで「毒を盛る」ことで、毒入り画像を学習したモデルに「深刻なダメージ」を与えられるとしています。 業務妨害になる可能性もあり、さらに状況は混沌としていきそうですね… technologyreview.com/2023/10/23/108… pic.twitter.com/gLChHKdD8l
2023-10-25 06:29:25
拡大
拡大
賢木イオ＠スタジオ真榊
@studiomasakaki
winny事件と同様でツールを開発するのは自由だと思うのですが（PCウイルスに関するあれこれの罪は該当しないだろうし）、仮にこれを使う人が日本で増え、日本のAI企業の作ったモデルが汚染されて金銭的損害が出た場合、民事責任などがどうなるのか気になりますね。正当な権利なのか業務妨害なのか。
2023-10-25 07:37:55
七瀬葵
@aoi_nanase3
技術的保護ってどうやってやるん？ まさか意匠登録するとか？ どっちにしろnightshadeってサイバー攻撃の類なんじゃ...？ 著作権法の問題以前に使用したら違法だし損害賠償ものだと思う なんでデジ絵の方が立場が守られるはずって思うのか謎すぎる twitter.com/kenji_y1986/st…
2023-10-29 06:31:47
S.H.ノーマル@なんか作る
@kenji_y1986
これ素人の意見ですが、nightshadeに限らず技術的保護がされている絵を強化学習した場合、“同一性のある絵を大衆に公開した時点で”著作権法30条1項2号に定める「技術的保護手段の回避による複製」に引っかかるんじゃないかなって思うんですよね 実際に裁判起きたら結構面白い判例になると思います twitter.com/studiomasakaki…
2023-10-28 13:47:12Nightshadeは、以前に学習防止ツール「Glaze」を開発したシカゴ大学の研究チームによって生み出されました。
今後、研究チームはNightshadeをGlazeのオプションとして提供する予定で、さらなる進化と展開が期待されています。