AI学習アプリ「Days AI」にて悪用され、盗作イラストが生成、公開されてしまう事例の顛末ログ

猫月ナコ @Nekozuki_nako

知らずうちに学習素材にされ、それが全然別の場所で生成されてしまう……怖すぎだよホント😵‍💫 これを推進ありきで進めようとしてる日本ヤバいよ。パブコメ書かなきゃだが、なかなかまとまらない💦💦 twitter.com/you_smt/status…

ゆう🧸｜you semoto @you_smt

【注意喚起】※長いです。 この度私の左記イラストが中国のAI学習アプリ「Days AI」にて悪用され、右記盗作イラストが生成、公開されてしまう事例が発覚しました。 クリエイターの皆様とAI利用者に読んで頂きたく詳細を記します。可能であれば拡散をお願い致します。 発覚の経緯 私のイラストを好んでくださっている方から私のイラストにそっくりな絵(4枚目)がXに投稿されていると報告を受け発覚。 見た所、私のオリジナル絵を使用しAIのimage to imageで生成されたものだとわかりました。 幸いにも作成した方とはすぐ連絡が取れたので事情を聞いたところ、その方に悪意はないと判断しました。 その方が私のイラストを直接利用したわけではなくワード入力で生成したら2枚目のイラストが最初に出来上がってしまったそうです。 ※依頼主からの希望で加筆修正を施したまたま3枚目の私の作品の素肌感と同じものが仕上がったようです。 ※依頼で一度は納品されたアイコンでしたが現在は削除してもらい金銭授受も発生していません。 考えられる原因は、今回の生成以前に悪意ある第三者が既に私のイラスト(1枚目)をこのアプリで悪用していて素材として蓄積された可能性。 または、このアプリ側が悪意を持ってSNS上ネット上から私の絵を無断で拾い上げて素材として蓄積させた可能性。 どちらか断定はできません。 予想もしていない事が起こり、恐怖ショック怒り悲しみ悔しさ色々な気持ちが収まりません。 私の大切なオリジナル作品に一生消えない傷が付いた感覚で、しばらく喪失感に苛まれました。 今回奇跡的に発覚しましたが氷山の一角だとは思います。。 注意喚起とは言いましたが、正直クリエイターに対する再発防止策は私には思い浮かびません。。 「Days AI」というAI学習機能を使用されている方は今一度安全なアプリなのかどうかを考え直してみてください。 もし添付のようなイラストが生成されたら私のオリジナルが盗用されたものですので保存されないようお願いします。 また、AIイラストを作成or販売されている方は、知らないうちにクリエイターオリジナルの模倣作品を生み出している可能性があることを頭に入れておいてください。 イラストの保存、悪用、盗用は本当にやめてください。バレなければいい、ではありません。 汗水垂らし生み出した我が子のような存在です。泣いているクリエイターが沢山います。 これ以上被害者がでないことを願っています。 よろしくお願いします。 最後に。気付いてご報告してくださった方の記憶の中に私のイラストが残っていた事実がとても嬉しかったです。ありがとうございました😢 また労りの言葉をかけてくれたクリエイター仲間たち、適切な助言をくれたバニさん本当にありがとうございました😢

2024-01-29 15:55:09

チューハイＰ＠新曲『八雲立つ』公開中！ @nozomimatuki

AIイラスト。 登場時は面白がってましたが、実態が分かってきて、今となっては微妙に違和感のあるそれっぽいヤツを見るだけで嫌悪を覚えるように。 音楽動画のサムネとかで見かけただけでも「うっ」てなります😖 twitter.com/you_smt/status…

じろ衛門 @oWXLjAguLdVEGCI

これは酷い💧 オリジナルが格段に良いけど、そういう問題では無く 色々な服のデザイン学習させてAIで精製して売ってるヤツもそうだけど、これらはただの泥棒だし気分悪い でもこの流れは加速しそうで嫌過ぎる twitter.com/you_smt/status…

柴色｜しばいろ @shibairo02

生成AIは使用者に悪意がなくてもクリエイターに被害が発生することがあります！ 生成する際に著作権を侵害してしまう可能性があるのなら学習を規制しないと阻止できない 世界中で同じようなことが起きた後では遅い twitter.com/you_smt/status…

緑川美帆/G.River @GR_River

ほー、こう並ぶと顕著にわかる 個性と筆致の表情が死ぬんだなあ twitter.com/you_smt/status…

🖤🎲さくらこ。🔫⚙️ @sakurako_vamp

生成AIで作られた物に著作権を認めちゃいけない例 twitter.com/you_smt/status…

ﾏﾁｺｩ @machikoryon

AIって学習させる側の悪意やリテラシーの低さ、そして犯人探しがし難い事も含めて技術そのものは凄いけれど、様々な経験や背景から生まれた個人の創作物を秒で盗むから使用を躊躇うんよね。デジタルアートがクッソつまらなくなる。 twitter.com/you_smt/status…

やゆ。漫画垢 @yayumanga

本当こういうこと… 皆さんが命込めて作った作品を AIが盗んだり… ドラマが歪めたり 本来の作者さんのことを なんだと思ってるんだろう twitter.com/you_smt/status…

餡是リカ（あんぜ りか） @AnLica_chan

i2iじゃない…？ それならプロンプト聞いて「Days AI」で再現しましょう、にしかならないような。 なんで文字だけでそれが出たって信じれるのか。 大抵の「同じ画像が出た」は過学習で強調入れまくりプロンプトを数万単位で生成してようやく出せるものだよもん。 twitter.com/you_smt/status…

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@AnLica_chan あー なるほど…… これあれか たまたま出たんじゃなくて実はi2iしててそれを言うてへん可能性があるわけか SEED値とプロンプト聞いて再現できるかどうかの検証が必要ですな

NHKKOR @NHKKOR

@getter0033 @AnLica_chan >image to imageで生成されたものだとわかりました。 >考えられる原因は、今回の生成以前に悪意ある第三者が既に私のイラスト(1枚目)をこのアプリで悪用していて素材として蓄積された可能性。 ここ軽いホラーですね…

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@NHKKOR @AnLica_chan あれ？？ ……確かにホラーですな そのアプリのデフォルト素材をi2i出来る機能があったのか、それとも怒られた人がとってきたのを黙ってるのか ((( ；ﾟДﾟ)))

NHKKOR @NHKKOR

@getter0033 @AnLica_chan まあ、いわゆるトレパク被害はご愁傷様なんですが、怒りのあまりトンチンカンな事を言うと逆に「こいうなんも分かってないで気持ちだけで文句言ってんな」になるの、正直イメージ落ちるから悪手だと思うんですよね・・・まずi2iって何ぞや？って調べないのかと・・・

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@NHKKOR @AnLica_chan 確かになぁ まあちゃんと読んでなかったワイにも非はありますけどね(。-ω-)

watabe @30years_over

この下記画像部分の相手方の発言がほぼ100%嘘なので、使用したプロンプトやSeed値を質問して、それが再現できるのか試してください しつもんをはぐらかしたら100%黒です pic.twitter.com/Y3MGlAUHYx twitter.com/you_smt/status…

拡大

watabe @30years_over

被害者がアホすぎて人間の悪意をAIの危険性だと思いこんでしまってるパターン こうならないために人間には勉強が必要なのよね

カピちゃん/Capy-chan @CAPYBARA_AI_2D

こちらのイラストレーターの方、元絵(1枚目)にそっくりな絵(2枚目)がAIイラストアプリから出力されたとのことですが...どう見てもi2iパクリですよね。。。 パクッてきたお相手の方が本当に「t2iで」2枚目の画像が出てきたと主張するのであれば、 その「プロンプト」と「シード値」を聞いてみて、「Days AI」上で全く同じ画像が出てくるか、ご自身の手で確認すべきです。 （スクショ偽造や、AIがたまたま似た画像を出してしまった！俺は悪くない！はi2iパクリ犯がよく使う言い訳・手口です） また、本当に似た画像が出てくるなら、そもそも「Days AI」自体が「AI」とは名ばかりの学習不足or画像マッチングアプリである可能性...少なくとも、一般的なAIモデルであれば、仮に元絵を学習していたとしても、2枚目の画像を狙って出すことは天文学的に難しい確率になるかと思います。

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@CAPYBARA_AI_2D 検証のためにダウンロードしてきたんだけどこれSEED値入力できへんタイプだった せめてプロンプトだけでも公開してくれればなぁって思うけど喋りたくなさそうなんで様子見ですかね(。-ω-) 気が向いたら言うてくれるでしょう pic.twitter.com/c3R0Gk20VC

拡大

カピちゃん/Capy-chan @CAPYBARA_AI_2D

@getter0033 確認ありがとうございます。 これって同じプロンプトを入れたらちゃんと毎回違う画像が出るんですかね？（内部SEEDがランダム？） もし毎回違う画像が出るなら、この人のいう「生成画面のスクショ」はどうやって撮ったんだという話に。。。

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@CAPYBARA_AI_2D あ、確かに ……なんか深く追求するのはちょっとヤバイ案件だと直感が言うとるのでこのまま逃げようかなって思いました(´・ω・｀)

カピちゃん/Capy-chan @CAPYBARA_AI_2D

@getter0033 気づいちゃったわね...(´・ω・｀)

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@CAPYBARA_AI_2D うん(´・ω・｀)

ゆう🧸｜you semoto @you_smt

@getter0033 @CAPYBARA_AI_2D かなり長くやり取りをしたうちのほんの一部ですがご希望あれば１から全て包み隠さずお見せしますので是非DMください。とても長いのでTL荒らしたくなく個別でお答えします。 深く追求するのはヤバい案件とはどういった意味でしょうか？ あなた方のやり取りがAI盗作よりも何よりも不快な気分です。 pic.twitter.com/pBMvnr6Ikl

拡大

拡大

拡大

拡大