AI学習アプリ「Days AI」にて悪用され、盗作イラストが生成、公開されてしまう事例の顛末ログ

ゆう🧸｜you semoto @you_smt

【注意喚起】※長いです。 この度私の左記イラストが中国のAI学習アプリ「Days AI」にて悪用され、右記盗作イラストが生成、公開されてしまう事例が発覚しました。 クリエイターの皆様とAI利用者に読んで頂きたく詳細を記します。可能であれば拡散をお願い致します。 発覚の経緯 私のイラストを好んでくださっている方から私のイラストにそっくりな絵(4枚目)がXに投稿されていると報告を受け発覚。 見た所、私のオリジナル絵を使用しAIのimage to imageで生成されたものだとわかりました。 幸いにも作成した方とはすぐ連絡が取れたので事情を聞いたところ、その方に悪意はないと判断しました。 その方が私のイラストを直接利用したわけではなくワード入力で生成したら2枚目のイラストが最初に出来上がってしまったそうです。 ※依頼主からの希望で加筆修正を施したまたま3枚目の私の作品の素肌感と同じものが仕上がったようです。 ※依頼で一度は納品されたアイコンでしたが現在は削除してもらい金銭授受も発生していません。 考えられる原因は、今回の生成以前に悪意ある第三者が既に私のイラスト(1枚目)をこのアプリで悪用していて素材として蓄積された可能性。 または、このアプリ側が悪意を持ってSNS上ネット上から私の絵を無断で拾い上げて素材として蓄積させた可能性。 どちらか断定はできません。 予想もしていない事が起こり、恐怖ショック怒り悲しみ悔しさ色々な気持ちが収まりません。 私の大切なオリジナル作品に一生消えない傷が付いた感覚で、しばらく喪失感に苛まれました。 今回奇跡的に発覚しましたが氷山の一角だとは思います。。 注意喚起とは言いましたが、正直クリエイターに対する再発防止策は私には思い浮かびません。。 「Days AI」というAI学習機能を使用されている方は今一度安全なアプリなのかどうかを考え直してみてください。 もし添付のようなイラストが生成されたら私のオリジナルが盗用されたものですので保存されないようお願いします。 また、AIイラストを作成or販売されている方は、知らないうちにクリエイターオリジナルの模倣作品を生み出している可能性があることを頭に入れておいてください。 イラストの保存、悪用、盗用は本当にやめてください。バレなければいい、ではありません。 汗水垂らし生み出した我が子のような存在です。泣いているクリエイターが沢山います。 これ以上被害者がでないことを願っています。 よろしくお願いします。 最後に。気付いてご報告してくださった方の記憶の中に私のイラストが残っていた事実がとても嬉しかったです。ありがとうございました😢 また労りの言葉をかけてくれたクリエイター仲間たち、適切な助言をくれたバニさん本当にありがとうございました😢

拡大

拡大

拡大

拡大

ゆう🧸｜you semoto @you_smt

i2i理解してないという引用ついてますが今回の件以前に悪意ある第三者がi2iで私のミミックを生成したものが結果的に素材となり今回のワード入力でその素材が使われて出てきたという認識でいるのですが何か間違ってますかね…？ またワード入力だけでこれが出てきたことに対して不信感を感じてる方もいますが初回はもっと精度は低く入力を繰り返し2枚目が出来たそうです。問題は誰かが作品を無断使用した事実なのでワードのみでこれが出てきたか否かはどちらでもいいのが正直な所です。。

ゆう🧸｜you semoto @you_smt

ちなみに生成された方はi2iではなくt2iで作成されたようです。生成途中のスクショも詳細に頂いていて私は納得してますので大丈夫です。 私がi2iだと思ったのはその方とやり取りする前段階ですので、、 皆さんきちんと読んでくださり細かい所によく気付いてくださりありがとうございます。

ゆう🧸｜you semoto @you_smt

ミミックはアプリやAIの世界関係なく「擬態」という意味の単語として使っています。私はAIアプリには触れたことがないので触れてる方の認識や知識には及びません。細かい所がどうしても気になってしまうAI界隈の方々には何だか申し訳ありません。 また誰とも争うつもりもないので弁護士にお世話になることもありません。

ゆう🧸｜you semoto @you_smt

【追記・訂正】 下記のポストについて みなさまから多くの励ましのお言葉やご意見を頂きありがとうございました。 今回の件について、盗作イラストを作成された方やご意見をくださった方々と協議をさせていただき、ひとまずの決着がつきましたのでご報告させていただきます。 また、私が投稿した内容につきましても誤解が多々含まれておりましたので、そちらもお詫びして訂正させていただきます。 まず、AIイラストを作成された方とは個別に連絡を取り合い、イラストの取り下げおよび謝罪をいただいており、金銭の授受もなかったとのことで、本件に関しては和解していることが大前提です。 多数ご指摘をいただいた「AIのimage to imageではないか」という点については、ご意見をくださった方々に実際に「Days AI」アプリを使用して検証していただくなどし、通常の「text to image」機能のみで私のイラストと同じようなものが出るわけではないことが確認できました。 生成された方からはt2iから加筆修正とi2iを何度も繰り返した結果だと説明を受けています。 この点に関しては私は専門家ではないので断言できることはなく、また既に和解をしているので私がこれ以上言及することも結論を出すことも、今後その方と連絡を取ることもありません。 少なくとも私個人としましては、 「Days AIが不適切な学習や出力を行ったわけではない」 という事実がわかったのでアプリに対しての発言を撤回させていただきます。 （また「Days AI」は中国のアプリではなく、日本製のアプリとのことでした。重ねてお詫びし訂正いたします） まさかAIとは縁遠い所にいると思っていた私が巻き込まれるとは思いもよりませんでした。 私としても今回のことで心身ともに疲れ果ててしまいましたし、仕事がかなり押してしまったので、今後本件に関してのDMでのお問い合わせやリプライ・引用ポストなどには反応しないようにいたしますのでご承知おきください。 ここまでお読みいただきありがとうございました。

樋口紀信＠疫神のカルテ全3巻 @susujinkou

これ…ツリー読むと本当にとんでもない事になってますね…。 勿論、相手方がどれほど真実を語っているか、第三者の僕には判断できません。が、この画像が出てきている事自体が「現状の生成AIの問題」だと思います。 こういうことが誰にでも無自覚に短時間で膨大な量できてしまう…。 twitter.com/you_smt/status…

ひかる @hika_nintendo

@susujinkou フィルター加工が簡単にできるから、PCを規制しよう それはおかしいよ

6makerNFT Proof of Muscle💪ordinals🟧 Discord 👇 @6maker_nft

AIイラストの技術は魅力的ですがこのような事例、泣き寝入りしているクリエイターがいなくならない限り使う気がおきません。　 パクリやトレースのような人間的情緒がある世界のことなら気持ちはわかる部分もありますがAI相手では感情の行き場すらがない... ゆうさん今度また飲み会で話聞くね！ twitter.com/you_smt/status…

芋野ようかん╎絵と顔面NFT @imono_oimo2022

@6maker_nft シックスメーカーさん、 リポスト注意喚起ありがとうございます🙇‍♀️ おかげで、素敵なクリエイターの方を知ることができました❣️ しかし輝く技術も、このような事になると…💦 どうしても、トラウマのようになってしまうかと思いますが、ゆうさんの心の波が落ち着きますように。

6makerNFT Proof of Muscle💪ordinals🟧 Discord 👇 @6maker_nft

@imono_oimo2022 ゆうさんは大切なクリエイター仲間なので 人ごとじゃなかったです すでに世界中でAIの登場で何万人も筆を置いた方はいるハズで このまま規制なしに加速すれば世の中からクリエイターはいなくなる世の中になりますね 世界がそれを望まない事を祈ります

芋野ようかん╎絵と顔面NFT @imono_oimo2022

@6maker_nft お気持ちお察しいたします… まったくですね💦 ただ一つわかりましたのは、 やはり似ている何かにはなるけども 元の作者様のような手書きの魅力とは違うものですね。 技術の進化や盗用はできても、相手のことを考えて作ることは難しいと思っています‼️

しとー 410（Yuri Shitoh/紫藤 ゆり ∞ I love Ethical World) @Japanessence

先日牛島総合法律事務所の弁護士による生成AIの生成物使用にあたっての法的リスクに関するセミナーを受けたんだが、まさにこのリスクを話されてた。 AIは既存の絵を大量に読み込んで学習している為、生成された画像が（意図せず）既存画像に酷似している可能性が充分ある。 twitter.com/you_smt/status…

しとー 410（Yuri Shitoh/紫藤 ゆり ∞ I love Ethical World) @Japanessence

盗用された元々の作者は何らか手を打つ必要が出てくるし、使用者も法的に問題になる可能性が出てくる。 学習させた誰かは悪用というより「素敵な絵だからAIに学習させよう」と良かれと思って学習させてる可能性もある。 国を跨いでの案件となると法律も違うので解釈の相違が発生するとの事であった

しとー 410（Yuri Shitoh/紫藤 ゆり ∞ I love Ethical World) @Japanessence

今後もこういった例は多発すると考えられる。（故に画像生成AIの営利利用は止めた方が安全よ。） 使用側のリテラシーが求められるのと、早急な法的整理と法整備が求められている。 （著作権法は昨年11月に骨子案ができ、そろそろパブコメ。知的財産法は今年春に骨子が出来る予定とのこと。）

しとー 410（Yuri Shitoh/紫藤 ゆり ∞ I love Ethical World) @Japanessence

AIに関する著作権法の素案についてのパブコメ募集していたので、作家さんやクリエイターさん達は是非意見を以下へ。 2/12まで 素案は以下のリンク先にpdfであります。 「AIと著作権に関する考え方について（素案）」に関する意見募集の実施について public-comment.e-gov.go.jp/servlet/Public…

少佐 @MPOANTARES77410

Days AIだけではなく、全てのイラスト生成AIが他者の絵を盗んで動いています 例え悪意がなくとも、イラスト生成AIを使っている時点で立派な加害者です イラスト生成AIを使ってクリエイター面してる奴らはその事を理解しておけ twitter.com/you_smt/status…

さんた @c8vpeSMuFx89364

画像生成AI、プロンプトで作家名指定しなくてもプロイラストレーターの商用画像の盗作が出来てしまうなんて、深刻な問題抱えてるな…。 twitter.com/you_smt/status…

ダブステップ@AI界隈が嫌いなAI術師 @gutidiffusion9

今回はt2i被害でなく i2i被害のようだが 画像生成AIは類似絵のt2i生成はまず不可能という話は実はもうデマ という事実 知っておこう AI術師より ゆうさんの 知らないうちにクリエイターオリジナルの模倣作品を生み出している可能性があることを頭に入れておいてください。 という懸念は大当たり pic.twitter.com/U8DQ7kome9 twitter.com/you_smt/status…

拡大

拡大

拡大

拡大

penpenpenpen25.OEKAKI @Penpenpenpen25O

AI許容派だった自分の家族もこういう方たちを見て「やっぱりAI学習って泥棒と一緒かも…」と。 twitter.com/you_smt/status…

800 0 @feed_yao

気軽に使える画像生成AIアプリだが、どんなデータを学習しているか不明瞭だし、知らず知らずのうちに著作権を侵害する可能性があるのでかなり危険だと思う。 今回は偶然発見されたが、発見されていない事例も多くあるのではないだろうか。 twitter.com/you_smt/status…

ぬくもり右 @ZNsxmrmnInvRlgo

ワード入力でこれとは 既存の絵のガチャじゃん 出した方もどれだけそのまんまか観測出来ないなら twitter.com/you_smt/status…