AI学習アプリ「Days AI」にて悪用され、盗作イラストが生成、公開されてしまう事例の顛末ログ

カピちゃん / Capy-chan @CAPYBARA_AI_2D

リプライいただきありがとうございます。 まず、私どもの会話が不快とのことでしたら謝罪いたします。失礼いたしました。 お見せいただいたプロンプトを実際にDays AIに入れてみたものが1枚目になります。他にゆうさんの絵柄に寄せる工夫があるのかと思い、失礼ながらゆうさんのID @you_smt を追加したものが2枚目です。 ご覧いただければわかると思いますが、絵柄は似ても似つかないです。 また同じプロンプトで何回か試しましたが全てこのような絵柄でした。 他にゆうさんの絵に寄せるために指定された項目がありましたらDMでもよいので共有いただければと思います。 またもう一点...Days AIで10回ほど生成を試しましたが、お相手がスクショ2枚目で示されたような「見た目にも明らかに崩れた絵」は一度も出てきませんでした。 (こうしたアプリには基本、最低限のクオリティ保持のためのプロンプトが入っているためです) このような崩れ方の傾向はローカルのAIツールでi2iの際にDenoisingの設定を強くしすぎた出力によく似ており、私としては「疑惑が深まった」と申し上げざるを得ません。。。

拡大

拡大

カピちゃん / Capy-chan @CAPYBARA_AI_2D

@you_smt @getter0033 ご参考までに、1枚目の画像を実際にi2iしたサンプルがこちらです（ローカルにて生成）。 2枚目はDenoising弱めなので絵柄だけ変わっています。 3枚目はDenoisingをかけすぎて手が破綻してしまっています。 pic.twitter.com/lyr3hNOkwJ

拡大

拡大

拡大

ゆう🧸｜you semoto @you_smt

@CAPYBARA_AI_2D @getter0033 プロンプトの用語の意味をわかってなくてごめんなさい。 そのような画像なら私もお相手から頂きました。 今回貼った画像は、事後にこのように入れるとこのような画像が生成されるとアプリの説明を受けた際のスクショです。 pic.twitter.com/9fM1lxuPIZ

拡大

カピちゃん / Capy-chan @CAPYBARA_AI_2D

@you_smt @getter0033 ありがとうございます。こちらの画像は絵柄から見ても本当のスクショだと思います。 この絵から→プロンプト設定によってゆうさんの絵柄に寄せた画像や、 先ほどのDMのような"破綻した画像"をパッと検証した限りではこのアプリでは出すことができないので、やりかたをお伺いしている状態です。

カピちゃん / Capy-chan @CAPYBARA_AI_2D

@you_smt @getter0033 触っていて気づいたのですが、このアプリ自体にもベース画像を元にしたi2i生成機能はあるのですね。 画面下の「AIの自由度」がDenoisingにあたります。 スクショ偽造でなくとも、ゆうさんの絵をこの機能でi2iすれば、先ほどのDMのスクショも再現可能かと思います。 pic.twitter.com/k4LVBdvheD

拡大

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@you_smt @CAPYBARA_AI_2D リプライどうもです ここでお話すると名誉棄損の可能性ありますので意味については一旦回答を差し控えさせていただきます～ 実際にお仕事に実害があるかどうかではなく不快だということですね分かりました 興味は無くもないですが見えているプロンプトだけで可能なので一旦検証してまいります

ゆう🧸｜you semoto @you_smt

@getter0033 言い回しが独特で意図が読めません。フォローしましたのでDM頂けますか？ 私の認識違いがありそうです。

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@you_smt 意図が読めないのは元からの性質です。そこはすみませんね 現在検証中なのですが表でやるのは不適切な内容だと思ったので今後はDMでやり取りすることに賛成です 今後のDMにつきましては「お互いに」相手の許可を取ることなく公開しないということでお願いします 少なくとも先手は取りませんので

アロマ🚆 @aromatrain

@getter0033 @you_smt まず、引用リプライで会話するやつはもれなくやばいやつです。 彼らは、先生そっくりの合成を導き出したくてプロンプトつまり命令文を割りだそうとし、そっくりにならないならば嘘ではないかと検証中の二次加害者です。 AI生成画像はランダム性が高く、再現度高いやり方を突き止めようとしています。

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@aromatrain >引用リプライで会話する奴はもれなくヤバイ奴 自己紹介してくれてるんですかね？こんにちは！ 明らかに知識不足の相手から誤解されて冤罪かけられてる状態で誤解を解くための検証に必要な事情を聞くのが二次加害なのですね その理屈だと警察は組織的に加害者やってるのか 異世界の常識は分からん

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@aromatrain あと色々教えて貰って頂いた情報を元に50枚ほど検証した結果確かに嘘だと思われますね 先生がではなくAI使ってテキストのみで出したというtext2imageだと言うとるAI使用してる人の方がね(。-ω-) 先生はおそらくは一方的な被害者だと思いますよ(。-ω-) 自分の知識の範囲内での検証だとね

アロマ🚆 @aromatrain

@getter0033 私「あんたに」引用発言しとりませんがな。 痛すぎるＡＩ生成利用者が多いから先生にご注意申し上げた迄。 イメージＴＯイメージの精度は日々上がっており、古いアプリにあぐらをかいてる庶民が生成した所でたかがしれています。 警察ごっこ痛い。 ほんと他のＡＩ使う人に迷惑。

アロマ🚆 @aromatrain

@getter0033 そもそも頼まれてないし専門家でもあるまいに。 私本垢は榊先生と相互ですわ。 不愉快だからブロックするわ。

餡是リカ（あんぜ りか） @AnLica_chan

@aromatrain @getter0033 i2iの精度…？ じゃあ、あなたの結論もi2iって事ですよね。 t2iで特定の絵柄を狙って出すのは、ほぼ不可能。

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@AnLica_chan @aromatrain リカさんのリプ先が見えへん と思ったらブロックされてて草 見てもしょうもないこと言うとることだけはよく分かる～

餡是リカ（あんぜ りか） @AnLica_chan

@getter0033 @aromatrain え、思いっ切りトメさんへの反論をポストしてるのに、トメさんへは事前ブロックしてるってこと⁉︎ うわー、お話にならないですわ。

金鹿トメ@なろう作家？今はAI二次漫画に浮気中 @getter0033

@AnLica_chan @aromatrain うん 全く見えへん！ まあ引用リプでお話する人は～とか言ってたから有言実行してるわけですね！ ある意味潔い…… けどそれでいいのかとは思う(´-ω-`)

南瓜の翁 @igVvQYedYt88344

@you_smt @getter0033 @CAPYBARA_AI_2D このアプリ試してみたのですが、この赤丸の位置に必ず表示される「作り直す」というボタンがこのスクショだと見当たりません。 恐らく相手の方がトレパクを偽装するために、画像を上から貼り付けて嘘のスクショを @you_smt さんに送っていますね… pic.twitter.com/ZaYrQiB2BC

拡大

拡大

カピちゃん / Capy-chan @CAPYBARA_AI_2D

@igVvQYedYt88344 過去に作成した画像を履歴から開くと「作り直す」は表示されませんよ。 pic.twitter.com/bCDx7Dnjpc

拡大

南瓜の翁 @igVvQYedYt88344

@CAPYBARA_AI_2D すみません！ t2iではないとは思うんですが、そこまで見ていませんでした💦 ご指摘ありがとうございます。

兎蘇 @buddapoteto

> 私のオリジナル絵を使用しAIのimage to imageで生成されたものだとわかりました。 > その方が私のイラストを直接利用したわけではなくワード入力で生成した ミステリーが起きてる。この謎を解き明かすにはDaysAIの仕様を把握した上で「その方」の聴取をとりたいところだ。ワトソン君あとは頼んだ twitter.com/you_smt/status…

ゆう🧸｜you semoto @you_smt

【注意喚起】※長いです。 この度私の左記イラストが中国のAI学習アプリ「Days AI」にて悪用され、右記盗作イラストが生成、公開されてしまう事例が発覚しました。 クリエイターの皆様とAI利用者に読んで頂きたく詳細を記します。可能であれば拡散をお願い致します。 発覚の経緯 私のイラストを好んでくださっている方から私のイラストにそっくりな絵(4枚目)がXに投稿されていると報告を受け発覚。 見た所、私のオリジナル絵を使用しAIのimage to imageで生成されたものだとわかりました。 幸いにも作成した方とはすぐ連絡が取れたので事情を聞いたところ、その方に悪意はないと判断しました。 その方が私のイラストを直接利用したわけではなくワード入力で生成したら2枚目のイラストが最初に出来上がってしまったそうです。 ※依頼主からの希望で加筆修正を施したまたま3枚目の私の作品の素肌感と同じものが仕上がったようです。 ※依頼で一度は納品されたアイコンでしたが現在は削除してもらい金銭授受も発生していません。 考えられる原因は、今回の生成以前に悪意ある第三者が既に私のイラスト(1枚目)をこのアプリで悪用していて素材として蓄積された可能性。 または、このアプリ側が悪意を持ってSNS上ネット上から私の絵を無断で拾い上げて素材として蓄積させた可能性。 どちらか断定はできません。 予想もしていない事が起こり、恐怖ショック怒り悲しみ悔しさ色々な気持ちが収まりません。 私の大切なオリジナル作品に一生消えない傷が付いた感覚で、しばらく喪失感に苛まれました。 今回奇跡的に発覚しましたが氷山の一角だとは思います。。 注意喚起とは言いましたが、正直クリエイターに対する再発防止策は私には思い浮かびません。。 「Days AI」というAI学習機能を使用されている方は今一度安全なアプリなのかどうかを考え直してみてください。 もし添付のようなイラストが生成されたら私のオリジナルが盗用されたものですので保存されないようお願いします。 また、AIイラストを作成or販売されている方は、知らないうちにクリエイターオリジナルの模倣作品を生み出している可能性があることを頭に入れておいてください。 イラストの保存、悪用、盗用は本当にやめてください。バレなければいい、ではありません。 汗水垂らし生み出した我が子のような存在です。泣いているクリエイターが沢山います。 これ以上被害者がでないことを願っています。 よろしくお願いします。 最後に。気付いてご報告してくださった方の記憶の中に私のイラストが残っていた事実がとても嬉しかったです。ありがとうございました😢 また労りの言葉をかけてくれたクリエイター仲間たち、適切な助言をくれたバニさん本当にありがとうございました😢

2024-01-29 15:55:09

のんのん @nonnon__nonai

@buddapoteto ワード入力だけでここまで元絵に寄せられなくないですか？「その方」悪意はないらしいけどそれは無理がある気が…

兎蘇 @buddapoteto

@nonnon__nonai あとは頼んだぜ？名探偵。

のんのん @nonnon__nonai

@buddapoteto 勘弁してください