現行のイラスト系生成AIモデルの妥当性を議論する際に、「法的に問題が無いとしても、そもそも無断学習だから妥当性がないだろう」という他に、法的な問題点も存在する、として以下の3点が挙げられている。

mutaguchi @mutaguchi

現行のイラスト系生成AIモデルの妥当性を議論する際に、「法的に問題が無いとしても、そもそも無断学習だから妥当性がないだろう」という他に、法的な問題点も存在する、として以下の3点が挙げられている。 ①基盤モデル（Stable Diffusion 1.5）の学習セット（LAION-5B）にCSAM（児童ポルノ類）が含まれる ②NovelAIから違法にリークされたモデルをベースに追加学習、あるいはマージしたモデルが利用されている ③海賊版データを含むdanbooruデータセットが用いられている しかし、①～③は徐々に状況が変わってきたと思われ、情報はアップデートしておいた方が良いと思う。これは生成AIに肯定的、否定的のどちらの立場であるかを問わず。 ①について。Stable Diffusionの開発元、Stability aiを信じるのならば、Stable Diffusion 2.0以降は（現行の主流モデルSDXL 1.0を含み）、LAION-5BからCSAMを除去して学習しているため、一応問題は解決しているはず。（フィルタリングの手法が開示されていないので、信じるしかないが） ②について。リークされたNovelAIDiffusion V1モデル（所謂NAIリークモデル）はSD1.5ベースであり、2023年まではその追加学習モデル（これも実は証拠は無いが）であるAnything-V3.0と、実写系モデルなどとのマージモデルが「ローカル画像AI」として広く使われたのは事実である。 しかし、今年に入って、Animagine XL等、SDXLをベースモデルとした、非SD1.5、非NAIリークモデルのイラスト専門の追加学習モデルがいくつか登場した。 また、LCM LoRAやStable Diffusion WebUI Forgeなどの技術・ソフトウェアの登場により、従来はローカルで動作させるのに高いPCスペックが必要であったSDXLが、多くの環境で実用的な速度で動作するようになってきた。 LoRAに関しては、SD1.5用とSDXL用で互換性はないが、SDXL用のLoRAを新しく作れば良いだけだし、Civitaiなどでの公開も進んでいる。 このことから、NAIリークモデルおよび派生モデルの利用は、今年に入って急激に減少している（私の観測範囲での主観的意見だが。急に絵としての品質が上がったのを感じる）。 ③について。②で挙げたSDXL系モデルはdanbooru利用を明言しているものがあるので、それについては従来通りの問題点を抱えていると言えるのだが、一方でNovelAIの現行モデルNovelAIDiffusion V3（NAI v3）はSDXLを基盤モデルとして利用していることと、danbooruタグ（これにはキャラ名、作品名、作者名を含む）を学習しており、生成に利用できることは明らかにされているが、danbooruデータセットに含まれる画像を学習したかどうかは不明。 不明というのは明言していないから不明なのだけれども、danbooruデータセットには転載元のURLが含まれているものがあり、そちら経由で各々オリジナルをダウンロードすることは理屈の上では可能であるので、NAI v3の学習が、海賊版の違法ダウンロードに基づくものであると断定することは出来ないのが現状。 以上、イラスト系生成AIモデルが違法であるとする根拠①～③は、必ずしも根拠が成立しなくなりつつあるので、一応情報をアップデートされておいた方が良いと思う。特に、モデルの違法性を根拠に生成AIを否定する戦略を取るのであれば、確実に裏取りをしないと足下を掬われる危険があると考えます。

mutaguchi @mutaguchi

個人的には、モデルやモデルの学習したデータセットの妥当性、合法性を根拠として、生成AIを肯定or否定するのは、モデル提供者がこれらの情報を伏せるようになってきた現状では、段々厳しくなってきたと感じる。 良くも悪くも、モデルではなく生成物で是非を決めるしか手段が無くなってきている感。

たかさと@メーカー勤務 @taka_sato_

①基盤モデル（Stable Diffusion 1.5）の学習セット（LAION-5B）にCSAM（児童ポルノ類）が含まれる 日本の児ポ法と判例を前提とした場合、これを以て生成AIモデルを違法とするロジックがまるでわからない。 私の認識ではそれだけでは違法とするには全く不十分だ。 どんな理屈によるのか教えてほしい。 x.com/mutaguchi/stat…

まっくろなねこ @blackcat009

updateが必要、というのは当然として、そもそも 「無断学習」ってなんぞや？ という話 そんな造語、反AIが無理やり捻り出した概念やし、「そもそもキミら自身は学習したことに対する対価払ってんの？」と言われれば終わる x.com/mutaguchi/stat…

土方ドカン @DOKATADOKANDOKA

確かに知識のアプデは必須ドカよなぁ 視野が狭まると先鋭あるのみドカもの ドカみたいなトーシロには正直ちんぷんかんぷんドカが、とりあえず真っ黒から灰まじりの黒ってのが、今のところ見解ってことなんドカかな〜？ どこまで濾過すれば飲めるかは、一つの着地点なんドカろうな x.com/mutaguchi/stat…

やばい人だった物 @yosiyosimanyosi

@DOKATADOKANDOKA 元から白ぞ 1の児ポだって多分海外基準だから二次元エロロリ絵も児ポだし、3はただタグ付けがガンギマリだから使ってるだけのはずだし まあ2は裁判次第で死ぬが()

土方ドカン @DOKATADOKANDOKA

@yosiyosimanyosi ドカはまだよくて灰色だとは思うドカが、これはどうしたって色眼鏡もあるドカから個人の考えドカよね もちろん白って言う人の理屈もわかるドカからね 多分日本人のいうジポと海外のジポは二時と三時で間違いなく齟齬あるドカよね ここら辺はまた未来でひと議論ありそうなんドカよな…

やばい人だった物 @yosiyosimanyosi

@DOKATADOKANDOKA この国基本的にブラックリスト方式(罪刑法定主義)の上明確な黒でも訴えなきゃ特に何も無いんで黒か黒だけど捕まって無い奴か黒じゃ無いものにしかならんのよね() 児ポはそのうちあっちが解禁すると思う 3次はともかく2次は規制するのは無駄ってなると思う

土方ドカン @DOKATADOKANDOKA

@yosiyosimanyosi ドカドカ、そこら辺は良くも悪くもグレーゾーンを生み出しやすいドカよね、ほんと良くも悪くもドカ ジポ解禁…ニジ規制無駄と思ってくれるならよいドカが…はてさてドカドカ 🚗🐉が流行るぐらいだから。そこら辺も厳しそうなイメージはあるドカね 人類みなエロスで世界平和は難しいドカな

やばい人だった物 @yosiyosimanyosi

@DOKATADOKANDOKA ドラゴンカーセックスは流行ってないぞ なんならAVにモザイクかけたりも無いんやであっちはうちと違って でも児ポは二次でも規制するらしい)

土方ドカン @DOKATADOKANDOKA

@yosiyosimanyosi え、ドラカーは流行ってないんドカ！？ 無効ならケモナー並みに市民権あるんだとばかり思ってたドカ うーん、ドカは正直モザイク文化は好きなんドカよな、面白いから しかしまあ、日本とは考え方が違うというか、やっぱり日本人は変態さん多いドカな

やばい人だった物 @yosiyosimanyosi

@DOKATADOKANDOKA 流行ってないぞ ネットの海は広い案件だぞ ケモナーよりマイナーのはず モザイクはない方がいいだろ(性癖論争)

土方ドカン @DOKATADOKANDOKA

@yosiyosimanyosi 流行ってないんドカか…（pixivでタグ検索しながら） ケモナーは日本だと一般性癖ドカ！（クソデカ主張） おっとモザイク性癖論争はAI以上に争いが激化する可能性があるからここで手打ちドカ🔲

やばい人だった物 @yosiyosimanyosi

@DOKATADOKANDOKA 200も無いだろなんならネタだろ淫夢みたいな ケモナーは空自に入隊してね♫(迫真) モザイク論争は止めよう()

入江泰浩@ハロウィン・パジャマ @IRICOMIX

基礎学習に児童ポルノ等の画像が使われていると報告された従来の生成AIを使ってるという事になると、漫画を海外で売るのは難しくなるから、手に入るならクリーンな生成AIは欲しいだろうね。ただ現状、世界のどこもそれを実現できてないのに日本が用意できたの？本当に？という流れかな。

入江泰浩@ハロウィン・パジャマ @IRICOMIX

「日本の法律上問題ないんですけど？」という意見もありますが、そりゃ日本国内だけで商売するならそれでもOKでしょうけど、漫画もアニメも海外での販売は外せないわけでそこ間違ったら総スカン喰らって終了。漫画やアニメは「見よう」というユーザーの気持ちが重要なんですから作った後が大事かなと

入江泰浩@ハロウィン・パジャマ @IRICOMIX

生成AIを開発研究展開する人にとっては日本は天国かもしれないけど、表現物を作る身としては今のままなら危なくて近寄らんとこ、って感じる。 x.com/BAN21273715408…

晴・ムーアペソローズ（本垢BAN中） @BAN212737154080

Q なぜ新規AIテックってAI生成物について責任を取らないのか？ 🅰️AI白書2023⬇️でそう勧めてるから（日本ディープラーニング協会協力） なんなら「開発者に負担させないことがユーザーにとっても合理的」とまで書いてある pic.twitter.com/DK3wPtZFpq

2024-04-01 14:38:09

入江泰浩@ハロウィン・パジャマ @IRICOMIX

こちらのポストにある取り組みによって、海外の漫画読者アニメ視聴者が生成AIを「問題なし」と感じるようになったなら、生成AIを使っても、これまで通り海外で漫画アニメを販売できると思いますね。 x.com/mutaguchi/stat…

入江泰浩@ハロウィン・パジャマ @IRICOMIX

今後、読者や視聴者はどのように思うんでしょうね。 私は絵コンテも原画も自分で描いた方が楽しいのと、「描くという工程でアイデアが浮かんでより良いものになる」のを知っていますから、自分の脳で考えて自分で描くことはやめないです。

入江泰浩@ハロウィン・パジャマ @IRICOMIX

ツリー最初のポストの「漫画を海外で売るのは難しくなる」を「児童ポルノが出力されるから輸出できない」との意味に受け取っている人がいました。 違います。 日本の漫画が「ブラックボックスを抱えた生成AIを使っていることへの忌避感」が高まると「売るのは難しくなる」という文脈です。

入江泰浩@ハロウィン・パジャマ @IRICOMIX

このツリーでは終始「読者や視聴者がどう考えるか」について書いています。 アニメや漫画は作ったら終わりではなく、読者や視聴者が手に取って見ることが必要です。内容の面白さ以外でそれが阻害されるのは避けたいですから。 生成AI自体の評判が悪いのであれば、避けざるを得ません。