柿沼太一弁護士による「わいせつ画像を出力する可能性が高いAIモデルを公開・提供したりした場合はわいせつ物頒布等罪（刑法175条）に該当するか」という考察

柿沼　太一 @tka0120

（2）　パターン2 （前略）同ソフトを入手する者のうち例外的とはいえない範囲の者が同ソフトを著作権侵害に利用する蓋然性が高いと認められる場合で，提供者もそのことを認識，認容しながら同ソフトの公開，提供を行い，実際にそれを用いて著作権侵害（正犯行為）が行われた場合

柿沼　太一 @tka0120

この判示のうち「同ソフト」を「AI」、「著作権侵害」を「わいせつ物頒布等罪」と読み替えると 「AIを入手する者のうち例外的とはいえない範囲の者が同AIをわいせつ物頒布等罪に利用する蓋然性が高い」といえるかどうかが、今回の問題で「幇助犯」が成立するか否かの1つのポイントになりますね。

柿沼　太一 @tka0120

ちなみに、Winny事件最高裁判決は、「本件当時のＷｉｎｎｙの客観的利用状況を正確に示す証拠はない」としつつ、「Ｗｉｎｎｙのネットワーク上を流通するファイルの４割程度が著作物で，かつ，著作権者の許諾が得られていないと推測されるもの」だったことを1つの根拠として、

柿沼　太一 @tka0120

「例外的とはいえない範囲の者」が「著作権侵害に利用する蓋然性が高」かったと認定しています。

柿沼　太一 @tka0120

先ほど述べたように、わいせつ物頒布等罪が成立するためには、わいせつ画像を生成しただけでは足りず、生成したわいせつ画像を頒布したり販売目的所持することが必要です。

柿沼　太一 @tka0120

したがって、①　AIを入手した者のうち、わいせつ画像を生成する人がどれくらいの割合いて、さらに②わいせつ画像を生成した人のうち、どのくらいの割合の人が当該わいせつ画像を頒布等するかが問題になりますが、

葦ノ葉(あしのは) @AshinohaTW

面白い考察 twitter.com/tka0120/status…

柿沼　太一 @tka0120

わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供する行為は、わいせつ物頒布等罪（刑法175条）に該当するか。 ＊以下日本法を前提とします。

2022-12-10 16:46:47

むらかみふくゆき Fukuyuki @fukuyuki

なるほど。 twitter.com/tka0120/status…

おぎ個人開発ハマり中 @dec_ember1st

勉強になる twitter.com/tka0120/status…

岡部典孝　JPYC代表取締役 @noritaka_okabe

そのまま学校の試験に出てきそうな問題。 twitter.com/tka0120/status…

にゃんたこす @nyantacos

ジョン・サールの「中国語の部屋」みたいな話だな。 twitter.com/tka0120/status…

柿沼　太一 @tka0120

しかし、AIモデルの場合は、モデル内にわいせつ画像が蓄積されているわけではないので、人間がAIモデルに接したとしても、わいせつ性を認識できません。 したがって、その意味においてもAIモデルが「わいせつな文書・・」に該当すると解釈することはできないと思います。

2022-12-10 16:46:52

西脇 純平@AIカンパニー @nisiwako

わいせつ画像をつくれるAIを提供したら違法になるか？というお話。お絵描きAIの著作権などもそうですが、法整備がどう進むかはドキドキ twitter.com/tka0120/status…

𝕏 𝕗𝕦𝕜𝕒𝕟𝕛𝕦 𝕏 ふかんじゅ(不観樹 露生)@岡山🍥 @fukanju

なるほど。なかなか面白いスレッド考察だった。 わいせつ画像を教師データとして教育されたお絵描きAIは違法となりうるかどうかという観点。 twitter.com/tka0120/status…

guldeen(五十肩悶絶中) @guldeen

長い連ツイだが、現状は『包丁』扱い(適切な使用範囲なら取締られる事はない)って事ね。そも人間ですら『わいせつ性の判断』はブレるし、機械が自主的に判別できるハズもない(砂漠の写真とヌードのAI混同例があるし) / “柿沼　太一 on Twitter: "わいせつ画像を出力する可…” htn.to/4d3rZzxZF9

filinion @filinion_es

AIでわいせつ画像を出力して頒布したら犯罪だろうが、AIそのものが違法にはならない。絵筆と同じだ。 / “柿沼　太一 on Twitter: "わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供する行為は、わいせつ物頒布等罪（刑法1…” htn.to/FmQ93gvQAp

乙です〜 @deep__wreck

柿沼先生が連ツイで猥褻画像を出力する可能性が高いAIモデル配布や利用について、法律家視点での見解を紹介。 ここではAIサービスや利用の是非が明快に論じられているが、もう一つ、「猥褻の定義は時代により変遷する」ことと、それが全体的には緩和方向に進んでいる点も付け加えたい。 twitter.com/tka0120/status…

かずや１８歳💉 💉💉💉💉たけのこ派 @kazuya78

AIが出力した画像をわいせつ画像と認定出来るのかの時点ですでに壁がありそうな気がする twitter.com/tka0120/status…

レレナ @rerena_dicorble

チェックポイントファイル自身がエロいってのはないし。確かにモデルが猥褻って言うのは無理筋。 twitter.com/tka0120/status…

柿沼　太一 @tka0120

刑法は刑事罰という重大な制裁をもたらすか否かのルールですので、その解釈は厳密である必要がありますが、「わいせつな画像を出力する可能性が高いAIモデル」が「わいせつな文書、図画、電磁的記録に係る記録媒体その他の物」に該当するというのは、日本語からするとかなり無理があると思います。

2022-12-10 16:46:51

naoya2k @naoya2k

「AIモデルの場合は、モデル内にわいせつ画像が蓄積されているわけではありません」と言うが画像自体ではなく線と塗りつぶしの座標データしか格納されていなかった1985年のゲームのようなソフトが出力する画像はわいせつ画像ではなかったのだろうか。出現確率の問題だったら何%くらいからがダメなのか twitter.com/tka0120/status…

mohno @mohno

「AIモデルの場合は、モデル内にわいせつ画像が蓄積されているわけではない」←んー、でも、“学習”させているのでは。猥褻画像を暗号化して保存したら大丈夫とかあるの？ / “柿沼　太一 on Twitter: "わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モ…” htn.to/3ATEwrQJkf

まさしき🚑🦅⚔🐶🎈 @enj0u

モデル内に蓄積されてると考えられるようなモデルを作ったらどうなるんだろう。それらの区別は出来るのかな twitter.com/tka0120/status…

柿沼　太一 @tka0120

AIモデルの場合は、モデル内にわいせつ画像が蓄積されているわけではありませんから、この判例を前提にしても、やはりモデルが「わいせつな文書・・」に該当すると解釈することはできないと思います。 以上より、AIモデルの公開等は、わいせつ物頒布等罪の「正犯」には該当しないと考えます。

2022-12-10 16:46:54