柿沼太一弁護士による「わいせつ画像を出力する可能性が高いAIモデルを公開・提供したりした場合はわいせつ物頒布等罪（刑法175条）に該当するか」という考察

柿沼　太一 @tka0120

わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供する行為は、わいせつ物頒布等罪（刑法175条）に該当するか。 ＊以下日本法を前提とします。

柿沼　太一 @tka0120

まず、前提として、刑法犯には、①「犯罪を自ら直接実現する」（「正犯」）、②「正犯をそそのかして犯罪を実行させる」（「教唆犯」）、③「正犯による犯罪の遂行を援助・補助する」（幇助犯）があります（「正犯」には2人以上共同して犯罪を実行する「共同正犯」もあるのですが、割愛します。）。

柿沼　太一 @tka0120

で、刑法175条は「わいせつな文書、図画、電磁的記録に係る記録媒体その他の物」について「頒布し、又は公然と陳列」したり（同条1項）、販売目的で所持する行為（同条2項）を「わいせつ物頒布等」として処罰対象にしています。

柿沼　太一 @tka0120

以上からおわかりのように、この問題については、AIモデルの公開・提供等が、わいせつ物頒布等罪の「正犯」に該当するか、と「幇助犯」に該当するかを区別して議論する必要があります。

柿沼　太一 @tka0120

1　わいせつ画像を出力する可能性が高いAIモデルを公開・提供したり、同モデルを利用したサービスを提供することは、わいせつ物頒布等罪の「正犯」に該当するか。

柿沼　太一 @tka0120

この点については、わいせつ画像を出力する可能性が高いAIモデルが「わいせつな文書、図画、電磁的記録に係る記録媒体その他の物」に該当するかが問題となります。

柿沼　太一 @tka0120

刑法は刑事罰という重大な制裁をもたらすか否かのルールですので、その解釈は厳密である必要がありますが、「わいせつな画像を出力する可能性が高いAIモデル」が「わいせつな文書、図画、電磁的記録に係る記録媒体その他の物」に該当するというのは、日本語からするとかなり無理があると思います。

柿沼　太一 @tka0120

また、性的秩序・風俗を保護するという見地からは、「わいせつな文書、図画、電磁的記録に係る記録媒体その他の物」というのは、それらの文書等に接した人間が、当該文書等のわいせつ性を認識できる必要があります。 わいせつ性を認識できなければ性的秩序・風俗は害されないからです。

柿沼　太一 @tka0120

しかし、AIモデルの場合は、モデル内にわいせつ画像が蓄積されているわけではないので、人間がAIモデルに接したとしても、わいせつ性を認識できません。 したがって、その意味においてもAIモデルが「わいせつな文書・・」に該当すると解釈することはできないと思います。

柿沼　太一 @tka0120

ちなみに、面白い判例がありまして、「わいせつ画像にマスク処理がされていても、マスク外しによりマスクを取り外した状態の画像を復元・閲覧しうる場合」に、「マスク処理した画像」が「わいせつな文書・・」に該当することを認めた裁判例があります（岡山FLマスク事件・岡山地裁平成9年12月15日）。

柿沼　太一 @tka0120

しかし、この事件は、元になるわいせつ画像が存在し、当該わいせつ画像について、誰でもが容易にマスクを外して閲覧できる状態になっていた場合に、マスク処理した画像のわいせつ物性を認めたに過ぎません。

柿沼　太一 @tka0120

AIモデルの場合は、モデル内にわいせつ画像が蓄積されているわけではありませんから、この判例を前提にしても、やはりモデルが「わいせつな文書・・」に該当すると解釈することはできないと思います。 以上より、AIモデルの公開等は、わいせつ物頒布等罪の「正犯」には該当しないと考えます。

柿沼　太一 @tka0120

2　刑法175条の「幇助」に該当するか 次に、AIモデルの公開等が刑法175条の「幇助犯」に該当するか、です。 「幇助犯」は「正犯」の存在を前提としますので、「AIモデルの開発」や「AIモデルの頒布」だけで即「幇助犯」に該当することはありません。

柿沼　太一 @tka0120

「AIモデルを使ってわいせつ画像を生成した奴（正犯）が、当該わいせつ画像を頒布等した」場合に、初めて当該AIモデルを頒布した者の「幇助犯」成立の有無が問題となります。

柿沼　太一 @tka0120

各犯罪において、どのような行為が「幇助犯」に該当するかは、法律上明文規定はありませんが、刑法犯において「ある犯罪行為の実現に利用可能なツールを頒布する行為」の「幇助犯」該当性が問われた有名な事件にWinny事件があります（最高裁平成23年12月19日決定）。 courts.go.jp/app/hanrei_jp/…

柿沼　太一 @tka0120

簡単に紹介すると「適法用途にも著作権侵害用途にも利用できるファイル共有ソフトWinnyを、インターネットを通じて不特定多数の者に公開，提供し，正犯者がこれを利用して著作物を違法にアップロードした場合」に、当該Winnyを公開・提供する行為が著作権法違反の「幇助犯」に問われた事件です。

柿沼　太一 @tka0120

刑法175条が問題となった事件ではありませんが、著作権法違反（これも刑事罰が科される行為です）の幇助犯該当性が問題になった事件ですのでかなり参考になります。

柿沼　太一 @tka0120

Winny事件は、第1審（京都地裁）は有罪、第2審（大阪高裁）は無罪、最高裁も無罪で（ただし大阪高裁と最高裁とでは無罪の理由が異なる）、最高裁の無罪判決には反対意見が付されるなど、裁判官の間でも判断が分かれた事件です。

柿沼　太一 @tka0120

このように判断が分かれたのは、Winnyというツールが、いわば「価値中立的なソフト」であったが故と思われます。

柿沼　太一 @tka0120

「価値中立的」というのは、Winnyが、適法な用途にも，著作権侵害という違法な用途にも利用できるソフトであり，これを著作権侵害に利用するか，その他の用途に利用するかは，あくまで個々の利用者の判断に委ねられている、という意味です。

柿沼　太一 @tka0120

わいせつ画像を出力する可能性が高いAIも、Winnyと同じように「価値中立的なソフト」と言えるのではないかと思います。 理由は2つありまして、まず、①　それらのAIを使ったとしても、狙ってわいせつ画像を100％生成することはできないこと、です。

柿沼　太一 @tka0120

また、むしろこちらの理由の方が説得的だと思うのですが、②　それらのAIを利用してわいせつ画像を出力したとしても、それらの画像を公開・頒布せず、あくまで個人で私的にローカルに楽しむだけであれば、犯罪には該当しないこと（「頒布」や「販売目的所持」が行われていないため）です。

柿沼　太一 @tka0120

で、Winny最高裁判決は、このような「価値中立的なソフト」の提供が著作権侵害の幇助犯に該当する場合として2つのパターンを示しています。

柿沼　太一 @tka0120

（1）　パターン1 　ソフトの提供者において，当該ソフトを利用して現に行われようとしている具体的な著作権侵害を認識，認容しながら，その公開，提供を行い，実際に当該著作権侵害が行われた場合

柿沼　太一 @tka0120

これは、具体的な侵害行為をツール提供者が認識している場合、ですから、AIモデルの提供の場合は、まず該当しないと思います。実際、Winny事件においても、Winnyの提供者の行為は、このパターンには該当しないとされています。