国会図書館が禁止した「児童ポル丿」を画像生成AIが学習してたことが判明

【判明】生成AI、児童ポルノ画像を学習か専門家「被害者の人権侵害恐れ」 news.livedoor.com/article/detail… データの中にはほかにも児童の裸の画像が複数あった。ネットから収集する過程で紛れ込んだとみられる。学習する際、違法画像を取り除くフィルター機能があるが、排除しきれていないという。 pic.twitter.com/MkNOUe8gup

2024-03-21 09:34:26

拡大

リンクライブドアニュース生成ＡＩ、児童ポルノ画像を学習か…専門家「被害者の人権侵害恐れ」 - ライブドアニュース国立国会図書館が、違法な児童ポルノの恐れがあるとして閲覧を禁じた写真集。画像生成AIの学習に使われる画像データの中に一部が含まれていると分かった。専門家は「被害者の人権を侵害していることになりかねない」と述べている

okumuraosaka @okumuraosaka

少し前まで国会図書館で閲覧謄写できた国立国会図書館が「違法な児童ポルノの恐れがある」として閲覧を禁じた写真集の一部が含まれていることがわかった。データの中にはほかにも児童の裸の画像が複数あった。生成ＡＩ、児童ポルノ画像を学習か…専門家「被害者の人権侵害恐れ」(読売新聞オンライン) #Yahooニュース news.yahoo.co.jp/articles/5b865…

2024-03-21 10:06:56

洋介犬 @yohsuken

画像生成AIの訓練に「児童ポルノ」が使用されていたことが発覚　(Forbes JAPAN) #Yahooニュース news.yahoo.co.jp/articles/fc829…

2024-01-07 07:47:32

リンク Yahoo!ニュース画像生成AIの訓練に「児童ポルノ」が使用されていたことが発覚（Forbes JAPAN） - Yahoo!ニューステキストから画像を生成する人工知能（AI）ツールの「Stable Diffusion」が、膨大な量の違法な児童の性的虐待画像を使って訓練されていたことがスタンフォード・インターネット・オブザーバトリ 12

百草丸 @B4xMx

スタンフォード大LAION-5BのCSAM問題はこの記事が分かりやすかった。日本のジュニアアイドルも該当するというから二次元エロも該当するかと想像してたけど、そうでもないらしい qiita.com/__dAi00/items/…

2024-03-16 10:33:31

リンク Qiita スタンフォード大学はいかにしてLAION-5Bから1008件のCSAMを検出したか - Qiita 概要2023年12月20日、Stable Diffusionなどの有名な画像生成AIが学習に利用しているオープンデータセットであるLAION-5Bに1008件のCSAM（Child Sexual … 1 user

劔城藍 @ai_tsurugi

CSAMは日本では言葉遊びに的に攻撃手段として使われてる児童ポルノ（二次エロ絵）の類ではなく、ガチの性虐待の記録物を指してる事は何度も言っておきたい。

2024-01-10 09:54:15

💫T.Katsumi📢 #FreePalestine 🇵🇸 @tkatsumi06j

たとえば，TOC条約立法ガイドのパラ26の訳で私は「児童性虐待記録物」という表現を使ったが，これは従来日本では「児童ポルノ」とされていた表現の"適正化された表現"だ。ICPOが採用し，人権界ではこれが「定訳」となった。 twitter.com/tkatsumi06j/st…

2017-06-27 13:07:12

💫T.Katsumi📢 #FreePalestine 🇵🇸 @tkatsumi06j

@Nakayokujp0504 @hiroshimilano ➡これは，金銭的目的ではない，性的目的のための人身取引や児童性虐待記録物の売買を行う組織が除外されないようにするための措置である（A/55/383/Add.1, パラ3)。 ― 以上が，TOC条約『立法ガイド』第26パラの全文である。

2017-06-26 02:48:42

💫T.Katsumi📢 #FreePalestine 🇵🇸 @tkatsumi06j

「定訳」となれば，あとは固定で使うのみだ。ただし，「児童性虐待記録物」は長い。だから原文"child sexual absuse material"の正規略称である"CSAM"を使う。その後はCSAMで表記するのだ。（参考） togetter.com/li/1024706

2017-06-27 13:08:08

💫T.Katsumi📢 #FreePalestine 🇵🇸 @tkatsumi06j

ただ「児ポ法」と「児童ポルノ」の定義だけは，ICPOの推奨に従って今後はCSAMもしくはCSEM（児童性搾取記録物）を使用するよう「児童性虐待及性搾取記録物禁止法」と改名してほしい。立憲民主党にはこの法改正ぜひ目指してほしいものだ。 togetter.com/li/1024706

2017-10-18 17:15:29

ICHIRO KURATA @khurata

「児童ポルノ」などという、国際的には時代遅れな言葉の定義で法律を作り運用しているからこうなる…ICPO は CAM もしくは CSAM と言え、と何年も前から提唱している。 x.com/yukinoko811/st…

2022-12-15 18:39:11

神崎ゆき @yukinoko811

……恐ろしいことに、平成22年9月の高松高等裁判所では『六歳女児の頭に射精した性暴力写真』が「児童ポルノに該当しない」という判決が下されました。被害者の存在が明確な写真なのに、児童ポルノとして取り締まれないのです。実在児童への性暴力写真に関する請願：参議院 sangiin.go.jp/japanese/joho1…

2022-12-15 18:02:07

ICHIRO KURATA @khurata

ついでに…「児童ポルノ」という語を避けるべき理由は interpol.int/Crimes/Crimes-… に書かれている。要約すると「ポルノとは『広く配布される合意に基く性的行為表現』であるが、CAM/CSAM はあくまで虐待でありポルノに該当しない」。つまり CAM/CSAM を児童「ポルノ」と呼ぶと問題が過小化されかねない。

2022-12-17 23:36:39

未識🐟 C103 31日西へ-36b @mishiki

あなたは知らないかもしれないけど、2008年頃にCSAM概念を日本に持ち込んで児童ポルノを切り分けろという議論を始めた一人が私です。 x.com/squaremania/st…

2021-10-20 16:09:18

鏡屋譲二 @squaremania

日本共産党の「児童ポルノの定義を児童性虐待描写物に改めるべき」という主張は「わいせつ性よりも児童への被害の重大性を評価する必要がある」という話で、実は今より”実在児童”の存在を重要視する主張なのです。 jcp.or.jp/jcp_with_you/2… x.com/mishiki/status…

2021-10-20 16:05:01

リンク ITmedia NEWS 画像生成AIが「トレパク」していた？学習画像と“ほぼ同じ”生成画像を複数特定米Googleなどが調査米Google、米DeepMind、スイスのETH Zurich、米プリンストン大学、米UC Berkeleyに所属する研究者らは、テキストから画像を生成する拡散モデルが学習データとほぼ同じ画像を生成していたことを実証した研究報告を発表した。 148 users 81

内藤時浩 @NAITOTokihiro

えええええ!? 1枚目ですが、自分でも自分に見えるんですけど！なんだこれ！？！？！？ x.com/sogitani_baigi…

2023-05-10 16:58:32

sogitani / baigie inc. @sogitani_baigie

Stable Diffusionは2次元や美少女がテーマのモデルは無数に存在し、それらを生成するのは難しくない。難しいのは「普通のおっさん」の生成。ドラマに出てきそうな浮世離れしたイケおじではなく、そこら辺にいそうな普通のおっさん。そんな難題に挑戦した私の成果物がこちら。おっさん作るのムズイ。 pic.twitter.com/p7F5kCP8yo

2023-05-10 08:06:55