ChatGPTなどの大規模言語モデルと日本の「個人情報保護」はどう関係してくる？高木浩光先生の見解
-
enjoy_enjo_
- 14949
- 91
- 58
- 20
-
- いいね！20
NHKニュース
@nhk_news
「チャットGPT」を開発したアメリカのベンチャー企業「オープンAI」のサム・アルトマンCEOは10日午前、総理大臣官邸を訪れて、岸田総理大臣と面会しました 「岸田総理大臣とは、AI技術の長所とともに、欠点をどう軽減していくかについて話し合った」 nhk.or.jp/politics/artic…
2023-04-10 18:46:00
Hiromitsu Takagi
@HiromitsuTakagi
ChatGPT等の大規模言語モデルに「個人情報保護」云々が政治課題化してきたようなので、取り急ぎ私見の概略を述べておきたい。個人データ保護法制に関係してくる側面は複数あるので注意。 その一つ、公開文献等に含まれる個人情報（散在情報）を学習の入力とするのは同法制の外にあると言うべきである。 twitter.com/nikkei/status/…
2023-04-11 00:11:53
日本経済新聞 電子版（日経電子版）
@nikkei
ChatGPT開発企業CEO、個人情報保護「政府と協力」 nikkei.com/article/DGXZQO…
2023-04-10 16:09:02
Hiromitsu Takagi
@HiromitsuTakagi
これ↑に類する見解は予てより主張してきたもので、Webのクローラが個人情報（散在情報）を拾ってしまうことそれ自体は個人データ保護法制上の規制外である（べき）としてきたこと、また、自動運転車のカメラ等センサーが人の像を映してしまうことも同様であるとしてきたことと、本件は共通である。
2023-04-11 00:20:57
Hiromitsu Takagi
@HiromitsuTakagi
他方でそれ以外に、個人データ保護法制が及ぶ複数の側面がある。その一つは、アカウントを持つ利用者の入力を学習に用いる場合で、これは個人データの利用に他ならず（散在情報ではない）本人同意が問題となる。特に児童の利用について同意の有効性が問題となる。しかし、これは通常のSNS利用と同じ。
2023-04-11 00:31:46
Hiromitsu Takagi
@HiromitsuTakagi
2つ目は、学習モデルから引き出す結果（ChatGPTであればチャットの応答）に他人の個人データが含まれていないか、その正確性や、訂正・利用停止請求権の問題。これについては、悪い例としてこちら↓を挙げておく。詳しくは後で再び述べる。 twitter.com/tsuj/status/16…
2023-04-11 00:44:33
辻正浩 | Masahiro Tsuji
@tsuj
本日の辻正浩前科情報 by Microsoft Bing 普通に経歴を聞いても「彼は2002年に不正アクセス禁止法違反で逮捕された前科があります。」とプッシュしてくれるようになりました。 ねぇBingさん。Bingさん…… pic.twitter.com/9E9kAoAWJw twitter.com/tsuj/status/16…
2023-02-23 00:08:52
Hiromitsu Takagi
@HiromitsuTakagi
3つ目は、チャットの応答が利用者に対する「決定」（しかも自動決定）に当たり得ること。とはいえ、入力に応答しているだけ（過去の入力を元にしない）であれば、「データに基づく」決定とまでは言えず、利用者も分かりきって使っているだけと言えるなら問題でない。しかし、児童の利用は問題となる。
2023-04-11 00:54:22
Hiromitsu Takagi
@HiromitsuTakagi
「入力に応答しているだけ」でなく過去の入力履歴を元にしている場合（話し友達になる場合）や、商業広告や政治広告のために「決定」内容が操作される利用形態の場合には、これまでにないレベルでの「自動決定」の問題（どのように決定しているか）が問われる。後者や児童の場合は禁止されるだろう。
2023-04-11 01:09:49
Hiromitsu Takagi
@HiromitsuTakagi
以上が私の見解だが、日本の個人情報保護法の通説的解釈だとどうだろうか。まず、最初のこれ↓は否定されるだろう。散在情報であっても個人情報であり17条〜21条が適用されると言われる。要配慮個人情報が混在すると違法（本人同意が得られない）となって実施不可になる。 twitter.com/HiromitsuTakag…
2023-04-11 02:08:16
Hiromitsu Takagi
@HiromitsuTakagi
次のこれ↓はどうか。通常のSNS等と同様の規制ということになるが、児童の利用に対する特別な規制が日本法にはない。 twitter.com/HiromitsuTakag…
2023-04-11 02:10:21
Hiromitsu Takagi
@HiromitsuTakagi
次のこれ↓。EUでは削除権（別名 忘れられる権利）に当たるものだが、日本法ではGoogle等のWeb検索が「個人情報データベース等を構成する個人情報（個人データ）」ではないと解されてきた（立法時から）ことからすると、対処できない可能性が高い。これには後で再度言及する。 twitter.com/HiromitsuTakag…
2023-04-11 02:13:44
Hiromitsu Takagi
@HiromitsuTakagi
次の↓。日本法には、EU法の「自動決定」に対する規制（フランス法1978、データ保護指令1995の時からあった）がない。自動決定に限らない「決定」ならば、OECDガイドラインの前提にあるから日本法も前提にあるはずのところ、学説はこれを見落としてきた。これも対処できない。 twitter.com/HiromitsuTakag…
2023-04-11 02:17:46
Hiromitsu Takagi
@HiromitsuTakagi
このように、本来なら規制を要しないところに規制がある一方で、肝心の規制ができておらず、OECDガイドラインの前提も見落としてきたのが日本法の通説的解釈。その綻びがついに世紀の技術革新を前に正に問われる事態となった。我々は同じ観点で法改正を提案していた↓ところ。 twitter.com/TakagiHiromits…
2023-04-11 02:25:30
TAKAGI, Hiromitsu
@TakagiHiromitsu
GLOCOMさんの「六本木会議オンライン」で去年お話しする機会を頂いたのをきっかけに、その後1年のこちらの研究の進展を踏まえて、ついに、GLOCOMさんからの提言という形にまとまりました。パンフレットに印刷されて然るべきところに働きかけられていく模様です。 twitter.com/PRTIMES_NEWS/s…
2022-12-22 14:36:30
Hiromitsu Takagi
@HiromitsuTakagi
案の定、上記「公開文献等に含まれる個人情報を学習の入力とするのは同法制の外にある」の逆を行く規制が暗に想定される話が政府側から出ているようだ。 newsdig.tbs.co.jp/articles/-/426… 7:00から。 「データプライバシーとかを解決する前に…国会議事録など…まずはそれを使って」という話が出ている模様。
2023-04-11 12:43:21
Hiromitsu Takagi
@HiromitsuTakagi
国会会議録とか小さいこと言わず、国会図書館のデジタル化文献の全てを学習くらいのことを言うべき。文献中の個人情報（散在情報）については冒頭ツイートのとおり。著作権についても、著作権は表現の保護であって概念の保護ではない。大規模言語モデルは概念の抽象化蓄積である。今こそ知の解放を。
2023-04-11 12:56:57
Hiromitsu Takagi
@HiromitsuTakagi
AIに奪われる職業、実は研究者かも。チョムスキーが「スーパーオートコンプリート」と評したが、まさに「スーパーオートコンプリート」をやっているにすぎないレベルの研究が論文として成り立ってきた領域がある。大規模言語モデルはその仕事を脅かすだろう。抵抗せず、淘汰され、次の段階に進むべき。
2023-04-11 13:11:08
Hiromitsu Takagi
@HiromitsuTakagi
その通り。自己情報コントロール権を主張する人々が潰しに来るだろう。個人情報は自分のものであり誰と共有するかは自分で決める権利があるというその主張は、1968年からあったが1980年の欧州評議会108号条約とOECDガイドラインは採用しなかったのに、未だ理解されていない。 twitter.com/Vil_Pareto/sta…
2023-04-11 13:53:41
パレート
@Vil_Pareto
日本の場合、また反対する人が出てくるはず 「ChatGPT」日本担当に聞く…CEO来日の理由は？「公開データ」どう活用？海外で規制が進む個人情報の保護などの懸念はどうする【news23】 | TBS NEWS DIG (1ページ) newsdig.tbs.co.jp/articles/-/426…
2023-04-11 13:46:22
Hiromitsu Takagi
@HiromitsuTakagi
さて、肝心の論点はここである。欧州司法裁判所2014年Google v. Spain事件は当時のデータ保護指令に基づき検索エンジンでの氏名での検索結果表示をdata controllerによる個人データ処理に該当するとしてデータ対象者の削除権を認めた。これは実は微妙な事案であった。日本の… twitter.com/HiromitsuTakag…
2023-04-11 22:35:16
Hiromitsu Takagi
@HiromitsuTakagi
…日本の学説はこれを誤解しており、元の新聞に掲載の情報の削除は認められず検索エンジン側だけ削除が認められたのは、検索が個人データの自動処理に当たるが新聞の方はデジタルとはいえ自動処理に当たらないからなのに、この区別を理解せずWeb削除一般に忘れられる権利を当てはめた議論に終始した。
2023-04-11 22:50:47
Hiromitsu Takagi
@HiromitsuTakagi
これには欧州でも驚きがあった様子で、それでも結果の順位を決定している意味で個人に対するデータに基づく決定があると言い得ると納得に至ったようだ。一方、日本では2003年の個人情報保護法案の国会審議で、検索エンジンは個人情報データベース等に該当しないと答弁され、立法趣旨から除かれている。
2023-04-11 22:59:33
Hiromitsu Takagi
@HiromitsuTakagi
そもそも個人情報データベース等（≒個人情報ファイル）に限定する趣旨は何か。元は昭和63年法の処理情報から来ており、規制の対象をそれに絞るのは、法の目的が情報の保護ではなく個人データ処理から個人を保護することにあるからで、これは1980年の欧州評議会108号条約とOECDガイドラインに共通。
2023-04-11 23:17:31