「成田悠輔 × 落合陽一」対談 「ChatGPTの進化と今後の日本」の感想 ――「デジタルネイチャー」のゴリラは、炎上した森の夢を見るか？

しろうと @sirouto

つまり、ガラパゴス化した既存の学校教育　【　から　】　才能がある少数の子供を、隔離して育てる必要がある。少子化なのだから、「砂金」を探すように、少数精鋭の教育が必須。さもないと、国全体が沈み、みんな貧しくなる。現になってる。それが嫌なら、砂金を集めるべき。

しろうと @sirouto

＞・AIには権威がないので、そこに人間の役割が残りそう

しろうと @sirouto

AIの「UI」として、人間は必要。人間にとって、人間が一番わかりやすいから。たとえば映画には、多くの人間が関わるけれど、「映画監督」という代表がいることで、表現の意図を読み取れる。いくらAIが自動で動画を大量生成しても、「見せる意図」がなければ、「見る価値」もない（ポルノは別？）。

しろうと @sirouto

「権力」と「権威」は、別々に考えるべき。しばしば利権に結びつく、政治家の裁量的な判断を、AIに置き換えていくことで、クリーンな政治にするのは良いと思う。が、それとは別に、人間の権威とは分離しておくべき。なぜか？

しろうと @sirouto

中身は「統計マシン」の生成AIを、利用者がすでに擬人化し過ぎていると感じる。「ChatGPTが嘘を言う」とよく言われるが、今まで「検索エンジンが嘘を言う」という表現はしてこなかった。検索エンジンは、あくまで中立な道具だったから。それなら生成AIでも、中立な方が良いと思う。

しろうと @sirouto

どうして生成AIに「中立性」が必要かといえば、権威や信用にはそれと対で、責任や義務が発生するし、しないとまずいから。生成AIは、責任主体ではないので、「無責任」な匿名の一般論として聞くべき。つまり、匿名の意見を過度に信用しないのと同じこと。

しろうと @sirouto

＞・人間に求められるスキルは、人間的なもの

しろうと @sirouto

最後の4つ目で、総合していこう。成田氏は、ネットでの炎上を鎮火する側にAIが回ればいい、という趣旨の発言をされた。生成AIの仕組み的に、確率的に平均化するので、それが筋が良い使い方だと私も思う。あと、陰謀論に対するチェックとか。ただそれは、批評や権威というより、観客や審判に近い立場。

しろうと @sirouto

一方の落合氏は、AIが発展することで、人間は「デジタルネイチャー」の中の「ゴリラ」のような存在になっていく、という趣旨の発言をされている。非常に印象的な比喩だが、初見の人には文脈が分かりにくいと思うので、勝手に解釈してみよう。

しろうと @sirouto

私の言葉で言い換えると、AI時代の人間は、「ゲーム」の中の「プレイヤー」になっていくのだと思う。ゲームという言葉で、何が言いたいかというと、リアル世界の複雑性を制限する仕組みがある、ということ。

しろうと @sirouto

落合氏は別の場所で、「デジタルネイチャー」を説明する具体例として、「霧が出た道路でも、カーナビで誘導してくれるから走れる」という例を挙げておられる。これも、私から見ると、「ゲーム化」の装置に見える。

しろうと @sirouto

ボードゲームでは、現実世界の地形などは、よく捨象される。将棋や囲碁に、盤上での行き止まりはない。もちろん、山や川などの行き止まりや、移動コストの概念があるSLGもあるだろう。どこまで現実を捨象するかが、ゲームの本質。

しろうと @sirouto

たとえば、政府が「フードクーポン」を貧困層に支給し、自動運転車がそのクーポンに応じて食料を配給する、という低コストな福祉の仕組みは、技術的にはもう可能な域だろう。ほかには、公営住宅を3Dプリンターで作るだとか。

しろうと @sirouto

そういう風に、テクノロジーで現実の制約を緩めて、人間が好き勝手に行動できるようにするのが、今回の「デジタルネイチャー」を動き回る「ゴリラ」の話なのだと解釈した。私の言葉だと「ゲーム化」、または「ゲーミフィケーション」。

しろうと @sirouto

「ゴリラ」というのは、「人間の動物性」の側面を強調したものだろう。落合氏は、「ノンバーバル（非言語的）」で「ノンリニア（非線形的）」なものだという。関連して、「歌舞伎」だとか、「孔雀の羽根」というたとえも挙げられていた。

しろうと @sirouto

最後にあえて、逆の視点で見ると、人間は「動物的」というより、むしろ純粋に言語的な「幽霊的」な存在になっていく、と私は見ている。なぜなら、AIとデジタルネイチャーの支援があれば、「HP（体力）が減って、物理的に倒れる」ことが、ほとんどなくなるのだから。

しろうと @sirouto

ただそこで、人間が幽霊化すると、「無敵の人」や「炎上」の問題は出てくる。ネットだと物理的に殴られたりする可能性がほぼないので、無敵になり、ブレーキが効かないから、炎上が続くということになる。ただそれがあまりに行き過ぎれば、言いたいことも言えない「クソゲー」社会になる。

しろうと @sirouto

幽霊は殴れない。そこで、幽霊も「MP」（ここでは社会的信用）が減少すると倒れる、というルールが必要で、それが政府の法規制や、SNSプラットフォームによる凍結や追放、あるいは「信用スコア」などの新たな仕組みだったりする。陰謀論が政治に与える影響を考えれば、今の社会に必要な仕組みだろう。

しろうと @sirouto

そこでのAIは、プレイヤー側でなく、ゲームシステム側に回る必要がある。なぜならもし、AIがプレイヤーになると、ゲームのインフレが、簡単に起こるからだ。たとえば、AIを使い、百人で百万人分の書き込みを工作して、世論誘導するとか。

しろうと @sirouto

どうやれば、AIか人間か判断できるのか？　それを判定するAIもあるが、すぐに新AIといたちごっこになるだろう。そこで、「マイナンバー」だとか、人間を特定する仕組みが必要になってくる。

しろうと @sirouto

「幽霊」から「匿名」、さらにSNSの話が出てきたが、元々の対談の文脈を脱線してしまうので、これ以上は掘り下げない。簡単にまとめると、人間社会をゲーム化したり、そのゲームのルールを決めるのに、AIが活用できる、という話だ。

しろうと @sirouto

――といった所で、そろそろ終わります。AI時代の社会を考える、きっかけになれば幸いです。お読み下さった方は、ありがとうございました。