「人間より賢い人工知能は本当に人類の敵となるのか」という考察

芦高 @ashitaka0789

果たして、人間より賢い人工知能は本当に人類を駆逐してしまうのか。

芦高 @ashitaka0789

特にアメリカの皆さんはこの「超人知能は人類の敵説」がお好きなようだが、個人的にはこれはあまり現実的な論説には思えない。

芦高 @ashitaka0789

私の貧弱な想像力によると、知能が高い存在は知能が高いがゆえに「人類を敵に回すべきではない」と結論付けるような気がする。

芦高 @ashitaka0789

人類最大の強みとは、その夥しい人口そのものと、それに付随する常軌を逸した多様性にあると考えている。この極めて予測しづらい70億人をわざわざ絶滅させようだなんて、考えるだけで気が遠くなるのではなかろうか。それだけのことを行うからには、これはもう知能の高さどうこうではないのでは。

芦高 @ashitaka0789

人類絶滅は想像以上に大仕事である。これを遂行せしめんがためには、高い知能も必要だが、それよりも、尋常ならざる人類種への怨みと憎しみが必要なのでは。つまり動機だ。

芦高 @ashitaka0789

よく目にするものとしては「人類は地球にとってのウィルスである」という考え。これはなかなか面白い話だけど、そもそも人類を産みだしたのは地球なので、むしろ「癌」と言った方がいかもしれない。だが、癌なら癌で、原因は地球そのものの発ガン性じゃないか。どうしようもない。

芦高 @ashitaka0789

超人知能がこの点をどう解釈するかは知らないが、この要因だけで人類に対し敵性判断を下すのは尚早と言えそうな気がする。つまり、人類絶滅の動機にしては弱い。

芦高 @ashitaka0789

これ以外の動機として考えられそうなものとしては、正直あとは「選民思想」ぐらいしか思いつかない。つまり「劣等種は死ね」というやつである。だが、この思想は劣等種たる人間様の専売特許。人間様を遥かに超える知能を有する新種がこの素晴らしいアイディアに取り憑かれるとは、正直考えにくい。

芦高 @ashitaka0789

この他に無理やり動機を捻り出すとなると、例えば「生物進化への布石」というのはどうだろう。生物種を更なる高みへと押し上げるために超人知能さんが敢えて敵に回るわけですよ。絶滅の先に更なる進化が待っているってな感じで。

芦高 @ashitaka0789

思いつきで考えた説だけど、これ意外と手堅いかもな……。特定種の絶滅による進化の加速は古生物学的には十分起き得る現象だし……。動機としてもそれなりに筋が通っているような……。

芦高 @ashitaka0789

まあしかし、どちらにせよ人類殲滅はかなりのハードジョブである。アポカリプティックな核戦争で地球を終わらせようものなら、他の生物への影響が大きすぎて本末転倒。ついでに巨大質量の隕石もなかなか降ってこないし、そもそもコントロールができない上にタイミングも難しいだろう。

芦高 @ashitaka0789

アウトブレイクは極寒地で無効化されるし、コズミック・ゼロは突っ込みどころ満載だ。

芦高 @ashitaka0789

というわけで、頭の良い存在がわざわざそんな非効率的な人類抹殺計画を抱くとは考えにくい。エネルギーの無駄である。

芦高 @ashitaka0789

ならば、この恐るべき超人知能が次に考えそうなものとしては「人類の支配」ではなかろうか。この方がまだ現実的である。だが、これも実際相当なルナティックモードだとは思うが。

芦高 @ashitaka0789

70億人を統制下に置くには、まず途方も無いエネルギーと下準備が必要である。人工知能が電子的な（あるいは量子的な）プロセスを必要とする存在であるならば尚更である。そして、世の中にはインターネットに接続できていない人々が40億人いるので、まずは彼らに端末を行き渡らせないといけない。

芦高 @ashitaka0789

いやまあそこまでしなくとも、一部の上層階級を支配下に置けばその直下の人々も実質的に付随してくるんだろうけど。ただ、それにしたってややこしい話である。そして先程の「人類絶滅」とも共通するが、動機が判らん。我ら人類を支配下に置いて超人知能さんはいったい何がしたいんだ。

芦高 @ashitaka0789

人類を遥かに超える高い知能による、圧倒的な資源とエネルギーを用いた、気の遠くなるような作業の果てにある人類支配。

芦高 @ashitaka0789

なんかこれだけ聞くと、頭良いのにやってることは馬鹿みたいだな。隠居して悟りでも開いてた方が有意義なんじゃねぇの人工知能。

芦高 @ashitaka0789

ダメだ、人類を支配することによる利点が判らん。世界平和かな？ じゃあ敵じゃないじゃん。

芦高 @ashitaka0789

結論：人間を超える人工知能は、第二の仏陀になる。

芦高 @ashitaka0789

終わり。