人工知能やロボットの進歩は、人類の脅威になりうるか？

小猫遊りょう（たかにゃし・りょう） @jaguring1

ＡＩやロボットの研究者の中には次のように発言する人たちがいる。「私は長い間、（ＡＩやロボットを）研究してきた。その経験から言うと、人類の脅威になることはありえない」と。でも僕がいつも思うことは「あなたは例えば20年前に今の科学技術の進歩を予想できていましたか？」ということである。

小猫遊りょう（たかにゃし・りょう） @jaguring1

コンピュータは指数関数的に進歩してきて、それが様々な領域で活用されることによって、それらすべての領域で進歩が促されてきた。多くの研究者が口にしているように、ここまで急激な進歩を遂げるとは思っていなかったのではないだろうか。いくら研究者と言えども、未来を予想することは非常に難しい。

小猫遊りょう（たかにゃし・りょう） @jaguring1

研究者たちは「今の科学技術の課題」をクリアすることに関してはプロフェッショナルだろう。しかし10年後、20年後を予見する能力は、必ずしも持ち合わせていない。自分の専門以外の分野の成長も、実は自分の分野に関わってくることが多々あり、それを予見できない出来ないからだ。

小猫遊りょう（たかにゃし・りょう） @jaguring1

このように一人の専門家では科学技術の進歩を必ずしも予想することが出来ない状況で、『私は長い間、（ＡＩやロボットを）研究してきた。その経験から言うと、人類の脅威になることはありえない』という反論をするのは強引過ぎるのではないだろうか。要するに「ソースは俺」ってことだろう？

小猫遊りょう（たかにゃし・りょう） @jaguring1

次に言いたいことは「過去の20年間」と「次の20年間」は同じスピードで進歩するのではなく、もっと早く進歩する、ということだ。その理由は次の通り。

小猫遊りょう（たかにゃし・りょう） @jaguring1

まず「時刻t + Δt1で存在している科学技術」は「時刻 t で存在している科学技術」＋「Δt1 の間で積み上がった科学技術」である。そして「Δt1時間で積み上がる科学技術」というのは、ここが重要なところだが、「時刻tで存在している科学技術」を用いて増えることになる。

小猫遊りょう（たかにゃし・りょう） @jaguring1

さらに「時刻 t + Δt1 + Δt2 で存在している科学技術」は「時刻 t + Δt1 で存在している科学技術」＋「Δt2の間で積み上がった科学技術」である。

小猫遊りょう（たかにゃし・りょう） @jaguring1

ここが重要だが、「Δt2の間で積み上がる科学技術」は、「時刻tで存在している科学技術」だけによって増やされるのではなく、「時刻t+Δt1で存在している科学技術」を用いて増やされるということだ（←ここ重要）。

小猫遊りょう（たかにゃし・りょう） @jaguring1

つまり最初の Δt1 では、「時刻tで存在している科学技術」を用いて増えるわけだが、次のΔt2では、「時刻 t + Δt1 における科学技術」を用いて増えることになる。

小猫遊りょう（たかにゃし・りょう） @jaguring1

要するに Δt2 では、「時刻 t で存在している科学技術」だけを用いて増やされるのではなく、「 Δt1 の間に増やされた科学技術」も用いて増やされることになるので、科学技術の進歩が年々と早くなっていく、という構図になっている。

小猫遊りょう（たかにゃし・りょう） @jaguring1

もっと具体的に書くと次のようになる。「1年後の科学技術全体」は、「現在の科学技術全体」＋「1年間で積み上がる科学技術全体」である。

小猫遊りょう（たかにゃし・りょう） @jaguring1

「2年後の科学技術全体」は、「現在の科学技術全体」＋「最初の一年間で積み上がる科学技術全体」＋「次の1年間で積み上がる科学技術全体」だが、最後の項が重要だ。つまり「次の一年間で積み上がる科学技術」が重要なわけだ。

小猫遊りょう（たかにゃし・りょう） @jaguring1

「今から見て1年後から2年後の間の一年間で積み上がる科学技術」は、「現在の科学技術」だけを用いて積み上げられるのではなく、「現在の科学技術」＋「最初の1年間で積み上がる科学技術」を用いて「次の1年間」の技術が進歩する、ということになるので、予想以上に早く技術が進歩する。

小猫遊りょう（たかにゃし・りょう） @jaguring1

これがいわゆるカーツワイルの主張を少し数学的に説明したものだ。

小猫遊りょう（たかにゃし・りょう） @jaguring1

だから「人類の脅威になることはない。脅威になると言ってる奴らは技術を知らないだけ」という主張の根拠として、「俺の経験」を持ち出すのは、ナンセンスだと思う。

小猫遊りょう（たかにゃし・りょう） @jaguring1

さらに言えば、専門家の中にも「人類の脅威になる派」と「脅威にならない派」がいる。もしも「俺の経験上、脅威になるわけがない」という論理で説明することが許されるなら「人類の脅威になる派」の意見にも同様に使えるわけで「俺の経験上、脅威になると思われる」ということもありになってしまう。

小猫遊りょう（たかにゃし・りょう） @jaguring1

そして「人工知能やロボットは人類の脅威になる」と主張している人たちに対して、「そいつらは技術を知らないからだ」というレッテル貼りをして、自分の意見を正当化しようとするのは、いくらなんでも強引過ぎると思っている。

小猫遊りょう（たかにゃし・りょう） @jaguring1

「人工知能やロボットが人類の脅威になる」と主張する専門家では、主に2つのタイプが存在する。一つは「人工知能＋ロボットが人を殺すようになる」タイプ。もう一つは「人工知能＋ロボットによって雇用が奪われる」というタイプ。前者はよく分からないが、後者は十分に起こり得ると思っている。

小猫遊りょう（たかにゃし・りょう） @jaguring1

前者を殺人的脅威、後者を経済的脅威と呼んでいる。僕は経済的脅威は起こると思っていて、むしろ実際に今もちょっとずつ進行していると思っている。雇用は（弱いＡＩも含めて）人工知能やロボットだけでなく、様々な政策によっても変わってくるが、人工知能やロボットによっても変わっている。

小猫遊りょう（たかにゃし・りょう） @jaguring1

ホーキング博士の警告　ロボットや人工知能（AI）がもたらすのは天国、それとも地獄 blogos.com/article/100524/