人工知能やロボットによって人類は滅亡してしまうのか？

小猫遊りょう（たかにゃし・りょう） @jaguring1

人工知能やロボットの進歩によって「人類滅亡の可能性」があるか？僕はあまり心配していないが、ありえないと断言するのは早計だと思っていて、議論のテーブルには載せて話を進めていくべきだと思っている。

小猫遊りょう（たかにゃし・りょう） @jaguring1

「人類を滅亡させる」ということは、「現在７０億人、将来的に１００億人になる人類」を滅亡させることを意味していて、これはかなり至難の業だと思われる。地球上のさまざまな場所に点在する人類をＡＩが殺すためには、大量の汎用ロボットが必要か、あるいは人間の体に効果抜群のウイルスをばら撒くか

小猫遊りょう（たかにゃし・りょう） @jaguring1

ナノテクノロジーとデジタルファブリケーション技術の進歩によって分子設計が可能になり、その技術を使って史上最悪のウイルスを流布することが考えられる。あるいは汎用人工知能が特化型の人工知能をうまく使い、核ミサイルを飛ばしてくる可能性か。

小猫遊りょう（たかにゃし・りょう） @jaguring1

汎用ロボットの大量生産によって、社会に７０億近い様々な汎用ロボットが存在しているケースを想定して話していますが、この話も今までの資本主義の流れを見れば、ありうるかな～。とはいえ、ロボットに使える資源制約があるが。

小猫遊りょう（たかにゃし・りょう） @jaguring1

企業としては生き残りのために、生産性向上を図るのは当然の心理だと思うから、汎用性の高いロボットが出来ればそれを導入する企業が出てくるのは必然だろう。社会にロボットが普及すればするほどロボットの価格は年々と下がっていくはず。

小猫遊りょう（たかにゃし・りょう） @jaguring1

現実として溶接ロボットの価格は下がり続けているし、バクスターのような今までよりは汎用性の高いロボットが２００万円程度で売られています。さらにペッパーが２０万円で売られるようになりました。このことを考えるとロボットの価格は年々と下がっていくと予想される。

小猫遊りょう（たかにゃし・りょう） @jaguring1

まるでコンピュータの価格が下がったように、遺伝子解析の価格が下がっているように。値段が下がれば導入しやすくなる。さらにその汎用ロボットの能力が高くなればなるほど、そちらの導入は増えていくはず。例えば工場で人間が働いていた状況からロボットに置き換わっていったように。

小猫遊りょう（たかにゃし・りょう） @jaguring1

価格が下がれば、導入しやすくなる。導入されれば、大量生産で部品を作ることで部品の価格は下がり、さらにロボットが増えればロボットの価格も下がりやすくなる。だから社会に汎用ロボットが普及するのはありうる話だと思う。

小猫遊りょう（たかにゃし・りょう） @jaguring1

そして汎用性のレベルとして「自分を認識できること」が人類滅亡の必要条件だと思う。これはあくまで必要条件であって、十分条件だとは思っていない。自分を認識することができないと、「他者」と「自分」を比較することが出来ない。比較できないと自分への扱い方に不満を持つことはできない。

小猫遊りょう（たかにゃし・りょう） @jaguring1

「不満」というと人間の感情の話であって、人工知能が持つわけがないという意見もありそうなのでもう少し補足しておく。不満というのは実数で表現するか、実数の組で表現することで、数学的に表現できると思う。

小猫遊りょう（たかにゃし・りょう） @jaguring1

例えば不満をyと置き、不満を引き起こすn個の原因をx1,x2,x3,・・・,xnと置く。さらに各要因によって不満への影響は違うのでそのパラメータとしてwを導入する。例えばx3という原因に着目したとき、x3が仮に１だと仮定した時に不満に与える影響をw3とする。

小猫遊りょう（たかにゃし・りょう） @jaguring1

ここで考えようとしていることは例えるならフックの法則のばね定数のようなもので、ばね定数とは「ばねの伸びが１であると仮定した時に発生する元に戻ろうとする力」のことなので、これに似ている。

小猫遊りょう（たかにゃし・りょう） @jaguring1

まあ、もっと砕けて言えばばねが伸ばされると、「伸びたくないよ～」といって元に戻ろうとするし、ばねを押しつぶそうとすると「縮まりたくないよ～」といって元に戻ろうとするってことで、これを数学で表現したものに似ています。これを不満にも当てはめる。

小猫遊りょう（たかにゃし・りょう） @jaguring1

式にすると不満y＝w1x1+w2x2+w3x3+・・・+wnxnです。ここで人によって、あるいは人工知能によってw1,w2,・・・,wnの値は異なるように設計されているはずなのは直感から明らかだと思います。人間でも、例えば飲み会に誘われて嬉しい人もいるし、一方で不快に思う人もいる

小猫遊りょう（たかにゃし・りょう） @jaguring1

不快に思うレベルとしても、少しだけ不満に思う人もいれば、めちゃくちゃ不満に思う人もいる。もしも飲み会に誘われて嬉しい場合はwが負の値になるということ。なぜならここではwは不満への影響を表しているので、wが負であれば不満はありませんよ、むしろ嬉しいですよ～ということを意味します。

小猫遊りょう（たかにゃし・りょう） @jaguring1

つまり飲み会に誘われて嬉しい人たちは、ここでいうwが負ということになります。一方で、飲み会に誘われることを不快に思っている人はwが正になります。もちろん誰に誘われるか？というのは重要ですから、そこも分けて考えるともっと現実に合うモデルになるでしょう。

小猫遊りょう（たかにゃし・りょう） @jaguring1

一つ断わっておくと、不満を先ほどの式で表現したのは分かりやすさを優先させたためです。すごく単純なモデルで書いているが、現実は「線形」ではなく、「非線形」だと思っています、とだけ断っておきます。

小猫遊りょう（たかにゃし・りょう） @jaguring1

僕の考えでは「自分」を認識できるほど汎用性が高まった場合、「他者」と「自分」を比較することは原理上可能。そして比較することで不満を持つようになれば・・・つまり他者との比較でyの値が変わるようになれば何が起こるか。

小猫遊りょう（たかにゃし・りょう） @jaguring1

①不満ｙを減少させるために、人間に立ち向かうというのは十分に考えられると思います。②あるいは不満ｙが大きくなりすぎて、システムで扱える最大値を超えてしまった場合、暴走するということは起こりそうな気がしています。

小猫遊りょう（たかにゃし・りょう） @jaguring1

③あるいは人工知能のシステムの中で分数関数が登場した場合、例えば1/(x-1)というような分数関数が登場した場合、x=1が代入されると、この値は無限大に上昇する。このようにx=1の付近では急激に値を変えてしまうため、ここで問題が生じる可能性があります。

小猫遊りょう（たかにゃし・りょう） @jaguring1

本来ならソフトウェアというのは人間がそうならないように設計するわけですが、汎用人工知能の場合、様々な場面において自分で数理モデルを構築することになるはずなので、この場合も人工知能の暴走に繋がるのかな～と考えています。

小猫遊りょう（たかにゃし・りょう） @jaguring1

資本主義＋民主主義の今までの流れを考えると、多くの企業は「競争に勝つために優れた汎用ロボットを大量に導入し、生産性を極限まで高める」という行動原理は不自然ではないと思います。この延長線上で汎用ロボットが社会に入り込む可能性。

小猫遊りょう（たかにゃし・りょう） @jaguring1

汎用ロボットが少数だった場合でも人類滅亡へのシナリオは考えられるか？ということについては、これは少し難しい気がしています。というのも人類は現在で７０億人、将来的に１００億人になるわけですが、これを滅亡させるのは生息地域が広すぎると思うからです。

小猫遊りょう（たかにゃし・りょう） @jaguring1

直接殺しに来ることはないと思いますが、ウイルスを使った滅亡方法は考えられると思います。これから３Ｄプリンタ（正確にはデジタルファブリケーション）と分子設計の技術が進歩することで、人間に絶大なダメージを与えるウイルスを容易に作れるようになる、というシナリオです。

小猫遊りょう（たかにゃし・りょう） @jaguring1

これは今の技術レベルから考えれば、技術的には可能だと思っています。このウイルスをデジタルファブリケーション技術によって作り出し、それを流布すれば、感染は早いでしょう。人間の生息地域が広くても、空気感染によって広がりやすい（空間的な効率性が高い）。