シンギュラリティはくる？こない？どっちだ！

小猫遊りょう（たかにゃし・りょう） @jaguring1

それにゴリラやチンパンジー並の汎用人工知能が生まれたら、そのあとは急速に学習をしていくだろう。ネットワークを介して、人間ではありえないスピードで学習をしていく。全世界で学習した結果を共有していくのが、コンピュータの凄さなんだから。だからこれが生まれてから議論したのでは遅すぎる。

小猫遊りょう（たかにゃし・りょう） @jaguring1

『そして、すぐに役に立たなさそうに見えても予算的に締め上げないでほしい』 これはその通りだと思うが。

小猫遊りょう（たかにゃし・りょう） @jaguring1

『人間を上回る知能なんて、そういうものが実現できてから考えれば良い』と書かれているが、それじゃあ明らかに遅すぎる。そうなってから考え出したのでは、社会制度の構築も大きく間違う。人間の仕事が急速に奪われ、社会経済はめちゃくちゃになってからじゃ遅すぎる。

小猫遊りょう（たかにゃし・りょう） @jaguring1

結局、このような人たちは科学技術が社会にもたらす影響については、ものすごく楽観的に考えているんだろう。でも例えば自動運転が可能になれば全体が便利になり、バスやタクシー、特殊自動車の運転作業などで路頭に迷う人たちが出てくるわけで、実現してから考えたのではこの人たちを見捨てるも同然。

小猫遊りょう（たかにゃし・りょう） @jaguring1

今まで助けてもらっていて、その人たちを見捨てる態度を取るのは人としてどうなのか。という考えが俺にはある。自動運転に限ったことではなく、今までもわずかだが行われてきたことだろうが、それを放置しているような社会は腐ってる。

小猫遊りょう（たかにゃし・りょう） @jaguring1

とりわけ若者は金がいかず、若者も自殺率が上がり続けている状況で、人間を超える人工知能が完成してから考えればいいなんて悠長なことを言うべきじゃない。若者の食扶持をどうするんだってことだ。すでに資産を蓄えた高齢者ならいいが、若者はこれから稼がなければならないわけで。

小猫遊りょう（たかにゃし・りょう） @jaguring1

人工知能が人間を越えた場合、確実に起こることは人間の仕事が人工知能に奪われ、経営者は人間ではなく人工知能やロボットの購入費に充て、人件費を削減するようになる。これは資本主義の下では不可避的に生じる。そうなったとき、若者を見捨てる社会にするのか。

小猫遊りょう（たかにゃし・りょう） @jaguring1

実現してから考えたんじゃ、遅すぎる。まるで３０年前に「少子高齢化を煽るべきではない」と主張し続け、対策を遅らせ続けた人たちと同じようなにおいがする。少子高齢化のように超ゆっくりと進む現象ですら３０年かかっても変えられなかった。人工知能が人間を超える問題はもっと早く考えるべき。

小猫遊りょう（たかにゃし・りょう） @jaguring1

少子高齢化が起こって、毎年のように税・保険料が上がり続けた。消費税は平成元年の頃に０％から３％に上がり、現在では８％。さらに１０％に上がろうとしている。国民年金や厚生年金のような保険料だって上がり続けた。若者の自殺率も上がり続けている。問題が起こってから考えるってアホか。

小猫遊りょう（たかにゃし・りょう） @jaguring1

少子高齢化で社会制度の観点から若者は相当苦しい状況に追い込まれているし、これからはその比じゃないぐらい状況が悪化する。特に団塊世代が後期高齢者になるあたりだ。そして、人工知能やロボットによる食扶持奪取が起こったら、たまったものじゃない。コンピュータが人間を超えて考えるのはアホ。

小猫遊りょう（たかにゃし・りょう） @jaguring1

結局、さっきの記事は科学技術の進歩のスピードに関してほとんど書かれていないのに、シンギュラリティを批判している。シンギュラリティがなぜ生じると言われているのか？は、火付け役になったカーツワイルの本ぐらいは読んでから批判する方がいいと思うが。

小猫遊りょう（たかにゃし・りょう） @jaguring1

まあ分厚いから読まないなら、本人の動画ぐらい見たほうがいいと思うが。

小猫遊りょう（たかにゃし・りょう） @jaguring1

カーツワイルが主張するシンギュラリティを簡単にまとめたことがある。次のまとめでカーツワイルの主張の構図を説明している。もちろん本人の意見を一番に参考にするべきだと思うが。 人工知能やロボットの進歩は、人類の脅威になりうるか？ togetter.com/li/760338

小猫遊りょう（たかにゃし・りょう） @jaguring1

なんかシンギュラリティ否定派である専門家の意見を見ると、大抵の人は「現在の技術はこうなっていて、世間のイメージとは大きく違う」という話ばかり。それじゃあ、まったくシンギュラリティの批判になっていないんだが、主張している本人たちは気づいていないみたい。進歩の速さについて否定しないと

小猫遊りょう（たかにゃし・りょう） @jaguring1

イーロンマスクもホーキングもビルゲイツもみんな同じような意見を持っているが、その中心的な考え方は「人間の感覚は比例的であり、人工知能の成長は指数関数的。倍々ゲームで進歩していき気づいた時には手遅れになっている」という考えだろう。ここを否定しないとシンギュラリティの否定にはならんが

小猫遊りょう（たかにゃし・りょう） @jaguring1

「ターミネータに毒されている」とか「現在の技術を知らない」とか、そんな批判ばかりで、もっと本質的な部分の批判は少ない。本質的な部分というのは、「収穫加速の法則」の部分。少なくともカーツワイルやその他多くのシンギュラリタリアンは収穫加速の法則を信じているわけで。

小猫遊りょう（たかにゃし・りょう） @jaguring1

シンギュラリティに否定的な専門家は「倍々」の恐ろしさを見ていない。紙を折りたたむことで例える。一回だけ折りたたまれた状態を見て、「全然、厚くないじゃんｗ月まで届くのはずっと先だろｗ」と余裕ぶっている感じ。折りたたむごとに２倍になって、43回折りたたまれた時点で月まで届くわけだが

小猫遊りょう（たかにゃし・りょう） @jaguring1

この紙の場合は４３回折りたたむのは現実的ではないが、集積度はおよそ２年で２倍になっていった。つまり２年で一回折りたたんでいるような状況で、気づいた時には月の高さだ。イーロンマスクやホーキング、ビルゲイツは倍々の怖さを想定しているんだと思うが。

小猫遊りょう（たかにゃし・りょう） @jaguring1

「人工知能は急速には進歩しない」と主張している専門家は、もしも急速に進歩して仕事の代替の問題が深刻化したり、格差拡大が加速して経済がめちゃくちゃになったら責任を取ってくれるのだろうか。その専門家の意見が社会的な対策を遅らせることになることは意識してほしいところだが。

小猫遊りょう（たかにゃし・りょう） @jaguring1

「人工知能に対する楽観的な妄想」はいつか来た道 tjo.hatenablog.com/entry/2015/04/… 現在、イーロンマスクやホーキング、ビルゲイツのような人たちが人工知能に対して警戒する理由は「収穫加速の法則」が念頭にあるのであって、ターミネーターのような映画が理由ではないと思うが。

小猫遊りょう（たかにゃし・りょう） @jaguring1

もしもターミネーターのような映画の影響なのだとしたら、「今」主張する理由が分からない。実際にイーロンマスク、ホーキング、ビルゲイツの意見を見てみると、そのどれもが「指数関数的な変化」というものへの恐れだと思う。

小猫遊りょう（たかにゃし・りょう） @jaguring1

専門家の中で「シンギュラリティなんてありえない派」と「ありうるかもしれない派」で分かれているわけだが、ここは科学技術の変化が指数関数的に変化していくものなのか、それとももっとずっと遅いのか、という部分で分かれているんだと思う。

小猫遊りょう（たかにゃし・りょう） @jaguring1

「何をもって知能とするか」の記事で「自然言語処理はそろそろ限界だと思う」的なことが書かれていたが、自然言語処理の専門家である黒橋 禎夫（京都大学教授）先生の講義をさっき聞いていたが、そこでは「この２０年は物凄い進歩だった。これからますます本格化する」と言っていた。どっちが正しいか

小猫遊りょう（たかにゃし・りょう） @jaguring1

個人的に自然言語処理はこれからの分野だと思っていて、「そろそろ限界」だとは思っていない。