AI能力のレベル付けと収穫加速の法則の進展と技術的失業

難波修羅 @nanbashura

@Yu_Yamaguchi_ 単純に資本家はレベル１ロボット（フロップではなく脳準拠）２体を買ったほうが、レベル３AIのサポートを必要とするレベル１拡張デバイスを入れた分を給料に上乗せして請求せざるを得ない労働者を雇うより安い。ということ言いたかったのです。

Yu Yamaguchi@新シリーズ3巻10/18発売 @Yu_Yamaguchi_

@nanbashura なるほどなるほど。ちょっと整理をしますね。おそらく、「The Singularity is Near」の125ページあたり（和訳だと134ページあたり）の記述と、71ページ（81ページ）の図あたりを参考になさっているのだと思います。

Yu Yamaguchi@新シリーズ3巻10/18発売 @Yu_Yamaguchi_

@nanbashura 10^16cps(またはFLOPS)=「レベル１」で、１０倍毎に１レベル上がっていく、という指標を定義されている、ということでよいでしょうか？この場合、10^19cpsあたりで脳の生化学的模擬ができるというp125あたりの記述を適用するなら、それはレベル４

Yu Yamaguchi@新シリーズ3巻10/18発売 @Yu_Yamaguchi_

@nanbashura ということなりますね。ここが多分論点の違いで、その他の部分はトリヴィアルのような気がしています。脳の機能が10^16cpsで模擬可能というカーツワイル氏の推定は、Hans Moravecら、或いはLloyd Wattsらの推定を基盤にしています。

Yu Yamaguchi@新シリーズ3巻10/18発売 @Yu_Yamaguchi_

@nanbashura この推定は、「ある脳機能と同等の機能を実現するためのｃｐｓ」と「その脳機能が脳全体で占める割合」から求められるものです。だから、おそらくＨＷ的に脳機能を実現しえるものは10^16cpsで充分なのでしょう。ただそれで知能が実現できるわけではないのでしょう。

Yu Yamaguchi@新シリーズ3巻10/18発売 @Yu_Yamaguchi_

@nanbashura そこには、やはりある種のブレークスルーが必要であり、最もシンプルにそのブレークスルーを為す方法は、世界に一つでいいので、10^19cpsのスパコンを造って、ニューロンまで含めた脳の模擬を行うことです。「The Singularity is Near」の

Yu Yamaguchi@新シリーズ3巻10/18発売 @Yu_Yamaguchi_

@nanbashura 第４章あたりに、脳のリバースエンジニアリングについて書かれており、ニューロンの機能の重要性も指摘されていますが、ニューロンの機能にまで遡らないと知能のメカニズムの解明は難しいと私も思います。これを10^19cpsのスパコンで実現できるとするなら、

Yu Yamaguchi@新シリーズ3巻10/18発売 @Yu_Yamaguchi_

@nanbashura その成果たるソフトウェアを10^16cpsのコンピュータに実装することは非常に容易でしょう。同じタイミングで、同等またはそれ以下のcpsのデバイスで、脳の機能を支援できるようになります。――というのが私の考え方の大筋ですが、勿論考え方は人それぞれです。

Yu Yamaguchi@新シリーズ3巻10/18発売 @Yu_Yamaguchi_

@nanbashura ただ、私の視点についてお問い合わせがあったので、ご説明申し上げた方がよいかな、と思い、簡単に（といいつつ長くなってしまいましたが）述べてみました。

Yu Yamaguchi@新シリーズ3巻10/18発売 @Yu_Yamaguchi_

@nanbashura また、雇用と脳機能拡張の関係ですが、人が労働者を雇うのは、自分一人の能力（労働力／思考力）では為したい事が為せないからです。自分の能力が拡張（それは脳の機能拡張による判断力の増強、それによる多くの作業機械の動作制御能力の獲得も含みます）を得ることができれば

Yu Yamaguchi@新シリーズ3巻10/18発売 @Yu_Yamaguchi_

@nanbashura 人を雇う必要はないのではないでしょうか。

難波修羅 @nanbashura

@Yu_Yamaguchi_ 非常に詳細なご説明恐れいります。お陰で、意見の違いの理由が、脳機能増強における必要技術レベル見通しの違いであるということがはっきりわかりました。この領域についての研究はそれこそ脳解析を待つことになるので結論を得るのは少し先そうですね。

難波修羅 @nanbashura

@Yu_Yamaguchi_ これは、誰もがプロシューマーになるという可能性をご指摘のことと思います。「雇用と機能拡張の区別」の件はこの事なのだろうと拝察します。しかし、やはり最初に脳増強ができるのは万人ではなく、高レベルAIを購入可能な人であるリスクを思わずにはいられません。

難波修羅 @nanbashura

@Yu_Yamaguchi_ 非常に長い質問になってしまいましたが、根気強くお答え下さり本当にありがとうございました。しかし、きっとこの対話は今後の技術的失業を考える上で様々な人の参考になると思います。そしておやすみなさい。

orihime @star_orihime

@nanbashura (1/5)今後の世界で、特にソフトウェアにおいてオープンソースで開発したほうが、結局独占するより勝者になれることは同意しますが、資本家や金持ちを処分やら抹殺するだけの権限が強いAIに与えられるとは思えません。なんだかんだで人間は主導権を手放さないでしょう。

orihime @star_orihime

@nanbashura (2/5)なので「集約的な強いAIに処分されるリスク」は資本家や金持ちにとって脅威とはなりえず、BI導入のインセンティブ足り得ないかと。「自分で思いつかない快楽消費の商品」については多様性確保が重要なので、BI導入のインセンティブとしては同意しますが。

orihime @star_orihime

@nanbashura (3/5)それでもやっぱ俺は、人間は度し難く救いがたいほど身勝手で自己中な愚か者ばかりで、娯楽や快楽商品のために、資本家や金持ちがBIのための財源確保の徴税に応じるほど賢いとは思えないな。

orihime @star_orihime

@nanbashura (4/5)結局「恥もへったくれもなくないと飢える人口が一定%に達する」ようになって、革命なりクーデターで資本家や金持ちはギロチン送りか、金の流れが劇的に悪化して全世界が経済破綻になってから、ようやっとBI導入くらいが俺の将来予想だな。

orihime @star_orihime

@nanbashura (5/5)資本家や金持ちなんぞ、どうせ娯楽や快楽商品の多様性が少なくなったり、自分たちがギロチン送りにされるのは、BI導入の徴税に応じない自分たちの強欲のせいだとは絶対に思わないって。すべて貧乏人が悪いの一点張りでしょう。

orihime @star_orihime

@nanbashura それもどうかなあ... 金持ち喧嘩せずで、超富裕層同士の相互扶助関係とかができて、案外超富裕層同士は結束して、BI導入は貧乏人どもを付け上らせると反対するんじゃないかな。やっぱ類は友を呼ぶで、金持ち同士のコミュニティみたいなのは現段階でもあるし。

orihime @star_orihime

@nanbashura (1/4)まあ確かに「貧困層に経済的格差で劣等感」を抱かせるのがBI導入には必要だが、その過程では多くの血が流れそうだ。

orihime @star_orihime

@nanbashura (2/4)劣等感から金持ちを襲っても、革命レベルでないと、一時的には強奪できても偶発的な犯罪者として処罰されるだけで解決にならないし、将来はいわゆる「Gated community」で貧困層は完全に排除されてそうで、襲うこと自体が困難そうだし。

orihime @star_orihime

@nanbashura (3/4)「Gated community」についてWikipedia。 http://t.co/qOlFOTB7DX

orihime @star_orihime

@nanbashura (4/4)どうも貧困層が資本家や金持ちに対抗するのが、血が大量に流れる手段しかなさそうなのが悲劇的すぎるんだよな。もう少し穏便にBI導入にまで持って行きたいよねぇ。まあ俺の杞憂で簡単にBI導入されればいいんだけれども...

難波修羅 @nanbashura

@star_orihime こんばんわ。まず誤解を解いておきたいのですが、私は貧乏人に劣等感で革命を起こさせるべきと言いたかったのではなく、金持ちが貧乏人を羨んで、あくせく金を稼ぐのが馬鹿らしくなるようにすべきと表現したつもりでした。