茂木健一郎(@kenichiromogi）さんの連続ツイート第3126回「AI研究者のEliezer Yudkowsky（以下EY）の人工知能による人類の存在論的危機論」

茂木健一郎 @kenichiromogi

連続ツイート３１２６回をお送りします。文章は即興で書いています。本日は感想です。

茂木健一郎 @kenichiromogi

AI研究者のEliezer Yudkowsky（以下EY）は、最近若い人にアドバイスを聞かれると、「今を楽しめ」と言うのだそうだ。「なぜって、人類長くないから」。人工知能による存在論的危機について、もっとも悲観的な論者の一人がEYだろう。

茂木健一郎 @kenichiromogi

EYの言うような人工知能による人類滅亡の危機を避けるためにこそ、AIと人類のalignmentの研究が行われている。しかし、EYは、十分に発達したAIと人類のalignmentは難しいとする。その際、EYがどのような論拠を持つのか理解するのは重要なことだ。

茂木健一郎 @kenichiromogi

AIによる人類の存在論的危機を論じる際、人々は往々にしてある特定のalignmentのpathwayに注目したり、特定のリスクを考察したりする。しかし、EYが論じている存在論的な危機は、経路積分的な、ありとあらゆるく道筋の包括的な把握である。

茂木健一郎 @kenichiromogi

先日のSpaceXによるStarshipの打ち上げはコントロールされた爆発で終わったが、このように試行錯誤できる場合は良いとして、AGIに至る研究開発は一回失敗したら終わりになる可能性がある。そのようなことを含めて、EYのAIの存在論的危機に対する悲観的なスタンスが生まれる。

茂木健一郎 @kenichiromogi

先日のTEDでのEYのトークは異彩を放っていて、スライドなしで、おそらく準備もあまりなしで、だーっと論点を喋っていた。特定の論点を整ったスタイルで検討するのとは違ったアプローチで、EYの存在論的危機の検討はある。TEDの聴衆の反応も、その集合体思考を十分に理解しているとは言えなかった。

茂木健一郎 @kenichiromogi

以上、連続ツイート３１２６回、「AI研究者のEliezer Yudkowsky（以下EY）の人工知能による人類の存在論的危機論」をテーマに５つのツイートをお届けしました。