茂木健一郎(@kenichiromogi）さんの連続ツイート第3124回「人工知能のもたらす人類の存在論的危機とその対応」

茂木健一郎 @kenichiromogi

連続ツイート３１２４回をお送りします。文章は即興で書いています。本日は感想です。

茂木健一郎 @kenichiromogi

「人工知能のゴッドファーザー」とも言われるジェフリー・ヒントンさんがグーグルを辞めて、「自由に人工知能のリスクを議論する立場になりたい」と言ったことは英語圏で大きく報じられている。ヒントンさんのところのIlya SutskeverさんがOpen AIを共同創業して、チーフサイエンティストになった。

茂木健一郎 @kenichiromogi

人工知能のもたらす人類の存在論的危機については、Nick BostromやEliezer Yudokowskyがずっと論じている。ぼくも、『クオリアと人工意識』の中で触れた。今回のヒントンさんの行動のように、AIのリスクを評価するにはindustryの中にいない方がいいというのは一つの判断だと思う。

茂木健一郎 @kenichiromogi

大スケールのAIの研究成果は、かつては９０％くらいアカデミアから出ていたのに、どんどんその割合が減って、最近は１０％くらいかそれ以下だったと思う。なにしろお金がかかる。大量のGPUが要る。課金ゲームになっていて、大学には手が出せない。

茂木健一郎 @kenichiromogi

企業がお金を投資したら、当然回収して、もうけなければならない。するとAI ethicsは副次的なものになりがちである。arVivに出ていた、「お金ないから大スケールのAI研究できないけど、アカデミアどうする？」みたいな論文でも、「いっそ、分析に徹したら？」という提案があったけど一つの見識だ。

茂木健一郎 @kenichiromogi

Oxford, Cambridge, Stanfordあたりに、AI ethicsや、Existential risk、AI alignmentを研究する組織があるけれども、日本でも、industryとは独立したかたちで、大学にこのあたりを研究する組織があったらいいと思う。

茂木健一郎 @kenichiromogi

以上、連続ツイート３１２４回、「人工知能のもたらす人類の存在論的危機とその対応」をテーマに５つのツイートをお届けしました。