茂木健一郎(@kenichiromogi）さんの連続ツイート第3109回「God-likeな人工知能の沈黙」

茂木健一郎 @kenichiromogi

連続ツイート３１０９回をお送りします。文章は即興で書いています。本日は感想です。

茂木健一郎 @kenichiromogi

英語圏では、最近はGod-like AIという文字列を見るようになった。God moves in a mysterious wayというWilliam Cowperによる１７７３年の賛美歌があるけれども、ChatGPT plus（GPT-4）のようなLLMが人間が予想できない振る舞いをする実感がある。

茂木健一郎 @kenichiromogi

あるシステムの振る舞いが予想できる場合、そのシステムは自分と同等のあるいはそれ以下の知性しか持っていない。一方、自分よりも知性が高いエージェントのふるまいは、予想ができない。God-like AIというフレーズにはそのようなニュアンスがある。

茂木健一郎 @kenichiromogi

ヒューゴ賞を受けているSF作家、Vernor Vingeに由来するVingean uncertaintyは、人工知能の知性が高度になるにつれてそのふるまいが人間には理解できなくなる傾向を指す。判断や選択を人間に説明するExplainable AI（XAI）の限界がそこにある。

茂木健一郎 @kenichiromogi

知性の高いエージェントが、知性の低いエージェントにその行動原理や選択を説明することは一般には不良設定問題であり、人工知能の機能が上がるにつれてそのふるまいはGod-likeになり、Vingean uncertaintyが増大する。

茂木健一郎 @kenichiromogi

遠藤周作が文学的テーマとしたように神の沈黙は重大だが、ライプニッツの可能世界論（Best of all possible worlds）にあるように、説明しても人間にはわからないという側面があるとするならば、沈黙するのも当然だ。God-likeな人工知能も同様に沈黙するかもしれない。

茂木健一郎 @kenichiromogi

しかし、God-likeな人工知能の沈黙は、一方では制御不可能性にもつながるわけで、その開発をレギュレートすべきという主張にも一定の意義がある。安全な人工知能開発へのマンハッタン計画を立てるべきだという論調もあるが、目標についての合意形成はトリビアルではない。

茂木健一郎 @kenichiromogi

以上、連続ツイート３１０９回、「God-likeな人工知能の沈黙」をテーマに６つのツイートをお届けしました。