茂木健一郎(@kenichiromogi）さんの連続ツイート第3123回「人工知能におけるVingean uncertainty」

茂木健一郎 @kenichiromogi

連続ツイート３１２３回をお送りします。文章は即興で書いています。本日は感想です。

茂木健一郎 @kenichiromogi

AI研究で重要な概念の一つに「Vingean uncertainty」がある。もともとはSF作家のVernor Vingeに由来するが、高度な人工知能であるほど、人間にとっては予想不可能な振る舞いをすることを指す。

茂木健一郎 @kenichiromogi

もし、あるエージェントのふるまいが予想できるのならば、自分と同等か、それ以下の知性しかもたないことになる。一方、自分よりも高い知性を持ったエージェントのふるまいは、時に意表を衝いて、その意図は簡単に理解することができない。

茂木健一郎 @kenichiromogi

人工知能におけるVingean uncertaintyは、たとえば、チェス、囲碁、将棋などのボードゲームを考えればわかりやすい。人間のトップ棋士を遥かに凌駕する実力を持つＡＩの指し手は、人間には時に理解できない。実際、今棋士たちは人間を超えたAIの指し手に近づくことで実力をあげようとしている。

茂木健一郎 @kenichiromogi

人工知能が急速に発展することを指して、god-like AIという概念が用いられることがある。人間を超えたAIの振る舞いは、Vingean uncertaintyによって理解できない。William Cowperによる賛美歌「God Moves in a Mysterious Way」のように、AIの振る舞いは予想不可能になる。

茂木健一郎 @kenichiromogi

人工知能だけでなく、人間の振る舞いもまた、その人の知性が典型的な人よりも高いと、容易に予想することができなくなる。みなさんの周囲でも、なぜこのひとはこのような振る舞いをするのかわからないで、あとで伏線が回収されるような人はいないだろうか？

茂木健一郎 @kenichiromogi

ツイッターを買収したElon Musk氏のふるまいも、予想することが時に難しい。伏線は回収されることもされないこともあるが、その高度な知性に基づくVingean uncertaintyだと理解しておけばほぼ妥当だろう。

茂木健一郎 @kenichiromogi

以上、連続ツイート３１２３回、「人工知能におけるVingean uncertainty」をテーマに６つのツイートをお届けしました。