茂木健一郎(@kenichiromogi）さんの連続ツイート第2207回「人工知能の学習におけるたたき台としての評価関数のトイモデル」

茂木健一郎 @kenichiromogi

連続ツイート２２０７回をお届けします。本日は、人工知能について。

茂木健一郎 @kenichiromogi

ディープマインドのデミス・ハサビスさんの最近のトークを聞いていたら、やはりいろいろ面白かったのだけれども、囲碁や将棋、チェスを「制覇」したあとは、戦略ゲームの攻略に行っているというのが流れとしてやはり興味深かった。

茂木健一郎 @kenichiromogi

人工知能は評価関数が定まっていないと学習しにくいわけだけれども、ゲームならば、勝敗や点数が決まるから、扱いやすい。ハサビスさんはタンパク質の立体構造の予想についても言及していたけれども、これも、構造が何オングストロームずれるかという統計を扱えるから、評価関数が定めやすい。

茂木健一郎 @kenichiromogi

タンパク質の立体構造の予想は、すでに構造を解いたものを研究者たちがわざと何ヶ月か公表しないでおいて、そのアミノ配列から立体構造を予想するコンペをやってディープマインドが圧勝したということだけれども、これも、評価関数ははっきりしている。

茂木健一郎 @kenichiromogi

人工知能が比較的苦手だと思われるのは、評価関数がよく定義されていない領域で、たとえば自然言語による会話がそれにあたる。私たちは日々言語ゲームをしているけれども、その際に、何がどのように評価されているのかは必ずしも自明ではない。

茂木健一郎 @kenichiromogi

自然言語のやりとりに限らず、私たちの日常の行動は、評価関数がよくわからないままに行われていて、それでも私たちは学習や選択をしているのであって、その生命活動の広大な領域に対して、人工知能がどのようにアプローチするかは未知数である。

茂木健一郎 @kenichiromogi

逆に言えば、どんなかたちであれ、何らかの評価関数を定義するということが最も重要な課題になってくるわけで、それによってシステムがどう進化するかも決まる。評価関数は重層的なものかもしれないし、文脈依存的なものかもしれないし、時間によって構造自体が変化するものかもしれない。

茂木健一郎 @kenichiromogi

自動運転の領域では、評価関数の具体的なかたち（乗る人の安全を優先するのか、それとも危険や被害を最小化するのかといったこと）が倫理的な問題を提起することが知られているが、いずれにせよ、トイモデルでもいいから評価関数を書いて議論のたたき台にすることがこれからあらゆる分野で必要になる。

茂木健一郎 @kenichiromogi

以上、連続ツイート２２０７回「人工知能の学習におけるたたき台としての評価関数のトイモデル」をテーマに７つのツイートをお届けしました。