茂木健一郎(@kenichiromogi）さんの連続ツイート第3215回「自然言語は数学的言語に比べてあいまいなのか？」

茂木健一郎 @kenichiromogi

連続ツイート３２１５回をお届けします。文章はその場で即興で書いています。本日は感想です。

茂木健一郎 @kenichiromogi

数学的言語に比べれば自然言語があいまいだ、みたいな話は比較的よく耳にするし、みんな気楽にお話すけれども、ChatGPTのようなLLMが出てきて驚いたことは、自然言語の文字列におけるnext token predictionをやるだけで、この世界に関する常識みたいなものをある程度扱える（ように見える）こと。

茂木健一郎 @kenichiromogi

パーソナリティの研究や、哲学などで言われる「lexical hypothesis」は、人格や世界認知における重要な因子を私たちは日常言語の中で単一の言葉として獲得し、運用しているということ。自然言語は何らかの意味で最適化されているはずで、そこには普遍的な構造や法則があるはずだ。

茂木健一郎 @kenichiromogi

一見、曖昧で適当に見える自然言語でも、それは進化の過程での淘汰圧にさらされているはずで、その証拠に新語はなかなか生まれないし生まれても定着しない。ある時点におけるボキャブラリは精緻かつ経済的に最適化されている。

茂木健一郎 @kenichiromogi

おそらく、数学的言語に比較して自然言語は質が低いということでは必ずしもなく、まだ私たちが十分に形式化できていないかたちで構造化され、最適化されている。LLMなどの人工知能のmechanistic interpretabilityの研究を通してなんらかの光が当たるかもしれない。

茂木健一郎 @kenichiromogi

以上、連続ツイート３２１５回「自然言語は数学的言語に比べてあいまいなのか？」をテーマに４つのツイートをお届けしました。