茂木健一郎(@kenichiromogi）さんの連続ツイート第3101回「人間とLLMの差分を明らかにする測度が求められている」

茂木健一郎 @kenichiromogi

連続ツイート３１０1回をお送りします。文章は即興で書いています。本日は感想です。

茂木健一郎 @kenichiromogi

昨日、朝日カルチャーセンターのあとの打ち上げのときに、田森佳秀 @Poyo_F がいて、よしのりがいて、それで自然にLLMの話になって、せっかくだからとiPhoneで撮り始めた。後ほど公開するので、もしよければ聞いてください。

茂木健一郎 @kenichiromogi

田森佳秀はいわゆる非典型で、数学の天才で、一つ何か水を向けるとずっと話している。だから、理化学研究所で田森佳秀と出会った頃から、ぼくはある意味ではずっとprompt engineeringをやっているわけで、GPT-4と変わらない気がする。

茂木健一郎 @kenichiromogi

GPT-4に対する批判として、どんなデータセットを使っているのか、どんな学習をしているのか詳細がわからないから科学的にはdead-endだというものがあるけど、考えてみると人間も同じで、ある人がどんな経験をしてきたのかわからない。

茂木健一郎 @kenichiromogi

人間ひとりひとりもLarge language modelで、人によっては非常にしばしばhallucination（事実ではないことの発話）もあるし、お互いに求める発話をさせようとしたらprompt engineeringもやる。問題は自然言語とはどのようなものかということだ。

茂木健一郎 @kenichiromogi

Turing testの無効化がほぼ確定して、Winograd Schema testもブレークされて、Theory of mindも通過されたとなると、人間とLLMの差分を明らかにする測度が求められているわけだけど、昨日の田森佳秀、よしのりとの議論にもあったように、人間の中にもLLMはあるんだと思う。じゃあ意識は何をしている？

茂木健一郎 @kenichiromogi

以上、連続ツイート３１０１回、「人間とLLMの差分を明らかにする測度が求められている」をテーマに５つのツイートをお届けしました。