茂木健一郎(@kenichiromogi）さんの連続ツイート第3192回「意識に固有の計算、認知プロセスはなにか？」

茂木健一郎 @kenichiromogi

連続ツイート３１９２回をお届けします。文章は即興で書いています。本日は感想です。

茂木健一郎 @kenichiromogi

昨日、「意識にしかできない計算はなにか」についての「#自分だけの部屋」の動画をあげた。詳しくはそっちを見ていただくことにして、主なポイントは、クオリアのような現象学的な意識の次元を扱う理論はとりあえず置いといて、計算論的、認知的にとらえることである。 youtube.com/watch?v=6sBkGO…

茂木健一郎 @kenichiromogi

今年、コロナ明けでTucson系、ASSC系の二つの意識の国際会議に行って改めて思ったことは、意識の現象学的な次元についての解明は現時点でほぼ絶望だということで、意識の問題は、それを正しく把握、理解している人ほど解明が難しいとわかり、わかっていない人が解けると勘違いする構図がある。

茂木健一郎 @kenichiromogi

意識の現象学的次元の解明は引き続き考えないと行けないけれども、ChatGPTのような生成AIが出てきた今、計算論的、認知的に意識にしかできないことはなにかという問はむしろ重要になってきている。前提になるのは、今の人工知能には意識は生まれていないという認識。

茂木健一郎 @kenichiromogi

もともと、ベルクソンらも指摘しているように、習慣化し、自動化した認知機能は無意識になる。GPTのPre-trainedという記述からもわかるように生成ＡＩは自動化している。今のＡＩは、習慣化、自動化、無意識化した後の認知機能を扱っていると考えればいい。

茂木健一郎 @kenichiromogi

では、意識固有の計算、認知は何か？　十分な計算リソースと時間が与えられた時の計算可能性（computability）の議論ではなく、実際的に可能な時間の中でのquantum supremacyの議論と同様、生物学的に有効な時間内でのconscious supremacyの議論はできると思う。

茂木健一郎 @kenichiromogi

今の人工知能が無意識であることは、私たちがそれを道具として使うこととも関係している。意識を持つagentは、道具としては使いにくい。自動化、無意識化されているからこそ、延長された身体性として人工知能を用いることができる。

茂木健一郎 @kenichiromogi

意識に固有な計算、認知過程を明らかにすることは、人工知能と人間のalignmentを考える上でも重要である。自動化、習慣化、無意識化できることは人工知能に任せ、人間の意識固有のプロセスをaugmentationするアプローチが有力だ。

茂木健一郎 @kenichiromogi

以上、連続ツイート３１９２回「意識に固有の計算、認知プロセスはなにか？」をテーマに７つのツイートをお届けしました。