茂木健一郎(@kenichiromogi）さんの連続ツイート第3116回「人工知能のalignmentの生態学的身体」

茂木健一郎 @kenichiromogi

連続ツイート３１１６回をお送りします。文章は即興で書いています。本日は感想です。

茂木健一郎 @kenichiromogi

人間と人工知能のalignmentを考えるときに、どうしても２項間関係で考えがちだけれども、実際には生態系の中でとらえた方がいい。ただ、それだと、パワーやお金を求めて開発競争にしのぎを削っているひとたちの肌感覚とずれるかもしれない。

茂木健一郎 @kenichiromogi

ChatGPTのようなgenerative AIを、単独で進化させるのではなく、むしろプロンプトを通した他のentityとの「共創」をはかるというような方針も見るけれども、これは、生態系の中でalignする方向で、一つの見識だと思う。

茂木健一郎 @kenichiromogi

GPT-4の次に、GPT-5がどうなるかは注目されるけれども、実はパラメータ的にも、機能的にも、この方向だとすでにサチっているという議論もあって、今後のアップデートがあったとしても小規模である可能性がある。LLMがさらに進化するとしたら生態学的方向が有力だろう。

茂木健一郎 @kenichiromogi

Alignmentにおける身体性は、必ずしもロボット方向ではなく、人工知能がネットの情報を読み、書くという接続も身体性である。つまり、身体性はalignmentの本質であって、alignmentが生態学的な方向に行くとすれば、身体性もまたギブソン的な要素が強まるのである。

茂木健一郎 @kenichiromogi

以上、連続ツイート３１１６回、「人工知能のalignmentの生態学的身体」をテーマに４つのツイートをお届けしました。