茂木健一郎(@kenichiromogi）さんの連続ツイート第3103回「ChatGPTはどこにあるのか」

茂木健一郎 @kenichiromogi

連続ツイート３１０３回をお送りします。文章は即興で書いています。本日は感想です。

茂木健一郎 @kenichiromogi

人工知能の進化を考えるときに、ChatGPTのような単独のシステムを基本として考えるというやり方ももちろんあるけれども、本来はもっとエコシステム全体で考えなければならないと思う。生物種の進化を考えると、単一種で考えても仕方がなくて、生態学的ニッチも含めて考察しないと意味がない。

茂木健一郎 @kenichiromogi

ChatGPT自体は２０２１年までで学習がとまっているけれども、その後の情報にアクセスするためにネットに直接読みに行くPlugInが発表されていて、同時にネットに直接書く機能と合わせて重大なセキュリティリスクがあると懸念されている。いずれにせよそのような生態系が機能に影響を与える。

茂木健一郎 @kenichiromogi

ChatGPT単独で性能を見ることは、arXivなどにあげられた多数のペーパーが検討しているけれども、本来はPluginや、ChatGPTが読みに行ったネット上の情報を含めた全体で評価しないといけない。脆弱性を見つけるRed Teamの攻撃も、生態系の一部である。

茂木健一郎 @kenichiromogi

Prompt engineeringや、prompt injectionも、ChatGPTの性能の評価、進化を考える上で重要な要素になる。つまり、ChatGPTの性能を単独で見ることも大切だけれども、それを取り囲む人間の社会の振る舞いや情報環境の全体の流れの俯瞰も重要である。

茂木健一郎 @kenichiromogi

このように見てくると、ChatGPTはどこにあるのかと思う。特に今回のように多くのアテンションが集まってそこに人やお金のリソースが集まってくると、AI system単独というよりも全体の生態系でそれを評価しなくてはならないように思う。

茂木健一郎 @kenichiromogi

以上、連続ツイート３１０３回、「ChatGPTはどこにあるのか」をテーマに５つのツイートをお届けしました。