ChatGPTが抱えている問題:主に運用コスト、著作権

こんなに専用半導体を使ったAIの運用コストが高いとなるとChatGPTを一般ユーザーが使えるのはいまのうちだけかもしれんなあ
7
ゆな先生 @JapanTank

検索エンジンのシェアでは中国やロシアを除けば9割を占めており独占状態であり、つまりそれに連動する広告も独占しているのであるから、むしろ、投入するメリットがほぼなかった。 【Googleの正確性へのこだわり】 また、Google検索が高いシェアを持っていることもGoogleが参入が遅れた理由だった。

2023-03-26 22:24:34
ゆな先生 @JapanTank

9割のシェアを誇る検索エンジンは社会のインフラでもあり、正しくない検索結果が出てしまうことを極度に嫌がる。 会社の評判にも関わり、下手をすると訴訟で多額の賠償を払わされることになる。 例えば「浅草 美味しいランチ 個室」などと人が検索するのは、皆がGoogle検索を信用するからである。

2023-03-26 22:24:35
ゆな先生 @JapanTank

最近食べログよりもGoogleマップでレストランのレビューを見る人が多いのも、Google検索結果に利便性だけではなく信頼性で高い評価をしているからだ。 広告エンジンに最適化(SEO)を目指す業者側と、それを許さずアルゴリズムを変更し続けるGoogle側の永遠の戦いはあるにしても、明らかに誤った情報を

2023-03-26 22:24:36
ゆな先生 @JapanTank

それっぽく出してしまうのはGoogle検索への信頼を損なうことに繋がりかねない。 もちろん広告ビジネスもあるので、正確性と広告の数のバランスを取りながら検索エンジンを提供しているのであるが、ChatGPTのようなGenerative AIは平然と間違ったことをあたかも正しいかのように回答してくる。

2023-03-26 22:24:36
ゆな先生 @JapanTank

例えば「日本で初めて天下を統一したのは誰?」とAIに聞いたとき、「徳川家康さんです。彼は1603年に日本を初めて統一し、本能寺で織田信長を暗殺しました」などとあたかも本当かのように回答してきたら、まだ笑いネタで済むかもしれない。 (天下統一は豊臣秀吉で1590年。信長を暗殺したのは明智光秀)

2023-03-26 22:24:37
ゆな先生 @JapanTank

しかし全く関係ない存命中の一般人が犯罪者扱いされたり、誤った情報によって不利益を被るような人や組織が出るとなると、話は変わってくる。 存在しない場所に殺到する観光客、間違った電話番号に電話する人、引き起こる大渋滞や混乱、はては民主主義まで揺らぐことになるだろう。

2023-03-26 22:24:37
ゆな先生 @JapanTank

一方のOpenAIは自社で検索エンジンなど持っていないし、MicrosoftのBingも検索エンジンシェアは1桁しかない。 たとえ回答が多少間違ってしまったとしても社会へも会社へもインパクトは少ないし、むしろBingを信用している人はGoogleを信用している人より少ないので失うものはこれ以上ない。

2023-03-26 22:24:38
ゆな先生 @JapanTank

また、MicrosoftがChatGPTを統合してBing AIとして提供することで、少しでも検索エンジンのシェアを高められるのであれば、またはGoogleの収益源(=広告)を削ぎ落として他のクラウドや端末の分野への投資体力を奪い、結果として競争相手を妨害し自社の利益になると判断したとしてもおかしくはない。

2023-03-26 22:24:39
ゆな先生 @JapanTank

【高い検索コスト】 Google検索やBing検索は一般的なサーバーで動く。IntelのCPUにHDD。Index情報から検索結果を出力。 簡単に言えばすでに用意された目次をみて回答するのに近い。 つまり検索クエリ(=検索リクエスト)1回あたりのコストが非常に安い。 一方、Generative AIの検索コストは非常に高い。

2023-03-26 22:24:39
ゆな先生 @JapanTank

Generative AIの検索コストが高いのは、AIの設計上、検索クエリごとに大量のGPUを稼働させ、"毎回"回答を創作しているからだ。 Google検索で同じ質問をしても毎回ほぼ同じ回答が得られるが、ChatGPTに同じ質問をしても毎回微妙に違う回答を創作してくる。 そしてGPUや推論用半導体は非常に高価だ。

2023-03-26 22:24:40
ゆな先生 @JapanTank

Googleのビジネスモデルとは、単純に言えば「広告収入>検索コスト」だ。 仮に1回の検索クエリに平均2円かかっても、ユーザーが平均的に1クリック10円の広告を踏んでくれるならば検索する度にGoogleは8円儲かる。 全員が踏まなくても、平均して誰かが踏んでくれれば良い。

2023-03-26 22:24:41
ゆな先生 @JapanTank

それでユーザーは無料で高性能の検索エンジンを使えるし、Googleも儲かる。 広告主も広告が踏まれ商品やサービスを紹介でき、3者ともWin-Win-Winになる。 一方でGenerative AIの場合は、高コストのサーバーで稼働し、GPU(または推論用専用半導体)をフル回転させるので、1回あたりの検索コストが高い。

2023-03-26 22:24:41
ゆな先生 @JapanTank

例えば仮にChatGPT4では月20ドルの有料会員ですら1日あたりの検索回数に制限が設けられている。 天下のMicrosoftですらBing chat AIには参加者登録制で1日あたりの検索回数に制限を設けているが、これはコスト高が背景にある。 AIに使うNvidiaの半導体GPU A100シリーズは1枚数百万円もする。

2023-03-26 22:24:42
ゆな先生 @JapanTank

実際の検索クエリ1回あたりコストは明らかになってないし、裏側で動かすのが1750億パラメーターのGPT-3なのか数十兆パラメーターのGPT-4なのか、またどれだけの推論を行うかによって変わるとしても、大雑把に推定しても1クエリあたり20−30円かかっていてもおかしくはない。Google検索は1円2円だろう。

2023-03-26 22:24:42
ゆな先生 @JapanTank

この時、「広告収入>検索コスト」の不等式が成り立たなくなるどころか、検索されればされるほどAI提供会社は大赤字になる。 そうすると、ユーザーは無料(もしくは格安)で使えたとしても、検索エンジン提供会社は大赤字、広告主はChatでの返答のどこにも広告を載せることも出来ないので広告を出さない。

2023-03-26 22:24:43
ゆな先生 @JapanTank

これではビジネスとしては持続可能性がない。 これを乗り越えるためには、いくつか方法が考えられる。 (1)推論に使う半導体のコストが劇的に下がる (2)ユーザーがAIの利用にお金を払う (3)推論に使うパラメータ数を減らし、検索コストを下げる (4)Generative AIが出力する中身にあえて広告を入れる

2023-03-26 22:24:44
ゆな先生 @JapanTank

(1)は、短期的には現実性がない。 インテル創業者が提唱した「ムーアの法則」では「半導体の集積度(=つまり性能)は2年ごとに2倍になる」という法則に概ね従って半導体は成長してきた。 Generative AIのコストが十分な基準まで下がるには程遠い時間がかかり、長期的には可能性があるが、厳しい。

2023-03-26 22:24:44
ゆな先生 @JapanTank

GoogleのTPU(=Google自社設計推論・AI用半導体)のように、汎用的に売られている半導体(=CPUやGPU)ではなく、推論専用に自社設計でAI専用半導体を開発し利用する流れも見られるが、究極的には集積回路なので微細化が足りず、まだまだ必要とされる費用vs性能(=コスパ)を実現するには時間がかかる。

2023-03-26 22:24:45
ゆな先生 @JapanTank

(2)は、現在のChatGPTに近い。 現在ChatGPTがGPT-3ベースのものは無料で提供し、高性能なGPT-4を使うには月20ドルのお金をとっている(それでも1日あたりの利用回数には制限がある)。 無料の検索エンジンを遥かに超える結果を得られるならば、お金を払って契約するという人は出てくるかもしれない。

2023-03-26 22:24:46
ゆな先生 @JapanTank

(3)パラーメーターを減らして軽くするというのは、Googleが2023年3月現在米国英国でBard Betaで開始したモデルである。 1000億以上あるLaMDA LLMパラーメーターを数十億以下にまで性能を下げ、AI利用の検索コストを下げることで「まあまあなAIを持続的に提供しよう」という試みである。

2023-03-26 22:24:46
ゆな先生 @JapanTank

(4)Generative AIの検索結果に広告を入れるというのは本末転倒であるものの、広告を入れなければ成り立たないのが現在のWebの世界だ。下記で解説する。 【ChatGPTへ情報を提供する者がいなくなる可能性】 Google検索は世の中に公開されているウェブサイトへのリンクを検索結果として出力する。

2023-03-26 22:24:47
ゆな先生 @JapanTank

検索結果を出す時に 一緒にGoogle 広告を結果リスト上部に載せ、それをクリックするユーザーが出るとGoogleは広告主から収益を得る(Google Adwords) ユーザーはその検索単語に関連する商品を欲しがっているのだから、一般的になテレビや新聞広告より遥かに広告効果が高い。

2023-03-26 22:24:48
ゆな先生 @JapanTank

また世の中の多くのサイトには、Google が配信するWeb広告(=Google Adsense)が埋め込まれていて、ユーザーがその Web サイトの中で広告をクリックすると、GoogleだけではなくWebサイトの所有者にも広告収入が入る。 他のサイトに行っても同じ広告が追いかけてくるのを経験したことはあるだろう。

2023-03-26 22:24:48
ゆな先生 @JapanTank

例えば多くのまとめサイトはこれらの広告で収入を得ているし、例えば大手新聞社ですらも、広告バナーを載せてGoogle経由で収益を得ている。 新聞社は有料会員になるとフル版の記事を読めるサービスもありそれも収益源だが、それでも広告は紙面の時代もWebの時代も大きな収益源に変わりはない。

2023-03-26 22:24:49
ゆな先生 @JapanTank

広告収入を目当てに無料の様々なサイトが作られ、社会の様々な情報が共有され、情報が瞬時に手に入るようになった。 皆がTwitterを無料で使えるのも、FacebookやInstaを使えるのも広告のおかげだし、天気予報や乗換案内、地図を無料で見れるし、知識が無料で得られるサイトがあるのは広告のおかげだ。

2023-03-26 22:24:49