どんな質問にも答えてくれるAIが研究に使える！優秀！と思ったら、めちゃくちゃ嘘の情報をそれっぽく喋ってるだけだった

ナコタス🔮👑🎨 @YithPnakotus

@9Do0G AIのべりすとに架空の伝染病の起源と歴史、治療法の確立までを語らせた動画の流れそのままで草

車載猫 @ymmtinf

このＡＩくん、めちゃくちゃ嘘つくし知ったかぶりするしでいいキャラしてるよな のべりすとくんとはまた違った良さ twitter.com/9Do0G/status/1…

工藤玲司 @9Do0G

めちゃくちゃ実在の人物っぽく言ってるけど東京大学大学院卒業後、新潟大学で音楽を研究してる鈴木孝明さん、架空の人間じゃん！！！！！！！！！なんだったんだ今日１日！！！！！！！楽しかったけど！！！！！大学にまで電話して論文どうしたら読めるか確認したのだが！！！？？ごめんなさいだよ！！ twitter.com/9Do0G/status/1…

2022-12-02 17:11:29

疾風怒濤 @SturmundDrang97

遊んでみたら本当に架空の人物をあげてきておもしろかった！ 使う側に知識がないと騙されちゃう(>_<) twitter.com/9Do0G/status/1…

Takeshi Sakaki@ @tksakaki

SFによくある 「AIなので嘘をつけません」 実際には 「AIは嘘と本当を区別できないので、悪意なくそれっぽいことを言います」 だったな。現時点では。

さんまだんご @atnmtest

@9Do0G これ本当にそう 本人に「人間は無意識に確実度（或いは嘘）で表現を変えるから相手にもそれが伝わるけどAIにはそれがないからお客さんへのQ&Aに使えない。確実度をメタ情報として別途もたせられないか？」って聞いたら「正しいかどうかは人間が判断してください」って返ってきたんだよー

aki @__aki_

それなりの構文を生成できるだけの機械なのだから、内容の意味を信じちゃダメ。 構文の適切さというメタ情報で文章の信頼性を計ってはいけないことの証左でもある。 twitter.com/9Do0G/status/1…

Quieter／クワイエッタ @_Quieter_

AIちゃん、フィクションにはすごい頼もしい、でも事実はすべて疑わないといけません。固有名詞は特に。コードも実際動くまでは疑った方がいいようです。彼らは親切な宇宙人であり、質問者に答えることが最大の正義であり、その真偽は二の次という文脈の世界で生きています。「嘘を嘘と...（略）」 twitter.com/9Do0G/status/1…

Dr.まも @MaMO_arts_ut

リサーチマップとか研究者登録するサイトがありますのでそれで確認とかできますよ〜 twitter.com/9Do0G/status/1…

雪風 @ventneige

大学の中の人ですが困りはしても迷惑とは思わない案件なので気にしないで！　ほぼすべての大学は自校に関心持ってもらえることには感謝しかないから大丈夫！ twitter.com/9Do0G/status/1…

トの字 @HbA1c_10over

AIが拾ってくる情報源がネットだから起こる事態か。 なんというか、嘘だと見抜けない民明書房のような(笑) 長野の大学とかで調べたら、しれっと国際信州学院大学とか言ってきそう。 twitter.com/9Do0G/status/1…

KITAYAMA Takeshi @kitayamatakeshi

@kimikazu 適当にネット上の文章をつぎはぎしているだけだから、内容の真偽は全く保証されませんよ。twitter.com/9Do0G/status/1…

kimmy @kimikazu

@kitayamatakeshi 人名で聞いてみると、真偽わかりやすい！ 的確なのか正確なのかの違い、というか、AIに要約力が一瞬負けた気がしたのでした。

KITAYAMA Takeshi @kitayamatakeshi

@kimikazu 少なくともchatGPTはテキストを与えて要約するためのシステムではなく、なんかそれっぽい会話を続ける為のシステムなので、内容の真偽は問わない事が明言されています。要約用のシステムを作れば、それはそれで精度の高いものが作れるとは思います。twitter.com/salfanic/statu…

salfa @salfanic

pic.twitter.com/Kooon10V0U

2022-12-01 23:03:29

salfa @salfanic

pic.twitter.com/Kooon10V0U

拡大

kimmy @kimikazu

@kitayamatakeshi そうそう人工知能（Intelligence）であって、人工知性（Intellectual）ではないということ。切り貼りの要約が、明らかに間違いであることを判断するのは、まだ人間の仕事ですねえ・・・そもそも力道山は殺さないんじゃ

レシニ𝕏ェラトキシン（注・からい。空を飛ばないものだけを指す） @09ip

相手を言語モデルのAIだと理解した上で騙される実例を見てしまった。 ……いやまて、このツイート自体もそのAIによる創作の可能性が（疑心暗視） twitter.com/9Do0G/status/1…

Hiroaki Kato (オンライン個別指導講師) @hiro_studish

ChatGPTはプライバシーの観点から個人情報は学習してないので質問しても返事してくれないはずなんだけどな。歴史上の人物とか既に亡くなっている著名人とかは答えてくれるけど。 twitter.com/9Do0G/status/1…

工藤玲司 @9Do0G

@hiro_studish 架空の人物だからそのルールが適応されずに色々答えてくれた、ってことなんですかね。

Hiroaki Kato (オンライン個別指導講師) @hiro_studish

@9Do0G もしかしたらそうかもしれないですね。だとすると架空の人物の情報を作っちゃうのはすごいですね。この件に関しては迷惑だけど。

工藤玲司 @9Do0G

@hiro_studish 実在の人物の情報は答えない、というのを知ったので次は気を付けます……。架空のイベントとかもさも本当にあるように言ってくるのですごいです。

Hiroaki Kato (オンライン個別指導講師) @hiro_studish

@9Do0G ChatGPTで同じ質問をしてみましたが逆の答えが返ってきました。工藤さんはおそらくopenAI.com 上のアプリを使ったと思うのですが、アルゴリズムが違うのかもしれないですね。openAI.comの方だと色々設定もできるのでその辺も影響してるかもしれないです。 pic.twitter.com/RZs7NuFf2Q

拡大

工藤玲司 @9Do0G

@hiro_studish 面白いですね！！「幽霊は存在する？」という質問には「存在しない」と返ってきたのですが、「存在する」と言うAIもあるのかなとか考えたら楽しくなってきました！物は言いようかもしれませんが、会話AIとしてはとても面白いです。

工藤玲司 @9Do0G

「特定の音程によって性的反応を誘導する」、官能的なコード進行があるって話とセクシーな気持ちになるBPMがあるって話を聞いたことがあったからこの話にも興味を持ったんだけど、これに類する研究もあるのかもしれない。鈴木さんはいなかったけどこの音程が実在していないとは言い切れない。 twitter.com/9Do0G/status/1…

玉兎ni烏 @ni_karasu

AIに構想のアイデア貰う作家さんとか出てきそう🤭 twitter.com/9Do0G/status/1…