ChatGPTを物理学でチェックした

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ChatGPTは、コピペでレポート課題を出す学生と同レベル。何も理解していない。あるいはWikipediaと同レベル。寄せ集めにすぎない。逆に、コピペでレポートを出す学生もいるし、Wikipediaを引用して恥ずかしいと思わない人もいるという「現実」を反映している。と私は思う。 businessinsider.jp/post-263042

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ChatGTP氏に繰り込み群について質問すると、繰り込みと、繰り込み群をごっちゃにして、出鱈目を答えることがあった。私見では、これは危ないので、お辞めになるのも一興かもしれません。 知っていれば出鱈目とわかるが、知らないと誤解というか混乱というか、することに気付けないのではないか？ 2/n

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ChatGPTも、GPT3と同じ感じ。丁度、大学生がレポート課題をググって出たそれらしい文章を繋ぎ合わせ、尤もらしく仕立てて素知らぬ顔で提出するレポートを読まされている気分。私には苦行だ。騙されないように、本当かなと常に考えながら読まないと、危なくて仕方がない。Wikipediaと全く同じ。3/n

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ChatGPTに質問を続けて深掘りすると、ほとんど同じ文章が2回出てくることがある。コピペミスをやらかして気づかない学生と同じ。例えばコピペした部分が別フォントなのに気付かないとか。 でもサボりたい学生には福音かもしれない。もっともらしいレポートを、楽して一瞬で作成できるだろうから。4/n

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ChatGPT氏に、繰り込み群について質問を続けた人のレポートを拝見して感想。 中身はもっともらしく書かれているかもしれないが、部分的にはデタラメ。（その部分は、他で使えば正しいけれど。） しかし私が真剣にチェックしたくなるくらいには（苦笑）もっともらしい　とも言えそうだ...　5/n

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ChatGPT氏に、繰り込み群について質問を続けた場合。元ネタの何かがあって同じコピペを繰り返し、使っている。完全に失格。学生もこんなヘマはしない。或いは何も考えずコピペする学生と同レベル。 一時期、コピペのレポートに悩まされたことを思い出す。その後、そういうひどいのは減ったのだが。 6/n

MIZUNO Yoshiyuki　水野義之 @y_mizuno

最近の学生は、「これはAIに書かせたレポートではありません」、と書いてくることがある。 彼ら・彼女らも、現状をよく分かっているんですね。 今年（2022年）の夏に（前期レポート採点で）、これで笑いました。 7/n

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ChatGPT氏に、Isingモデルについて質問するケースの事例。私が「おかしい」と思うのは、Isingモデルのような単純化したモデルが、新物質の設計に役立つのかどうか、という点。少なくとも、例えばRKKY相互作用のような、もう少し現実的な長距離相関も入れたモデルが必要ではないでしょうか。 8/n

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ChatGPT氏の「迷作文」を、真面目にチェックするのは、時間がない（バカらしい）のでこの辺で。興味深い事例が多い。逆に、簡単に騙される可能性がある。デタラメだと見抜ければ良い。そこはWikipediaと同じ。 Wikipediaの閲覧を禁止するつもりはない、もしも仮に、その間違いを指摘できるなら。 9/n

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ChaGPT氏の、もっともらしい作文を真面目に読むと、気が狂いますね。学生レポートよりも疲れます。どこを誤魔化しているか、学生レポートよりも巧妙かもしれません。それを考えながら読むのは(現状の私には)時間の無駄以外の何者でもありません。 ただし真面目な学生レポートもあるので念の為。 10/n

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ChatGPTがいかに酷いか、よく分かった。今までで最悪。それが「もっともらしい」だけに。これは壮大な「文化破壊」につながるのではないか。私見ではWikipediaも酷いが、もっとひどい。 これをお遊びで留めれば人畜無害。しかしそうはならない可能性もあるならば、まずいのではないか。 11/11

MIZUNO Yoshiyuki　水野義之 @y_mizuno

ここ20年間に起こり続けてきた知識の切り売りの時代。 元々「ひとまとまりの知識」を断片化して、それを尤もらしく繋いで、情報として「市場」の中で切り売りする時代。断片化された単語に「いいね」される時代。 ChatGPTはそれと同じレベルだと、私は思う。それで驚く人がいるなら残念なことだ。