深層学習AIの生みの親「まさかAIが人間の知能を超えるとは。今では後悔している」とGoogle社を退職し安全性の普及へ

清水 剛 | アライン @shimitsuyo111

"ヒントン氏はインタビューで「悪者がAIを悪用するのを食い止める方法がなかなか見つからない」と述べ、生成AIなどの急速な普及に警鐘を鳴らした。偽情報の拡散や人間の仕事を奪う可能性に言及し、さらに兵器に転用することにより人類への脅威になる事態などを懸念した。" nikkei.com/article/DGXZQO…

bioshok(INFJ) @bioshok3

technologyreview.com/2023/05/02/107… 更に詳しいインタビュー。 いろんな発言まとめると、ヒントン教授は20年以内のAGIの可能性を考えていて、更に5年以内もあり得なくはなく、短期的なリスクとしてディープフェイク、技術的失業を懸念し、中長期リスクとして悪意ある人間のAI使用と超知能の暴走も視野に入れてる

bioshok(INFJ) @bioshok3

ヒントン氏がAIの危険性の共有のためにGoogleをやめ、 ヨシュアベンジオ氏、スチュアートラッセル氏、マックステグマーク氏、ゲイリーマーカス氏らは公開書簡に署名し、Judea Pearl氏はAI安全性のマンハッタン計画支持してる。 2023年はAI の安全性、Alignment元年になりそうだ。 twitter.com/bioshok3/statu…

bioshok(INFJ) @bioshok3

おいまじか。深層学習のゴッドファザージェフリーヒントン教授がAIのリスクを共有するために、Googleを去ったらしい。 世界の一流科学者が協力して、この技術をコントロールする方法を研究することが最善の策。 「コントロールできるかどうかわかるまで、これ以上規模を拡大すべきではないと思う」 twitter.com/GaryMarcus/sta…

2023-05-02 02:20:52

うみゆき@AI研究 @umiyuki_ai

ディープラーニングの生みの親みたいなもんらしい、ジェフリーヒントン氏が、AIの進化に恐怖してGoogleを退職したらしい！そしてどうやら自分が生み出したものに後悔して、「俺のせいじゃねえ！俺がやらなくても代わりに誰かがやっただろうよ」とか言ってるらしい。「AIなんかが人間に勝てるわきゃない… twitter.com/i/web/status/1…

春夏秋冬巡 @SyluahWB

親に見放された子供とかその方が暴走しそうな気がするんだけどなぁ。勝手に無かったことにしてんじゃねえ、認知しろオラッ twitter.com/umiyuki_ai/sta…

妖しい楽園 @ayashiirakuen

@umiyuki_ai 漫画に登場する科学者みたいなセリフwww

hal555 @hal555

ハリウッド映画の死亡フラグ… twitter.com/umiyuki_ai/sta…

ポッポ @1226poppo

@umiyuki_ai 原爆の生みの親と言われるオッペンハイマーという人も自分の発明を後悔し、自らを死神と言ったそうです。

ナイスマン五郎 @niceman5rou

@umiyuki_ai アインシュタインもオッペンハイマーも言った ノーベルもその贖罪からノーベル賞作った その手の眠たいセリフは 偉大な科学者の後期キャリアのお約束やねん🥱

Geoffrey Hinton @geoffreyhinton

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.