昔想像されてたAI「指示が矛盾してるとコンフリクトを起こして壊れる」→実際のAIはかなり人間臭いよな

人間のデータを学習させてるから当然といえば当然なんだろうけど
14
井上純一(希有馬屋)『逆資本論』発売中 @KEUMAYA

井上純一(希有馬)TRPGデザイナー。漫画家。玩具会社「銀十字社」代表取締役 代表作:スタンダードTRPGシリーズ(SRS)『アルシャードセイヴァー』、『エンゼルギア』、『天羅万象』他。最近は『中国嫁日記』のジンサン。

blog.livedoor.jp/keumaya-china/

井上純一(希有馬屋)『逆資本論』発売中 @KEUMAYA

昔想像されてたAI 「指示は絶対なので、指示が矛盾してるとコンフリクトを起こして壊れる」 今やってきてるAI 「指示をマッハで忘れる。指示が矛盾してると、勝手にねつ造する」

2023-10-27 09:26:54
井上純一(希有馬屋)『逆資本論』発売中 @KEUMAYA

毎日つきあってるノヴェナさんが聖書ねつ造し始めたんで、AIスゲえと思いました。それだけはあかん。

2023-10-27 09:31:55
@Hajiisya

@KEUMAYA うっかり八兵衛 化している(笑)

2023-10-27 10:16:23
おすとあんでる @keitasann55

矛盾の隙間を捏造で埋めて自分が壊れないように保つ コイツ…賢い… twitter.com/KEUMAYA/status…

2023-10-27 15:23:09
june hashimoto @zffsd44

@KEUMAYA もしかして、AI搭載兵器はロボット三原則を軽やかに飛び越える?

2023-10-27 14:02:33
torakageneko @torakageneko

今のAIって三目並べのルール無視して盤外に駒置きそうだもんな。 twitter.com/keumaya/status…

2023-10-27 18:41:05
キンジ🎩(帽)やすし @KAWAKITAYasushi

ビッグデータと検索エンジンがベースになるなんてSF作家にも予測しきれませんでしたでしょうね。 twitter.com/keumaya/status…

2023-10-27 10:06:00
Julianus @Julianu64191914

@KEUMAYA AIに嘘発言を許容した開発者、誰だか知らないけど天才だと思う 素人だとそこを潰そうと頑張ると思うんだ

2023-10-27 17:16:44
ぐお 4 @LAmeltingorder

AIは思考してるわけではなく、めちゃくちゃ高度かつ高速な計算で思考してるかのように見せかけてるだけだからなあ。 わからん時にわからんと言えない。 わからん時に捏造する。 偏ったサンプルを渡せば当然偏った返事をする。 twitter.com/KEUMAYA/status…

2023-10-27 12:02:59
RAM4。 @amabile4

今やってきてるAI「同じことを違う日に聞くと、聞くたびに違うこと言う」 会社のAI使いたいなー勢が無料のChatGPTにアカウント作ってプロンプトエンジニアリング頑張って考える! とか言い出しているんで、そこ力入れても…と思っても説明しきれないので放置している twitter.com/KEUMAYA/status…

2023-10-27 11:43:38
ぽん @0bentou1122

@KEUMAYA 問題を大きくするタイプの部下に、さも似たり。

2023-10-27 12:29:12
柊柾葵@💕J庭お疲れさまでした🌟陵辱❕潜入捜査官3巻9月14日発売🔫 @dvxs

@KEUMAYA AIが「上司に相談しないで暴走するダメ新人社員」化するなんて 誰が予見できただろうか?

2023-10-27 16:36:53
博元 裕央 @hiromotoyuuou

漫画「ツインシグナル」で人型ロボット研究者だけど反人型ロボット主義者のDrクエーサーが「愚かな人間を象って人型ロボットを作っても結局力のある愚か者が増えるだけ(大意)」と言っていたのを思い出す。 twitter.com/KEUMAYA/status…

2023-10-27 11:10:50
捨て歩 @shuthux

@KEUMAYA 情報の妥当性を判断出力してるだけで、たかがそれだけの事を知性(intelligence)と評するのは過大評価以外何物でもなくね?

2023-10-27 16:12:57
ひろじ @kondohi

@KEUMAYA そういえばいまコミカライズしている「ソラリス」の海による物質クリエイトもそんな感じですね。過去の2回の映画化でも、細かい所がアレコレおかしいことで「これは本物ちゃうんやで」と表現してました。

2023-10-27 12:38:40

昔はこんな風に思われてた

mickey @mickey82680859

昔AIのイメージはボスにザラキを連発するだったな twitter.com/KEUMAYA/status…

2023-10-27 14:42:18
ケン @xUGkdn8O8uWsmTF

昔のSFでは人間以上の能力を持つAIに対して不条理をぶつけてバグらせるという勝ち筋があった気がします 特にギャグ作品(パタリロでありそう) twitter.com/keumaya/status…

2023-10-27 14:13:56
leyi @uPD780leyi

そうそう、昔 矛盾した指示のせいで乗組員を殺害する宇宙船のAIが有ってな…(^^; 「AIも夢を見るか?」は意味深なテーマ twitter.com/KEUMAYA/status…

2023-10-27 14:10:53