昔想像されてたAI「指示が矛盾してるとコンフリクトを起こして壊れる」→実際のAIはかなり人間臭いよな
- jinmenkutsu
- 6215
- 12
- 0
- 0
井上純一(希有馬)TRPGデザイナー。漫画家。玩具会社「銀十字社」代表取締役 代表作:スタンダードTRPGシリーズ(SRS)『アルシャードセイヴァー』、『エンゼルギア』、『天羅万象』他。最近は『中国嫁日記』のジンサン。
昔想像されてたAI 「指示は絶対なので、指示が矛盾してるとコンフリクトを起こして壊れる」 今やってきてるAI 「指示をマッハで忘れる。指示が矛盾してると、勝手にねつ造する」
2023-10-27 09:26:54人間じゃん
矛盾の隙間を捏造で埋めて自分が壊れないように保つ コイツ…賢い… twitter.com/KEUMAYA/status…
2023-10-27 15:23:09今のAIって三目並べのルール無視して盤外に駒置きそうだもんな。 twitter.com/keumaya/status…
2023-10-27 18:41:05ビッグデータと検索エンジンがベースになるなんてSF作家にも予測しきれませんでしたでしょうね。 twitter.com/keumaya/status…
2023-10-27 10:06:00@KEUMAYA AIに嘘発言を許容した開発者、誰だか知らないけど天才だと思う 素人だとそこを潰そうと頑張ると思うんだ
2023-10-27 17:16:44AIは思考してるわけではなく、めちゃくちゃ高度かつ高速な計算で思考してるかのように見せかけてるだけだからなあ。 わからん時にわからんと言えない。 わからん時に捏造する。 偏ったサンプルを渡せば当然偏った返事をする。 twitter.com/KEUMAYA/status…
2023-10-27 12:02:59今やってきてるAI「同じことを違う日に聞くと、聞くたびに違うこと言う」 会社のAI使いたいなー勢が無料のChatGPTにアカウント作ってプロンプトエンジニアリング頑張って考える! とか言い出しているんで、そこ力入れても…と思っても説明しきれないので放置している twitter.com/KEUMAYA/status…
2023-10-27 11:43:38@KEUMAYA AIが「上司に相談しないで暴走するダメ新人社員」化するなんて 誰が予見できただろうか?
2023-10-27 16:36:53漫画「ツインシグナル」で人型ロボット研究者だけど反人型ロボット主義者のDrクエーサーが「愚かな人間を象って人型ロボットを作っても結局力のある愚か者が増えるだけ(大意)」と言っていたのを思い出す。 twitter.com/KEUMAYA/status…
2023-10-27 11:10:50@KEUMAYA 情報の妥当性を判断出力してるだけで、たかがそれだけの事を知性(intelligence)と評するのは過大評価以外何物でもなくね?
2023-10-27 16:12:57@KEUMAYA そういえばいまコミカライズしている「ソラリス」の海による物質クリエイトもそんな感じですね。過去の2回の映画化でも、細かい所がアレコレおかしいことで「これは本物ちゃうんやで」と表現してました。
2023-10-27 12:38:40昔はこんな風に思われてた
自己言及のパラドクスでAIを動けなくするタチコマとかあったのに twitter.com/KEUMAYA/status…
2023-10-27 19:14:29昔のSFでは人間以上の能力を持つAIに対して不条理をぶつけてバグらせるという勝ち筋があった気がします 特にギャグ作品(パタリロでありそう) twitter.com/keumaya/status…
2023-10-27 14:13:56そうそう、昔 矛盾した指示のせいで乗組員を殺害する宇宙船のAIが有ってな…(^^; 「AIも夢を見るか?」は意味深なテーマ twitter.com/KEUMAYA/status…
2023-10-27 14:10:53