生成AI版キンタマウィルス『モリス2』、画像や文字列に埋め込まれたプロンプトから、データ流出、スパム送信、マルウェア拡散、研究者がgoogleなどに警告

Ledge.ai | AIトレンドの鉱脈 @ledgeai

新型AIワーム「Morris II」が生成AIアプリを狙い、ゼロクリックで機密情報の窃取に成功する ledge.ai/articles/zero-…

banshee(おおかみ) @higan_wafu

winnyの時もなかなか規制進まなかったのでAntinnyというウイルスがばら撒かれた ワームってどっちも書いてるし似た構造じゃないかな 日本だと2007年に警視庁の個人情報データ流出。被害届の内容とか捜査リストとかいう一般人に知られたらダメなのが出回った 警視庁がwinny使うなよって思うが、生成AIも同じ道辿るのかな 詐欺師を食うクロサギってのがあるが、誰かを食い物にする悪人は誰かに食われる危険性もあるって覚悟すべきなんだろうな 気軽な気持ちで人の道を外れちゃいけないと思う

山田さんto @toyamada33333

@ledgeai 確かに 生成ＡＩは狙いやすいでしょうね 今後は生成ＡＩを入れてるパソコンや、スマホへ攻撃的なウィルスがばら蒔かれるでしょうね

なかはら @kageku_nakahara

リテラシーのない人間はカモでしかないわね x.com/ledgeai/status…

AI無断学習反対派 @AI_mudan_no

そもそも生成AIの中に盗まれてはいけないクレジットカード番号などの機密情報が入っていること自体が大問題なんですが、非常に恐ろしいですね…。 Gemini Pro、ChatGPT 4.0、LLaVAを対象にテストを行ったとありますので、現在利用している方はただちにアンインストールすることをおすすめします。 x.com/ledgeai/status…

つちのこクライシス @tsuchinokokura

@AI_mudan_no 生成AIの中にクレジットカード情報が入ってるんじゃ無くて、生成AIを入り口としてパソコンにハッキングを掛けられる感じじゃないでしょうか？

AI無断学習反対派 @AI_mudan_no

@tsuchinokokura ただ、ChatGPTの中に個人情報が入っている点は事実で、 japan.cnet.com/article/352123… ダークウェブ上でChatGPTアカウントが売買されている事も確認されています。 xtech.nikkei.com/atcl/nxt/colum… ですので、規約に反しない利用だとしても使わない方がより安全だと言うのが私見です

つちのこクライシス @tsuchinokokura

要は画像解析機能を入り口としたハッキングか 流石にこの辺はすぐに対策される話だろうけど、 セキュリティ意識のない粗悪ソフトを使わないように注意する必要はあるかなあ x.com/ledgeai/status…

眼鏡丸 @NGHAILFcyMxg8vx

コレも『反AIの仕業』とか言い出しそう。 x.com/ledgeai/status…