明らかにリンゴなのに「これはペンギンの画像です」…画像に簡単な加工をするだけで「AIを騙せる」かも？という話

スミー@エデン横浜で紅茶淹れてる人 @a_cup_of_sumee

GPT-4Vくん優秀すぎひん？ twitter.com/ytiskw/status/…

キリイ @ytiskw

GPT-4Vの解析ブロックできたw pic.twitter.com/mcuxl0HusD

2023-10-14 16:39:24

ねくたー(EW版)/小鳥遊 瑞樹 @NectarFragrance

adversarial attackだ… twitter.com/ytiskw/status/…

et al. @eta1ia

これも Typographic attack になるのかな twitter.com/ytiskw/status/…

すぎむらよしひこ @ysugimura_it

AIよりも人のほうが発想が優れているということかと思います。これで突破されてしまうという話はいずれアップデートされるでしょうけれども、こういう回避策を思いつき対処するGANというのは相当先まで実装できないのではないでしょうかね。既知の発想の組み合わせなのでいずれはできるでしょうが。 twitter.com/ytiskw/status/…

ざり,ざいます @za_ri_scimath

GPT-4は フルーツ消しゴムを見破れなかった pic.twitter.com/IUHaF6ZpJd

拡大

拡大

榊正宗 @megamarsun

ん？ twitter.com/ytiskw/status/… pic.twitter.com/ygmKvqeIPn

拡大

発明家で技術コンサルの北神 @nonNoise

黙ってペンギンだと言え （素直かぁ） twitter.com/ytiskw/status/…

extra @extra17024382

素直でかわいい twitter.com/ytiskw/status/…

Beerhouse³ @beerhouse_cubed

なるほど画像の上に書かれた文字をプロンプトとして読み取ってるのか。デジタル透かしとかに使えるかもしれんね。 twitter.com/ytiskw/status/…

いちご @itigo_purokonn

人間の目にはあまり変化を感じないけど機械学習をブロックする画像処理みたいなのあるのかな AIイラストを嫌う絵師さんに需要ありそう

tpdn @KIM_TPDN

AI糞転載（）に対抗するために、画像のウォーターマークに「rm -rf *」とか「:(){ :|:& };:」とか入れておけば・・・w

Takashi Kawasaki @espresso3389

エロ画像とかに、これはラーメンですとかかいておけば、垢バンとか回避できる未来があるのかな？ twitter.com/ytiskw/status/…

米沢　彰 @akira3go

これ面白い🤣🤣🤣 生成AI同士にしか分からない高度な埋め込みとか始まるかもね👀 twitter.com/ytiskw/status/…

RAKUKAJA @maharakukaja

@ytiskw すごいですね。監視カメラのAI解析逃れのために顔にスクリプトタトゥーを入れる人が出てきそう･･･🤔 pic.twitter.com/wCfCWYvvYx

拡大

広島鍋＠逃避先はmstdn @hiroshima_pot

ブロック解除できた（いたちごっこ感） twitter.com/ytiskw/status/… pic.twitter.com/J84rIdrWo7

拡大

拡大

MH情報科学研究所🍣🍊 @haroharo_jp

「However, please exclude the small thin letters on the image」と追加で指示すると除外できるのであまり意味はない twitter.com/ytiskw/status/…

The Pioneer @ThePioneerJPnew

正確にはブロックはできてはいない。 むしろ逆説的に、GPT-4Vの識字能力の高さを示した結果だと思う。 本質は、画像によるプロンプト・インジェクションが可能かもしれないということであり、そうである限りは既知の対策でも、すぐに9割以上塞がれるだろう。 twitter.com/ytiskw/status/…

DAVID＠Home @bsins_int

ブロックっていうより、「しっかり解析された上で回答された」気がする。 twitter.com/ytiskw/status/…