AIの認識をだませる『敵対的機械学習』の話がもうSFの世界「人間には同じ画像に見えるのに」

yoichiro nasu @ynasu

なるほど 人の顔にもAMLメイクができるとイイな twitter.com/uchujin17/stat…

ウチューじん・ささき @uchujin17

AMLの一例。人間の目には左も右も同じパンダの画像に見えるけれど、右の画像には人間の視覚では認識しづらい恣意的なノイズが重ねられていて、無防備なAIはノイズ上の情報に誘導されて「gibbon(テナガザル)です(キリッ)」と断言してしまっている。このノイズパターンを作り出すのがAML。 pic.twitter.com/geIc3aRePN

2020-12-05 03:56:33

薮裏🍊柑子@高校理科 @yaburako

顔面に目立たないプロジェクトマッピングして顔認証潜り抜けるとか。 twitter.com/uchujin17/stat…

中沢草太 @SotaNakazawa

防犯カメラのAIに人として認識されないフェイスペイント”CV Dazzle"などもあるしAIハックがどんどん進んでいって人類vsAIの前哨戦っぽさがある。 twitter.com/uchujin17/stat…

汝、翼を与える＠ばってん先に翼ばくれんね イベント・・（parody） @ryunosinfx

twitter.com/uchujin17/stat… このAMLを常にやってくれるポンチョとか 誰か売ってくれないかな その前に対人光学迷彩の実用化なんだろうけど。

ウチューじん・ささき @uchujin17

類似の例。「あなたはヤギね！」ならぬ、スクールバスもピラミッドもカマキリも「あなたはダチョウね！」と誤認識させるAML攻撃の例。 pic.twitter.com/rQDt9YEEbL

2020-12-05 03:58:27

ｊｋｄｐ代表戸締まり役 @jk_jimbo

こーゆーノイズ割り込ませた護符シール作ってAI監視網を回避する未来の闇シール屋稼業で小遣い稼ぎせなー ナ twitter.com/uchujin17/stat…

がっきー@漫画家総合垢 @gakky88NSR

ほへー、認識の仕方を突くのね。 まぁこれも人間の視覚、認識力の解明に必要な事よね。 人間の視覚に合わせて機械の方の認識力を落とす必要があるのかな。 twitter.com/uchujin17/stat…

Logue | Elven Engineer @logue256

現在表現可能な色は48ビット（281兆5000億色）あるんだよなぁ。データー上は大きく違いがあっても、人間の目には多少色が違ってもわからないよね。 twitter.com/uchujin17/stat…

名人｜マナリンクCTO @Meijin_garden

面白くもあり恐ろしい。人間の目はピクセル単位で見える訳では無いから、ノイズを足された画像かはわからず、AIがポンコツになったかのように勘違いしてしまうという。これはこれからの画像認識はあえてぼかした画像で学習せなあかんのでは…（？） twitter.com/uchujin17/stat…

アオイ模型 @aoi_mokei

これ使ったステルス戦闘機（肉眼で見えるけど、ロックオン出来ない）が大石英司の作品に出て来てたな twitter.com/uchujin17/stat…

雪山雪乃介 @yukiyama2003

へぇー 面白い技術だなーって思ったんだけど 人間でも あの子って、そんなに美人でもないんだけど なんか可愛いよなーってのあるから もしかして人間の認知機能にもそんなのあるかもしんないな twitter.com/uchujin17/stat…

スパルたん @Fpga18Gansn1230

このノイズ付与を学習機構に追加したら精度上がりそう twitter.com/uchujin17/stat…

Coco Gabrielle @CocoGabrielle_

大変な世の中だーー twitter.com/uchujin17/stat…