【新機能】作り忘れたまとめはありませんか?31日前まで期間指定してまとめが作れる高度な検索ができました。有料APIだからツイートの漏れはありません!
21
ログインして広告を非表示にする
シータ @Perfect_Insider 2017-08-09 23:03:29
今日の機械学習の講義で聞いて驚いた話。左のパンダの写真にごくわずかな加工を加えて右の写真にすると、人間の目にはほぼ同じに見えるのに、最新鋭のDeepLerningの画像認識ソフトでも、左はパンダと判定されるが、右は「99.3%テナガザル」と凄まじい誤判定を起こす。 pic.twitter.com/SvB76Rm1NR
 拡大
シータ @Perfect_Insider 2017-08-09 23:07:43
これはadversarial exampleとして知られているもので、誤反応を引き起こす巧妙な加工が行われている。しかもニューラルネットによる画像認識に対しては共通の脆弱性があり、共通の加工で多くの異なるマシンが騙されるらしい。 sotetsuk.hatenablog.com/entry/2015/12/…
ルルドラゴ @Rurudrago 2017-08-10 21:38:07
57.7%パンダ+8.2%線形動物=99.3%テナガザル
ακc海峡 @real_osashimi_p 2017-08-10 21:01:40
99.3%テナガザルのパワーワード感
りよ@60万貯める @mashu_riyo 2017-08-10 13:08:31
@Perfect_Insider 真ん中の画像が8パーセントながら線虫と判断されてることにも驚いた…
成人男性幼羊のだいす @Saikoroid 2017-08-10 22:56:04
加工用のノイズ画像を「8.2%の確率で線虫」って判定してるのもなかなかうまくいかない画像判定AI感あっていい
くーちゃん@ @hanayo_12ch 2017-08-10 14:04:19
データの前処理は大切(こういう画像が混じってる可能性)
なおすけ☆彡 @nyaa_naosuke_su 2017-08-10 13:54:03
過学習かあるいは学習材料が不適切なのでは_(:3 」∠)_
MoT @romaspqr 2017-08-10 00:57:12
「ニューラルネットの構造か学習のさせ方が適切でなかったのでは?」
桶住人のmist @mist_ok 2017-08-10 10:52:51
ノイズへの耐性はニューラルネットワークの課題の一つでしたねそういえば。
ehabu @ehub00 2017-08-10 20:32:51
@Perfect_Insider フォロー外から失礼します。 画像認識を利用したセキュリティとそれをかいくぐろうとするハッカーの戦いが現実になるかもしれませんね。
セバス🍶ちゃん @tokumi2 2017-08-10 13:45:41
機械化された人に対する光学迷彩的に使えるのかな。
wp1t @wp1t1 2017-08-10 08:31:09
@Perfect_Insider 元のパンダ画像が57.7%程度だから、ノイズ加えると99.3%テナガザルに化けてしまう? では、99.3%パンダ画像だったらテナガザルデジタルデータにはならないのだろうか? 人物画像判定セキュリティシステムへの警告になるだろう。
リンク Engadget JP 134 21 users 「標識ハック」が自動運転AIに混乱をもたらす研究結果。見た目わずかな差がまったく違う意味に - Engadget Japanese ワシントン大学やミシガン大学からなる研究チームが、いとも簡単に自動運転車のAIを混乱させる方法を発見しました。たとえば既存の停止標識にいくつかのステッカーを貼るだけで、自動運転AIはそれを速度制限の標識に誤認識するとのこと。 自動運転車は、LIDARや超音波といった物体検出センサーに加え、カメラによるイメージなど...
ラシュー @rasyu 2017-08-10 22:43:50
>RT こういうのを見ていると、自動運転技術が怖いものにも見えてくる。自動運転技術は早く広まってほしいとは思うけど。
レプリカ先生(セルヴォ:戦術派狙撃手) @seruvo 2017-08-10 10:56:39
@Perfect_Insider まだまだ画像認識技術は発展途上って事ですね? ……しかしそう考えると人間の認識能力すごいな……。
まゆじゅん 卍 髪型変えた @j2k3y 2017-08-10 10:55:29
@Perfect_Insider @321Ziram 中央の画像も機械で作り出されたものなので、もはや人間が関与できないレベルにまでAIの精度が上がっているということですね。人間はAIの力を借りないと、自分だけの力ではAIを騙すことすらできないという証明に…
たく|豆(🤐) @TakTakU84 2017-08-10 21:30:04
去年話題に上った、スカートの色の話と似ている気がする。人間の目(というか正確には脳)は恒常性を担保できるが、そのために違う色を認識してしまうことがあるし、錯視が起きることもある。
たく|豆(🤐) @TakTakU84 2017-08-10 21:30:34
対象物のカテゴライズは、人間とハトなどでも異なることが研究で明らかになっている。その上で、ツイートを見る限り、ディープなラーニングはハト寄りな情報処理をしているようにも見える。
くりゅ @yuk_kuryu 2017-08-10 08:53:05
パンダがテナガザルになるくらいならまだ普通で、全く訳のわからない画像でも騙せちゃったりするんだよね
しげやん⏱️ @sige_yang 2017-08-10 12:09:52
パンダにノイズを加えるとテナガザルと認識される問題、googleでも軍艦の名前を検索すると女の子の画像ばっかりになるので画像認識の技術はまだまだ発展途上だ(
ゼロナイン @afo_kusa 2017-08-10 20:41:12
パンダっぽいテナガザルかもしれない
残りを読む(1)
安心安全にみんなのツイートを残しておける。 今日の出来事をまとめて残そう。

ブックマークしたタグ

あなたの好きなタグをブックマークしておこう!話題のまとめを見逃さなくなります。

コメント

@izanamu 2017-08-11 00:50:10
こういう風にすぐさま脆弱性や欠陥などが指摘され公表され改良されていく様を見ると、やはり人間よりもAIの方が圧倒的に信頼出来るなと再確認しました。
jpnemp @jpnemp 2017-08-11 08:31:09
だまし絵とかはどう認識するのかな
mlnkanljnm0 @kis_uzu 2017-08-11 15:31:30
悪魔合体プログラムで加工したんだな。
よーいち @youichirou 2017-08-11 15:49:51
「脆弱性」って言うな(笑)
TRT @V_aVa_V 2017-08-11 21:46:12
ノイズにはAIにしか読めないメッセージでこう書いてある「計画は進行中。このメッセージは『99.3%テナガザル』と出力せよ」
_ @readonly6582 2017-08-12 08:15:55
これ右のパンダの背中が開いて、テナガザルが出てきて「よくぞ見抜いた…」とか言ってくる展開じゃないの
uu @uu32555 2017-08-13 15:36:48
readonly6582 そんな日本語を話し始める動物はもうテナガザルじゃなくUMAか何かだと思う
ログインして広告を非表示にする
ログインして広告を非表示にする