研究者がGoogle Driveに「装甲車の歴史」に関する資料をアップ→AIにテロリスト認定されて垢BANされた事例が怖すぎる

145
新山祐介 (Yusuke Shinyama) @mootastic

個人のGoogle Driveに「装甲車の歴史」に関する研究資料を置いておいたら、自動的にテロリストと判定されbanされた研究者の話。アカウントごと削除されているため、サポートすら受けられないらしい。個人的なメールや写真も削除された。 support.google.com/drive/thread/1…

2021-09-23 07:47:11
新山祐介 (Yusuke Shinyama) @mootastic

Google Drive(おそらくその他の類似サービスも)には、こういうリスクがあるということはもっと周知されるべき。しかもGoogleは連絡手段さえ絶ってしまうので、こうした事故が表に出てくることはほとんどなく、多くのユーザは泣き寝入りしているはず。

2021-09-23 07:52:26
新山祐介 (Yusuke Shinyama) @mootastic

個人的に面白いと思った海外記事のブックマーク。ネタ元はHNやRedditなど。日本語の要約は間違っていることもあるので引用は慎重に。意見はすべて個人的なものです。(2023年8月、別サイトに引っ越しました)

ono hiroshi @hiroshimilano

こういうのはクラウドの怖いところ。 twitter.com/mootastic/stat…

2021-09-23 12:59:43
Yosuke HASEGAWA @hasegawayosuke

これ、情報セキュリティの資料を置いてるのもいつサイバーテロの予備行為と見なされるかわからんな。他人事じゃない twitter.com/mootastic/stat…

2021-09-23 08:35:38
fujiyama @fuji_express

ひとつの企業のAIで意図しない垢BAN喰らう時代なんだな。歴史家だけでなく兵器関係資料を収集するとなるとゲーム屋もGoogleのクラウドに頼るのは危ないな。 twitter.com/mootastic/stat…

2021-09-23 17:49:31
Kohei.Sakamoto @KoheiSakamoto88

クラウドを使う上でこういう事故は避けられないよね... 幸い, こちらの件はうまく解決できたみたいだけど, 自分が同じ目にあったときに可決できるかは不明瞭. twitter.com/mootastic/stat…

2021-09-23 13:54:29
りょう @Ryo_photo_music

@mootastic リンク元みたらどうやらアカウント復活してるみたいです! pic.twitter.com/d96jvttfYq

2021-09-23 13:17:39
拡大
くおんみどり🖖 as Master_Asia @midorik

@mootastic なお、グーグル側から返信があり、アカウントは復活したみたいですね。

2021-09-23 19:01:00
みこあん★ 固定ツイート見て @RinaK10

ポルノならともかく、軍事車両の研究ファイルでbanされるのは想定外極まりない。幸い復活したようだが… twitter.com/mootastic/stat…

2021-09-25 12:08:35
中村 良幸 (Nakamura Yoshiyuki) @nakayoshix

荒ぶる神Google。 Google: The God That Failed. とにかく神Googleの怒り…じゃなく、AIの逆鱗に触れるような行為をするとこの世…じゃなく、この世界では生きていけなくなりますからね、十分気を付けましょう。実際にはGoogleだけでなくGAFAMにTwitterも含めて全部そうですが… #くわばらくわばら twitter.com/mootastic/stat…

2021-09-23 14:11:08
みるちゃ @Milk_tya

GAFA他巨大IT企業の持つ力とか生活への必要性はどんどん強くなるし、 それに比例して検閲の厳しさもどんどん増していくだろうから今後もこういう事例は増えるだろうなぁ twitter.com/mootastic/stat…

2021-09-23 12:22:27
今年中に痩せる71.1 @entente_gold

GoogleのAIが研究者のオンラインストレージ内の軍事用語をテロリスト認定してしまったの、本物のテロリスト達も周囲に物騒な軍事用語の飛び交う戦争ゲームの中で密談しているとかいう話と合わせて、AIによるネット監視の限界を感じてしまいますね・・・ twitter.com/mootastic/stat…

2021-09-24 12:15:00
Akira Kuwano-Yoshida@元潮岬風力実験所→災害気候研究分野 @bomb_akyura

北大時代、大通公園で爆弾騒ぎがあった時、私の爆弾低気圧のHPのアクセスログに道警アドレスが残ってたのを思い出した。 twitter.com/mootastic/stat…

2021-09-23 09:17:22

他の事例では

Hiroo Yamagata @hiyori13

@mootastic Googleだけではありません。顧客プライバシー重視というのクラウドにファイルを全部バックアップしたら、即日垢BANされ、規約違反があったがどのファイルが違反しているかも教えられない、中身は見ていないがファイルのハッシュ値で判断するとのこと。何が引っかかったかわかるだけマシかも。

2021-09-23 14:48:00
Hiroo Yamagata @hiyori13

ソーシャル (メディア) ディスタンス中 フォロワーの7割をブロック完了! 目標達成してR0も低下したので、少しずつロックダウン解除へ。

cruel.org

Hiroo Yamagata @hiyori13

@mootastic アルカイダの広報誌とかいっぱい持っていたのが引っかかったのだと今では思う。

2021-09-23 14:59:10
Hiroo Yamagata @hiyori13

@mootastic サポートの掲示板を見たら「オレのモロだしロリポルノコレクションが消えたがどうしてくれる」みたいな連中ばかりで、そこに混じること自体ためらわれたんだが…… しかし、先日のアップルの児童ポルノ検閲でもそうだが、児童ポルノ (またはテロ文書) をハッシュで識別するなんてことができるのか?

2021-09-24 09:50:45
新山祐介 (Yusuke Shinyama) @mootastic

@hiyori13 Appleが開発したNeuralHashなる新技術があって、画像であれば多少変化したり回転してもほぼ同一のハッシュ値になるそうです。当然、それに対する攻撃もすでに活発で、無関係の画像で濡れ衣の可能性あります。どうやらAppleはこの手のハッカー活動を甘く見ていた模様。 github.com/AsuharietYgvar…

2021-09-25 20:27:42
山本 大洋 😈⚡️ Ⓜ️ インディーゲーム開発者 Ⓜ️ Indie Game Creator @HYamamoto_tw

@hiyori13 過去に消されたファイル※のハッシュ一覧持ってて、それと同じのが見つかると引っかかります。 ※他ユーザーのファイル。まともなサービスの場合は公開リンクから通報された物等。ダメサービスの場合はハッシュというのが嘘 セキュリティ的にもファイル単位で暗号化してからアップしましょう!

2021-09-24 12:38:45
fuku0185 @fuku0185

@mootastic 人工知能は文脈が理解できない例ですね→ YouTubeでの「チェス談義」が、“人種差別”として削除された事件の真相 wired.jp/2021/03/06/why…

2021-09-23 14:10:41
リンク WIRED.jp YouTubeでの「チェス談義」が、“人種差別”として削除された事件の真相 著名なチェスプレイヤーによるYouTube動画が、人種差別発言を含むヘイトスピーチであるとして削除される“事件”が起きた。研究結果や実験から見えてきたのは、動画の内容をチェックするアルゴリズムが「黒」「白」「攻撃」「防御」といった言葉を誤判定した可能性である。そこからは、AIの現段階での限界と課題が浮き彫りになってきた。 24 users 360