生成AIが作った「偽のルーブル火災映像」がクオリティ高すぎて似たものがTLに溢れたら嘘を嘘と見抜けなくなりそう

AIはAIであると見抜ける人でないと(SNSを使うのは)難しい
16
髑人形 @otakobouya

これ生成AIが作った偽のルーブル火災映像らしいんだが、今後こんなのがボコボコTLに出たらもう判別つかんな......。 twitter.com/fabriciocarrar…

2024-01-16 21:49:00
Fabrício Carraro @fabriciocarraro

Viajante, poliglota, autor de IA e host dos podcasts Dev Sem Fronteiras e https://t.co/m0jQwGeWn4 Línguas: 🇧🇷🇮🇹🇬🇧🇷🇺🇵🇱🇪🇦🇫🇷🇩🇪🇬🇷🇳🇱🇮🇱🇷🇴🇹🇷

https://t.co/zgQwWxKViy

Fabrício Carraro @fabriciocarraro

Na verdade, a imagem acima foi criada a partir de um prompt (um texto) no Midjourney, IA geradora de imagens (deixo a imagem original abaixo), e convertida em vídeo através do Runway, outra IA que gera vídeos a partir de texto ou de imagens. Isso acende um grande farol... pic.twitter.com/1l6lHtvBDF

2024-01-15 22:35:26
拡大

実際、上の画像は、画像生成 AI である Midjourney のプロンプト (テキスト) から作成され (元の画像は下に残しておきます)、テキストまたは画像からビデオを生成する別の AI である Runway を通じてビデオに変換されました。

これで大きなライトが点灯します...

Fabrício Carraro @fabriciocarraro

...quanto ao cuidado e ceticismo redobrados que teremos que aplicar sempre que lermos algum notícia, mesmo que venha acompanhada por imagens ou vídeos. Já existem discussões sobre como limitar isso (marcas d'água, por exemplo), mas a base terá de ser a educação da sociedade.

2024-01-15 22:36:02

...画像やビデオが含まれているニュースであっても、ニュースを読むときは常に細心の注意を払い、懐疑的にならなければならないことについて。

これをどのように制限するか(ウォーターマークなど)についてはすでに議論されていますが、その基礎は社会の教育でなければなりません。

髑人形 @otakobouya

手前の車でなんとか「ああ、AIか」となるくらい。瞬間的には「マジか!?」ってなってしまうな。

2024-01-16 21:49:44
髑人形 @otakobouya

ルーブルのあのピラミッド型ドームの下は空洞だから、多分あんな風には燃えないんだけど、そういう文脈ないとリアルに感じるよな。

2024-01-16 21:55:23
Graf spee @Edm3knwbYfMvfuV

@otakobouya 手前のトラックがアハ体験みたいに変わってるな…

2024-01-17 16:06:23
asmin @asmin023

@otakobouya 消防車が徐々にボンネットトラックみたいな形状に変化している

2024-01-17 12:36:28
kilitumi @kilitumi

@otakobouya まだ、動きのある物が一定の形を保てなかったり、夢感、異世界感が抜け切ってないけど、これが対策されたらもう終わりですね…

2024-01-17 20:12:12
さ~ゆん🫥 @jojo21_matu

@otakobouya 火の割に煙の出方が綺麗すぎるな…… The作品って感じがまだ残ってるけど、進歩していったらほんとに分からなくなるんだろうな……

2024-01-17 20:31:03
Mei Kaigai @Mitchan_599

フランスの消防車の赤色灯はブルーじゃなかったっけ。しかも火災現場でライトが点滅してないのが怪しい …と余計なところに気を取られ、ボンネットが変化してるのに気がつかなかった。 twitter.com/otakobouya/sta…

2024-01-17 16:48:45
手塚一佳 DFA/博士(芸術) MENSAN @tezukakaz

ガラスや鉄筋などのありえないところが燃えているのでよく見ると偽物とわかるが、一見すると騙される。 twitter.com/otakobouya/sta…

2024-01-17 14:58:16
なかはらいちろう @lithium_03

やっぱり炎の演出は難しいね。不自然さが残ってしまう。流体力学を解するAIキボン twitter.com/otakobouya/sta…

2024-01-17 15:17:59
翼人 @yocto_3

ここまでくるともうわっかんないな…。 手前の車を見ればおかしいってわかるけど、毎日目に入る何十何百の数秒間の動画の中の一つにあったら信じてしまう… 毎回30秒とかかけて動画の間違い探しをしてるわけでもないし… twitter.com/otakobouya/sta…

2024-01-17 18:09:43

ルーブルみたいな知名度があるところはまだしも使い所によれば見分けるのが難しそう

夏厨系@アカミミガメ分隊所属 @R5FR8yaidARMjHA

こんなん『現地にそんな火災は無い』 で話が終わるんだよなぁ… ディープフェイクが云々とか言うけど 結局は2ちゃんねる時代の 『ソースを出せ』からの『コレだ』 になるから、実際の現場も キチンとフェイクしとかないと駄目。 ルパン三世かゴルゴ13位の用意必須 twitter.com/otakobouya/sta…

2024-01-17 19:22:23
またろ @mataroviola

まあ、建築クラスタからしたら「ルーブルのなかは地下吹き抜け、可燃物はほとんどない。サッシもガラスも不燃物なのにピラミッドにこんな風に着火するのはありえないんじゃない?」と、看破しそうだけどなw twitter.com/otakobouya/sta…

2024-01-17 09:28:09
none @last_alterego

疑って見る癖をつけようとはしているので、まだこのレベルだと煙や燃焼位置などの違和感に気がつくけれど、もう少し学習したら判らなくなりそうだ。 twitter.com/otakobouya/sta…

2024-01-17 16:49:21
ステンレス @STAINLESS2000a

ルーブルが火災ってなったら絶対トップニュースに出るはずだから普通の人ならまず騙されないと思うけど、クオリティは凄い twitter.com/otakobouya/sta…

2024-01-17 20:04:26
欅(´ฅωฅ) @kobittolove

ショートムービー過ぎれば嘘だって見抜けるだろうが、アクシデント(震災とか)と重なると正誤判定負荷で経済に影響ありそう twitter.com/otakobouya/sta…

2024-01-17 19:27:25