AIの画像補正技術が高すぎて、そこに存在しない生物を作り出して起きてしまった悲劇

やまねこ⚙楢ノ木技研 @felis_silv

@u_akihiro こういうの、機械学習以前じゃないですかねぇ。。多数の人間が自由に情報を発信できるようになった時点で、もはや、散らばってる情報の価値なんて。。

＞ω＜ @u_akihiro

@felis_silv スマホでその場で撮影した何かの"生データ"、みたいな感じで、データに署名でもつけて後から判別可能になる?ような、プラットホーム側が根っこに仕込む仕組みが求められているw

やまねこ⚙楢ノ木技研 @felis_silv

@u_akihiro データが天然であることの証明って必要になるのかもしれない。。。ｗ

non @nnmtng

@u_akihiro @felis_silv こんなカメラとソフトはあったので、できなくはないんでしょうけど、それがうれしいかというと、加工できないスマフォの画像はうけなさそう nikon-image.com/products/softw…

骨猫® @iiiiliiiil_1cm

AI画像出力の弊害でも「誰も悪意が無いパターン」もあるんだね。 twitter.com/noahsun_bird/s…

ねねこ @noahsun_bird

これ、ご本人と話し合い、AI生成画像であることは確定したんだけど、本人に全く悪意がないというか…自己顕示欲じゃなくただAIに騙されていただけと言える事案なことが判明しました。 twitter.com/noahsun_bird/s…

2023-05-02 14:47:48

m9 @m9_O_o

これはまさに「無知に悪意を見出すな」の例か。 twitter.com/noahsun_bird/s…

すきえんてぃあ@書け @cicada3301_kig

pic.twitter.com/tz6OWUFXfs twitter.com/noahsun_bird/s…

拡大

三木里秀予@おいしいものを食べる @hmikisato

「AIの弊害」ってむしろこういう方面の案件の方が今後致命的になりそうだな…… twitter.com/noahsun_bird/s…

魔法少女系VTuber❤️‍🔥天路 めあ @35TTAGGG35

これ、AIイラストを描く際にも普通にイラストを描く(過程で得た)知識がないと着物の作りの正誤に気づけないとか影のおかしさに気づけないとかいうやつと同じ事象ぽいですね。

秋 @veg0c2

知識がないとAIの出してくる、つじつまをキレイにあわせた誤情報に気がつけないってこわいですよね… twitter.com/noahsun_bird/s…

セラ@i @ce11ali0n

嘘は嘘であると見抜ける人でないと（インターネットを使うのは）難しい …という古典が今更になって刺さるエピソード twitter.com/noahsun_bird/s…

きーやん/👦4y1m @papa_no_nikki

chatGPTにしてもこの「画質改善サービス」にしても、AIを通した情報やデータは疑ってかかるべきなんだろうね。 鵜呑みにしてしまうと本当にヤバいことになりそう。 意図せず嘘やデマをばら撒くことにもなりかねないし、下手したら戦争の火種とかにもなるんじゃないかな。

ささぶね @sasabune_tw

AIリテラシー問題を考える上で良い事例だと思った。人類がこれから何十年も向き合うことになる問題なんだろうな。ネットリテラシーより対策が難しく翻弄される人が多く厄介そうだと思う。 twitter.com/noahsun_bird/s…