AIの画像補正技術が高すぎて、そこに存在しない生物を作り出して起きてしまった悲劇

ゆうしゃアシスタント @yuusyaasisutant

これはマジで気を付けなけりゃあかん案件 AIによる補間は色々あれど、基本的に出力される画像は「編集済みの物」であって結果としてディティールが潰れたりなあなあになった「架空の物」が出来る事は多々ある…… twitter.com/noahsun_bird/s…

ねねこ @noahsun_bird

とある有料アプリで、AIによる画質改善サービスというものがあり、遠くの鳥やブレた鳥の写真を読み込ませると勝手にトリミング・画質改善してくれるとのこと。それを通した結果、ありえない写真・存在しない鳥のできあがり。ご本人は写真が綺麗になって嬉しい😊と思っていた、悪意は全く無かったと。

2023-05-02 15:10:32

なぎせ ゆうき @nagise

国をまたぐと生物相は異なるが、AIはワールドワイドに被写体を学習してるだろうからぐちゃぐちゃ生物相画像になってしまう…… もっと賢くなればシチュエーションに合わせてだな……（そういう問題ではない

波島想太 @ele_cat_namy

白黒写真をカラーにしたという画像が時々回ってくるけど、あくまでイメージであって、本当にその色だったかはわからんのだよな……という話を思い出す。 twitter.com/noahsun_bird/s…

ねねこ @noahsun_bird

これ、ご本人と話し合い、AI生成画像であることは確定したんだけど、本人に全く悪意がないというか…自己顕示欲じゃなくただAIに騙されていただけと言える事案なことが判明しました。 twitter.com/noahsun_bird/s…

2023-05-02 14:47:48

ginko8🇺🇦戦争反対☮️💉4🫠 @ginko8oro

adobe使ってると思うけど、めっちゃ適当でもそれらしく見せてくる。 片手だけ5センチ長くなるとか普通だし、説明しても分からない人多数。ただ使ってる人には割と分る、本気で騙す気でプロが作らない限り、解析すれば分かるとは思う、今は。 twitter.com/noahsun_bird/s…

健 @takeru_ha_fukei

昔の俳優の不鮮明な写真にコンピュータでの補正を加え“鮮明”にしたら 当時のその俳優を知るひとたちが「こんな顔じゃない！」と言いきった話、前にありました。 今回の鳥は“鮮明”化が誤りだというのが専門家によって判明しましたが… CG技術もそうだけど“真を写す”ものかの判断が現代では難しい。 twitter.com/noahsun_bird/s…

陽だまり @Illust_iine

AIならではの事故だね。写真の内容が正しいかはまだ人間頼り。 twitter.com/noahsun_bird/s…

かい @andromeda1062

そもそもアプリの謳い文句が間違ってて皆悲しい思いをするパターン。 画質改善と写真内の対象を別な物に変えるは全然違う。 こういうこともあるのか。 twitter.com/noahsun_bird/s…

ぼうふら海将補🇫🇷フォロバ100 @zeroroku_55

これ似たような事例めちゃくちゃあるんじゃないか？？ twitter.com/noahsun_bird/s…

人間ジェネリック @DividedSelf_94

これねー、実は最近のスマホのカメラも全く同じことしてるので他人事じゃないのよね。 twitter.com/noahsun_bird/s…

オード＠多忙 @ord_realdgame

これ某国の会社のスマホが「100倍ズーム！」って宣伝してたのに実際には撮った写真をAIで勝手に綺麗に修正してボヤけた画像を鮮明にしてた件と同じじゃん。（米国人が疑問を持ち、わざと不鮮明な月の画像をそのスマホで撮り直したら鮮明に「ありえない綺麗な月」の写真が撮れてバレた） twitter.com/noahsun_bird/s…

井ノ部 悠 @InobeYu

Galaxyのカメラの100倍ズーム機能「スペースズーム」で撮影した月の写真は「AIによる偽造」という指摘 - GIGAZINE gigazine.net/news/20230312-… これと似た事例ですね twitter.com/noahsun_bird/s…

千葉 @moto_chi_ba

「月の画像」みたいなもんか。 「夜空の月」を撮ると、自動認識して、記録してある高解像度の画像と合成した画像を出して来る gigazine.net/news/20230316-… twitter.com/noahsun_bird/s…

大手茂 @j23g5akQSniY9Rf

監視カメラ画像をAIが間違った方向に補正して冤罪とか起きそう twitter.com/noahsun_bird/s…

くつねえ(՞ . .՞)੭" @NeShoeshine

デジタル写真の証拠性の話につながるし勝手に加工しちゃうスマホ写真も今後はRAW残しといたほうがいいかも 報道でもAFPなんかは現場から上がってきたデータが怪しいときはRAW提出求めるし twitter.com/noahsun_bird/s…

くつねえ(՞ . .՞)੭" @NeShoeshine

何周かまわって銀塩撮って出し主義が台頭したりして

箱崎咲也 @見えない生き物 @rhapsodyblue56

@papa_no_nikki この「画像改善サービス」を使うと、せっかくプライバシーに配慮してボカシを入れた人物や車の写真などが復元されてくっきり画像になってしまうという事も有り得るのでは。 存在しないものが生成されてしまうのも問題ですが、モザイク外しとしての悪用も怖いです。

たか@駆け出し一般人 @gogotandadada

@Illust_iine この辺り、ホントに難しいです。 気持ちとか法律や倫理とか広範囲に意識する必要があるので。

陽だまり @Illust_iine

@gogotandadada 法整備が追いつくまでは大変だと思う。あんまりヒヤヒヤする画像は来ないと良いなと😂

やまねこ⚙楢ノ木技研 @felis_silv

これさ、Samsonの月合成と根っこは同じなんだろうけど、写真を撮って自分で見る分にはそれでいいんだよな。思い出なんて自己満足でしかないんだし。ただ、それを第三者に見せて、思い出以外の確度から、例えば学術的な視点から見られたりすると、まずい。。。 twitter.com/noahsun_bird/s…

やまねこ⚙楢ノ木技研 @felis_silv

まぁ、でも、世間に散らばってるデータを信用しすぎる側の問題、って気もするよな。そんなん、完全に捏造の可能性もあるわけで。学術調査でインスタにアップされてる画像を使うか？みたいな。

＞ω＜ @u_akihiro

@felis_silv 機械学習の時に、学習に使うデータを整えるのが辛い、だったのが、機械学習が高度に広く普及したときに、別のところでの、データを洗うの辛いが発生するやつ...