AIの画像補正技術が高すぎて、そこに存在しない生物を作り出して起きてしまった悲劇

ねねこ @noahsun_bird

某SNSでAI生成画像と思われる野鳥の画像を自分が撮影したとして掲載している人がいてびっくりしている。それも複数枚、中には本当であれば日本初記録と思われる種類の鳥まで。自己顕示欲怖……。

ねねこ @noahsun_bird

これ、ご本人と話し合い、AI生成画像であることは確定したんだけど、本人に全く悪意がないというか…自己顕示欲じゃなくただAIに騙されていただけと言える事案なことが判明しました。 twitter.com/noahsun_bird/s…

ねねこ @noahsun_bird

とある有料アプリで、AIによる画質改善サービスというものがあり、遠くの鳥やブレた鳥の写真を読み込ませると勝手にトリミング・画質改善してくれるとのこと。それを通した結果、ありえない写真・存在しない鳥のできあがり。ご本人は写真が綺麗になって嬉しい😊と思っていた、悪意は全く無かったと。

いい感じの紳士 @HiraStraight

@noahsun_bird @dongame6 ？？「自分で撮影した」 ？？「AIに騙されただけ」 どちらかが嘘をついている！！！

ねねこ @noahsun_bird

@HiraStraight アプリ自体はあくまでも｢画質改善サービス｣であって、AIによる改変については特に説明がなかったので、当人からすると写真編集アプリと大差ないという認識だったようです。AI生成画像とは何ぞやって世代の人でしたし、まさか改変されているとは思っていなかったようで。

魔法少女系VTuber❤️‍🔥天路 めあ @35TTAGGG35

なるほど、単なる画質改善でブレやピンボケが直せると思って使ったらAIが読み込んで再出力したせいで種が異なる鳥に→本人はそこまで詳しくないので単なる加工だと誤認ということなんですね。 twitter.com/noahsun_bird/s…

なぎせ ゆうき @nagise

AIによって見栄えのするそこにいないはずの鳥に書き換えられてたってことか…… 知らずにフェイク画像を産み出すサービスやべぇなあ…… twitter.com/noahsun_bird/s…

青空さん(呼び捨て推奨) @yuukoaozora

ええー！これ可哀想な事案じゃん。むしろ被害者じゃん。せっかく撮った写真をなんの説明もなく改変されてたなんて。 本人は綺麗になったと喜んでいたようだけど真実を知ったらガッカリしてないだろうか。 twitter.com/noahsun_bird/s…

ねねこ @noahsun_bird

@yuukoaozora 最近鳥の勉強をしようと思って入れたアプリで、写真が綺麗になったと喜んでいた自分が恥ずかしい……と仰っていました……。

青空さん(呼び捨て推奨) @yuukoaozora

@noahsun_bird やっぱりそうなりますよね。私もまったく今のエーアイ？とやらの新しい技術についていけてない世代なのでその人のぬか喜びぶりに同情してしまいます。

鮎子 @ayayk_LH

老眼すすむと本気で写真加工の度合いがやばいことに気づかない可能性は多いにあるんですよね……。 twitter.com/noahsun_bird/s…

ねねこ @noahsun_bird

実際に〇日間無料プランに入って試して見たら、スマスコカナダカモメがこうなった pic.twitter.com/E9CgqlqHxF

拡大

拡大

ねねこ @noahsun_bird

AIにかかればこれが pic.twitter.com/ijBnba0neg

拡大

拡大

拡大

拡大

ねねこ @noahsun_bird

こうなる ｢AIによる画質改善サービス｣を謳っているが、あくまでも｢AIが写真をそれらしく再構築する｣のであって画質改善ではないことが分かる。 pic.twitter.com/5ldmanATgx

拡大

拡大

拡大

拡大

ねねこ @noahsun_bird

でも4枚目のギンザンマシコなんか結構出来がいいし、写真もバードウォッチングも初心者の人なら、今どき画質改善なんて自動でやってくれるんだ、いい機材じゃなくてもこんなアップで綺麗な写真にできるんだ、多少おかしいのは無理に編集したからかな？となってもおかしくない。

ねねこ @noahsun_bird

ご本人には疑ってしまって申し訳ないと謝罪した上で、このアプリは人工知能がありえない写真・存在しない鳥を作り出していること、もはや貴方の写真ではなくなってしまっていること、下手でも一生懸命撮った貴方のそのままの写真の方が素敵であることを伝えています。

ねねこ @noahsun_bird

たまにバケモンが出てくる pic.twitter.com/ScQx1GOZhd

拡大

拡大

ねねこ @noahsun_bird

自分でツイートして思ったけど、写した人や生物、食べ物、無機物とかを｢狐の窓｣を通して撮影したていでバケモノ化してくれるAIカメラ良くないですか!?!?!?誰か発明して

まさき |『CVMLエキスパートガイド』の管理人 @cvml_eg

アプリでは「元画像を超解像して画質向上(ズームイン)できるとうたっていて、でも実際は「鳥画像の画像生成モデル」を裏で一緒に用いており、実写とは無関係の拡大画像を加工している(擬似的な超解像)という感じですかね。 なので、この後の写真例のように、たまに「キメラ画像化」も起きてしまう。 twitter.com/noahsun_bird/s…

タクタク･テラ @qhqhTerra

架空生物としてめちゃくちゃ面白い twitter.com/noahsun_bird/s…

ぽぽんた（たぬきのすみか） @popontatoneko55

ふおお・・((((；ﾟДﾟ))))))) twitter.com/noahsun_bird/s…

よわいさとう @June_Minatsuki

元の写真は単なる材料のひとつでコンピュータがそれをベースに「こんな写真だったらうれしいでしょ」ってクリエイトしてくれちゃうようになっちゃったんだな 神林長平世界じゃん…… twitter.com/noahsun_bird/s… twitter.com/noahsun_bird/s…