生成AIで危険性は向上
生成AIの登場によりフェイク画像の危険性がより高まっていると警告する記事が公開されています。なぜ生成AIが問題になる可能性があるのでしょうか?
(前略)
生成AIを使って何かを作成することに参入障壁はない。少なくとも一般的に理解されているPhotoshopでは、スキル、時間、お金が必要だ。お金については工夫次第で回避する方法もあるが、残りの二つの制約は依然として存在する。
Photoshopでリアリティのある「偽」写真を作成するには、AIツールを使用せずに既存の写真素材、洗練された画像の切り抜きやマスキングテクニック、そしてすべて疑問に思われないように組み合わせるスキルが必要だ。誰も騙されないような下手なPhotoshop作業でも、画像生成AIにテキストプロンプトを入力するよりはるかに時間がかかる。良いPhotoshop作業を行うには、さらに時間がかかる。
必要な時間はPhotoshopを使用して偽情報キャンペーンを作成するための本質的な障壁となる。これはスケールに劇的な影響を与える。100人に画像生成AIを与えたら、スキルがなくとも1分でどれだけ多くの画像を生成できるか想像してみてほしい。才能あるデジタルアーティスト100人が1分でゼロから何を作成できるだろうか?ほとんど作れないか、または何も作れないだろう。
生成AIはまだ完璧ではないが、何もないところからリアルな画像を生成し、多くの人を騙すことができる段階にはるかに近づいている。特にSNSで一般的に表示されるサムネイルで見ればなおさらだ。それは数秒でできる。
しかし偽の画像を作成する能力は新しいものではない。AIが欺瞞的な写真の概念を破壊したわけではないが、Photoshopが決して行わなかった方法で革命を起こした。またAIが登場したのはコンテンツの拡散がほぼ制限なく、これまで以上に素早くかつ簡単になった時期だ。
それでもPhotoshopが写真に対する一般的な不信感を高め、強化する役割を果たしたことを認識することは重要だ。疑念の種はAIが登場する前に蒔かれていた。Photoshopは「見える」ものが「本物」や「真実」とは限らないという概念を広めた。
しかしPhotoshopの登場以来、偽の写真は一般的には例外的な存在だった。
もう、そうではない。Photoshopとは関係なくすべては生成AI画像に関係している。それらが作成される方法を誰も規制できないし、または規制する意思もない。欺瞞を騙るために簡単に利用でき、そして画像が共有され広く消費されている方法に関係している。
(後略)
生産性が非常に高い生成AI
記事では偽の写真はフィルム写真の時代からあり、デジタルになってフォトショップなどで簡単に偽の画像を作成することもできたとしています。しかし、生成AIの性能の向上によって、これまでにない危機を迎えているとしていますね。
これまでのフォトショップでのフェイク画像を生成するのは、時間とスキルとお金が必要だったため、フェイク画像を心配する声はあったものの、それほど危険性が高いものではなかったとしています。しかし生成AIには時間もスキルもお金も必要なく、誰でも簡単に本物っぽい画像を作ることができるということで、これまで必要だったコストはまったく必要なくフェイク画像ができてしまうと指摘しています。
そしてそれは写真への信頼性低下につながり、それがひいてはメディアへの不信感やメディアの信頼性の低下につながるかもしれないと壮大な話になっていきます。このあたりは引用外ですので、全文は記事元リンクからご覧ください。
これまでもフェイクではなくともまったく関係ない画像に文章を付けてSNSで広めるということは結構ありました。有名なところだと動物園を逃げ出したライオンとか、関係ない群衆の画像に「○○候補の応援に人々が集まった様子」としてSNSに投稿した例などありますよね。
それそのものはどこかにあった画像を流用したようですが、今度は生成AIで作れてしまうということで、確かにはるかに簡単にフェイク画像ができてしまいます。以前にも「豪雨で水没した○○市の様子」といってAIで生成した画像をSNSに投稿した例もありました。
まだ画像生成AIは怪しいところもあって、何となくAIの画像かなとわかるレベルですが、さらに技術が発達すると本当に見分けのつかない写真がでてくることは間違いないと思いますね。
記事では、そうなると写真の真贋を保証する仕組みが必要だと訴えているわけですが、確かに「本物」という証明ができる画像以外はすべて信頼できない画像と判断するしかないのかもしれません。将来的には自分のカメラ、ひょっとしたらスマホにも画像の真贋を確かめることができるC2PAの技術が搭載されるようになるのかもしれませんね。そして写真のコンテストなども、その証明が必要になるかもしれません。
さらに「画像の真正性を守るためGoogleがC2PAに参画、改ざん防止技術の導入を推進」ではC2PAにGoogleが参画したことについて詳しくお伝えします。
(記事元)PetaPixel
- OMデジタルにはマイクロフォーサーズの再熱狂のためにこのカメラを発売して欲しい
- キヤノン 動画撮影に適する Super 35mm 4k60p グローバルシャッターセンサー発売
- シグマ 新望遠レンズは60-700mm f/4.5-7.4か50-500mm f/4.5-6.5との憶測
- 2025年はOMデジタルの勝負の年!? 4年経過し新会社計画のカメラがついに登場!?
- Z 50mm f/1.4は個性的!? 良いレンズか悪いレンズかは主観で評価がわかれる
- シグマ 次の新製品は”これまでになかった望遠レンズ” 野生動物向けのレンズになる!?
- さすがキヤノンの旗艦機! EOS R1がヨドバシカメラランキングで1位を獲得
- EOS R1の供給状況の調査 納期は約3ヶ月と判明
- 【検証】ソニーFE 28-70mm F2 GMの流れていた噂は正しかったのかどうか検証する
- EOS R7 Mark IIではR5 Mark IIのような失敗を繰り返してはならない
コメント