生成AIで危険性は向上
生成AIの登場によりフェイク画像の危険性がより高まっていると警告する記事が公開されています。なぜ生成AIが問題になる可能性があるのでしょうか？
（前略）
生成AIを使って何かを作成することに参入障壁はない。少なくとも一般的に理解されているPhotoshopでは、スキル、時間、お金が必要だ。お金については工夫次第で回避する方法もあるが、残りの二つの制約は依然として存在する。
Photoshopでリアリティのある「偽」写真を作成するには、AIツールを使用せずに既存の写真素材、洗練された画像の切り抜きやマスキングテクニック、そしてすべて疑問に思われないように組み合わせるスキルが必要だ。誰も騙されないような下手なPhotoshop作業でも、画像生成AIにテキストプロンプトを入力するよりはるかに時間がかかる。良いPhotoshop作業を行うには、さらに時間がかかる。
必要な時間はPhotoshopを使用して偽情報キャンペーンを作成するための本質的な障壁となる。これはスケールに劇的な影響を与える。100人に画像生成AIを与えたら、スキルがなくとも1分でどれだけ多くの画像を生成できるか想像してみてほしい。才能あるデジタルアーティスト100人が1分でゼロから何を作成できるだろうか？ほとんど作れないか、または何も作れないだろう。
生成AIはまだ完璧ではないが、何もないところからリアルな画像を生成し、多くの人を騙すことができる段階にはるかに近づいている。特にSNSで一般的に表示されるサムネイルで見ればなおさらだ。それは数秒でできる。
しかし偽の画像を作成する能力は新しいものではない。AIが欺瞞的な写真の概念を破壊したわけではないが、Photoshopが決して行わなかった方法で革命を起こした。またAIが登場したのはコンテンツの拡散がほぼ制限なく、これまで以上に素早くかつ簡単になった時期だ。
それでもPhotoshopが写真に対する一般的な不信感を高め、強化する役割を果たしたことを認識することは重要だ。疑念の種はAIが登場する前に蒔かれていた。Photoshopは「見える」ものが「本物」や「真実」とは限らないという概念を広めた。
しかしPhotoshopの登場以来、偽の写真は一般的には例外的な存在だった。
もう、そうではない。Photoshopとは関係なくすべては生成AI画像に関係している。それらが作成される方法を誰も規制できないし、または規制する意思もない。欺瞞を騙るために簡単に利用でき、そして画像が共有され広く消費されている方法に関係している。
（後略）
生産性が非常に高い生成AI
記事では偽の写真はフィルム写真の時代からあり、デジタルになってフォトショップなどで簡単に偽の画像を作成することもできたとしています。しかし、生成AIの性能の向上によって、これまでにない危機を迎えているとしていますね。
これまでのフォトショップでのフェイク画像を生成するのは、時間とスキルとお金が必要だったため、フェイク画像を心配する声はあったものの、それほど危険性が高いものではなかったとしています。しかし生成AIには時間もスキルもお金も必要なく、誰でも簡単に本物っぽい画像を作ることができるということで、これまで必要だったコストはまったく必要なくフェイク画像ができてしまうと指摘しています。
そしてそれは写真への信頼性低下につながり、それがひいてはメディアへの不信感やメディアの信頼性の低下につながるかもしれないと壮大な話になっていきます。このあたりは引用外ですので、全文は記事元リンクからご覧ください。
これまでもフェイクではなくともまったく関係ない画像に文章を付けてSNSで広めるということは結構ありました。有名なところだと動物園を逃げ出したライオンとか、関係ない群衆の画像に「○○候補の応援に人々が集まった様子」としてSNSに投稿した例などありますよね。
それそのものはどこかにあった画像を流用したようですが、今度は生成AIで作れてしまうということで、確かにはるかに簡単にフェイク画像ができてしまいます。以前にも「豪雨で水没した○○市の様子」といってAIで生成した画像をSNSに投稿した例もありました。
まだ画像生成AIは怪しいところもあって、何となくAIの画像かなとわかるレベルですが、さらに技術が発達すると本当に見分けのつかない写真がでてくることは間違いないと思いますね。
記事では、そうなると写真の真贋を保証する仕組みが必要だと訴えているわけですが、確かに「本物」という証明ができる画像以外はすべて信頼できない画像と判断するしかないのかもしれません。将来的には自分のカメラ、ひょっとしたらスマホにも画像の真贋を確かめることができるC2PAの技術が搭載されるようになるのかもしれませんね。そして写真のコンテストなども、その証明が必要になるかもしれません。
さらに「画像の真正性を守るためGoogleがC2PAに参画、改ざん防止技術の導入を推進」ではC2PAにGoogleが参画したことについて詳しくお伝えします。
（記事元）PetaPixel
- Nikon Z9新ファームでの修正点が一部判明 主にZ 28-135mm f/4 PZへの対応か
- FE 28-70mm F2 GMは焦点距離全域で開放での撮影ができ非常にボケが美しい
- 中古カメラ市場ではニコン製品が人気!? 中古ランキング席巻の謎
- サムヤン レンズ2本発表のティザーを公開 期待のRF-S AFレンズが登場か!?
- なぜ人々はα1 IIに失望したのか!? AIに聞いた結果 “価格の割に革新的な変化がない”??
- 富士フイルム GFX100II、X-H2、X-H2S新ファーム公開 AF性能大幅向上との報告も
- ニコン Nikon Z50IIの使用説明書を公開 N-Log動画編集ガイドも併せて公開
- α1 IIは高解像度とスピードのバランスを改善 AF性能には非常に感心
- Nikon Z70には この4機能は絶対に必要だがZ70が登場する可能性は低い
- パナソニックのLUMIX新製品 年明けの発表に期待する声 S1H II、S1R II発表あるか!?
コメント