生成AIで危険性は向上
生成AIの登場によりフェイク画像の危険性がより高まっていると警告する記事が公開されています。なぜ生成AIが問題になる可能性があるのでしょうか？
（前略）
生成AIを使って何かを作成することに参入障壁はない。少なくとも一般的に理解されているPhotoshopでは、スキル、時間、お金が必要だ。お金については工夫次第で回避する方法もあるが、残りの二つの制約は依然として存在する。
Photoshopでリアリティのある「偽」写真を作成するには、AIツールを使用せずに既存の写真素材、洗練された画像の切り抜きやマスキングテクニック、そしてすべて疑問に思われないように組み合わせるスキルが必要だ。誰も騙されないような下手なPhotoshop作業でも、画像生成AIにテキストプロンプトを入力するよりはるかに時間がかかる。良いPhotoshop作業を行うには、さらに時間がかかる。
必要な時間はPhotoshopを使用して偽情報キャンペーンを作成するための本質的な障壁となる。これはスケールに劇的な影響を与える。100人に画像生成AIを与えたら、スキルがなくとも1分でどれだけ多くの画像を生成できるか想像してみてほしい。才能あるデジタルアーティスト100人が1分でゼロから何を作成できるだろうか？ほとんど作れないか、または何も作れないだろう。
生成AIはまだ完璧ではないが、何もないところからリアルな画像を生成し、多くの人を騙すことができる段階にはるかに近づいている。特にSNSで一般的に表示されるサムネイルで見ればなおさらだ。それは数秒でできる。
しかし偽の画像を作成する能力は新しいものではない。AIが欺瞞的な写真の概念を破壊したわけではないが、Photoshopが決して行わなかった方法で革命を起こした。またAIが登場したのはコンテンツの拡散がほぼ制限なく、これまで以上に素早くかつ簡単になった時期だ。
それでもPhotoshopが写真に対する一般的な不信感を高め、強化する役割を果たしたことを認識することは重要だ。疑念の種はAIが登場する前に蒔かれていた。Photoshopは「見える」ものが「本物」や「真実」とは限らないという概念を広めた。
しかしPhotoshopの登場以来、偽の写真は一般的には例外的な存在だった。
もう、そうではない。Photoshopとは関係なくすべては生成AI画像に関係している。それらが作成される方法を誰も規制できないし、または規制する意思もない。欺瞞を騙るために簡単に利用でき、そして画像が共有され広く消費されている方法に関係している。
（後略）
生産性が非常に高い生成AI
記事では偽の写真はフィルム写真の時代からあり、デジタルになってフォトショップなどで簡単に偽の画像を作成することもできたとしています。しかし、生成AIの性能の向上によって、これまでにない危機を迎えているとしていますね。
これまでのフォトショップでのフェイク画像を生成するのは、時間とスキルとお金が必要だったため、フェイク画像を心配する声はあったものの、それほど危険性が高いものではなかったとしています。しかし生成AIには時間もスキルもお金も必要なく、誰でも簡単に本物っぽい画像を作ることができるということで、これまで必要だったコストはまったく必要なくフェイク画像ができてしまうと指摘しています。
そしてそれは写真への信頼性低下につながり、それがひいてはメディアへの不信感やメディアの信頼性の低下につながるかもしれないと壮大な話になっていきます。このあたりは引用外ですので、全文は記事元リンクからご覧ください。
これまでもフェイクではなくともまったく関係ない画像に文章を付けてSNSで広めるということは結構ありました。有名なところだと動物園を逃げ出したライオンとか、関係ない群衆の画像に「○○候補の応援に人々が集まった様子」としてSNSに投稿した例などありますよね。
それそのものはどこかにあった画像を流用したようですが、今度は生成AIで作れてしまうということで、確かにはるかに簡単にフェイク画像ができてしまいます。以前にも「豪雨で水没した○○市の様子」といってAIで生成した画像をSNSに投稿した例もありました。
まだ画像生成AIは怪しいところもあって、何となくAIの画像かなとわかるレベルですが、さらに技術が発達すると本当に見分けのつかない写真がでてくることは間違いないと思いますね。
記事では、そうなると写真の真贋を保証する仕組みが必要だと訴えているわけですが、確かに「本物」という証明ができる画像以外はすべて信頼できない画像と判断するしかないのかもしれません。将来的には自分のカメラ、ひょっとしたらスマホにも画像の真贋を確かめることができるC2PAの技術が搭載されるようになるのかもしれませんね。そして写真のコンテストなども、その証明が必要になるかもしれません。
さらに「画像の真正性を守るためGoogleがC2PAに参画、改ざん防止技術の導入を推進」ではC2PAにGoogleが参画したことについて詳しくお伝えします。
（記事元）PetaPixel
- Nikon Z5II開発者インタビュー Z5IIはAF高性能高速化、暗所性能の向上を目標に開発
- ニコン Nikon Z5II正式発表 裏面照射型、EXPEED 7搭載 直販25万8500円
- Viltrox AF 50mm F2 E/Zマウント用本日発売 フルサイズ対応で価格は3万2900円
- シグマ 200mm f/1.8レンズを計画中か 価格は約37万円との推測も
- 間もなく発表!? Nikon Z5IIの一部仕様と画像が流出か!? AF速度はZ5の3倍
- EOS R7 Mark IIが年内に登場か 4000万画素センサー搭載との噂も
- 富士フイルム 写ルンですやネガフィルムなど一部製品を値上げ 最大52%
- RED買収後のニコンの動画への関与と注力は予想していたよりも早かった
- 2025年の富士フイルムの新製品の噂 カメラ2台、レンズ3本の発売が期待できる??
- キヤノンがRF14-28mm F2.8 LとRF-Sのパワーズームを計画中か!?
コメント