生成AIで危険性は向上
生成AIの登場によりフェイク画像の危険性がより高まっていると警告する記事が公開されています。なぜ生成AIが問題になる可能性があるのでしょうか？
（前略）
生成AIを使って何かを作成することに参入障壁はない。少なくとも一般的に理解されているPhotoshopでは、スキル、時間、お金が必要だ。お金については工夫次第で回避する方法もあるが、残りの二つの制約は依然として存在する。
Photoshopでリアリティのある「偽」写真を作成するには、AIツールを使用せずに既存の写真素材、洗練された画像の切り抜きやマスキングテクニック、そしてすべて疑問に思われないように組み合わせるスキルが必要だ。誰も騙されないような下手なPhotoshop作業でも、画像生成AIにテキストプロンプトを入力するよりはるかに時間がかかる。良いPhotoshop作業を行うには、さらに時間がかかる。
必要な時間はPhotoshopを使用して偽情報キャンペーンを作成するための本質的な障壁となる。これはスケールに劇的な影響を与える。100人に画像生成AIを与えたら、スキルがなくとも1分でどれだけ多くの画像を生成できるか想像してみてほしい。才能あるデジタルアーティスト100人が1分でゼロから何を作成できるだろうか？ほとんど作れないか、または何も作れないだろう。
生成AIはまだ完璧ではないが、何もないところからリアルな画像を生成し、多くの人を騙すことができる段階にはるかに近づいている。特にSNSで一般的に表示されるサムネイルで見ればなおさらだ。それは数秒でできる。
しかし偽の画像を作成する能力は新しいものではない。AIが欺瞞的な写真の概念を破壊したわけではないが、Photoshopが決して行わなかった方法で革命を起こした。またAIが登場したのはコンテンツの拡散がほぼ制限なく、これまで以上に素早くかつ簡単になった時期だ。
それでもPhotoshopが写真に対する一般的な不信感を高め、強化する役割を果たしたことを認識することは重要だ。疑念の種はAIが登場する前に蒔かれていた。Photoshopは「見える」ものが「本物」や「真実」とは限らないという概念を広めた。
しかしPhotoshopの登場以来、偽の写真は一般的には例外的な存在だった。
もう、そうではない。Photoshopとは関係なくすべては生成AI画像に関係している。それらが作成される方法を誰も規制できないし、または規制する意思もない。欺瞞を騙るために簡単に利用でき、そして画像が共有され広く消費されている方法に関係している。
（後略）
生産性が非常に高い生成AI
記事では偽の写真はフィルム写真の時代からあり、デジタルになってフォトショップなどで簡単に偽の画像を作成することもできたとしています。しかし、生成AIの性能の向上によって、これまでにない危機を迎えているとしていますね。
これまでのフォトショップでのフェイク画像を生成するのは、時間とスキルとお金が必要だったため、フェイク画像を心配する声はあったものの、それほど危険性が高いものではなかったとしています。しかし生成AIには時間もスキルもお金も必要なく、誰でも簡単に本物っぽい画像を作ることができるということで、これまで必要だったコストはまったく必要なくフェイク画像ができてしまうと指摘しています。
そしてそれは写真への信頼性低下につながり、それがひいてはメディアへの不信感やメディアの信頼性の低下につながるかもしれないと壮大な話になっていきます。このあたりは引用外ですので、全文は記事元リンクからご覧ください。
これまでもフェイクではなくともまったく関係ない画像に文章を付けてSNSで広めるということは結構ありました。有名なところだと動物園を逃げ出したライオンとか、関係ない群衆の画像に「○○候補の応援に人々が集まった様子」としてSNSに投稿した例などありますよね。
それそのものはどこかにあった画像を流用したようですが、今度は生成AIで作れてしまうということで、確かにはるかに簡単にフェイク画像ができてしまいます。以前にも「豪雨で水没した○○市の様子」といってAIで生成した画像をSNSに投稿した例もありました。
まだ画像生成AIは怪しいところもあって、何となくAIの画像かなとわかるレベルですが、さらに技術が発達すると本当に見分けのつかない写真がでてくることは間違いないと思いますね。
記事では、そうなると写真の真贋を保証する仕組みが必要だと訴えているわけですが、確かに「本物」という証明ができる画像以外はすべて信頼できない画像と判断するしかないのかもしれません。将来的には自分のカメラ、ひょっとしたらスマホにも画像の真贋を確かめることができるC2PAの技術が搭載されるようになるのかもしれませんね。そして写真のコンテストなども、その証明が必要になるかもしれません。
さらに「画像の真正性を守るためGoogleがC2PAに参画、改ざん防止技術の導入を推進」ではC2PAにGoogleが参画したことについて詳しくお伝えします。
（記事元）PetaPixel
- 中国がレアメタルの輸出を規制 半導体不足の懸念強まる
- Viltroxが28mm f/4.5 VCパンケーキレンズを発売へ AF付きで1万4000円
- EOS R5 Mark IIの新型バッテリーが供給不足で入手できず撮影に混乱も
- Nikon Z6IIIは全体的に優れたオールラウンダー EVFはこれまでのカメラの中で最高
- キヤノンのスピードライトEL-1、EL-100は生産終了でなく販売一時停止!?
- 知床観光船事故で発見のデジカメ解析に進展 データの解析を断念
- 7Artisans新レンズ4本のイメージ画像を公開
- リコーが新製品の電波認証を取得 K-1 Mark IIIとの期待が高まるも･･･
- なぜ若い人はレトロなコンデジをわざわざ購入するのか
- ニコン “中高級機、プロ向け、ミラーレスに絞ったことが想定以上にうまくいった”
コメント