動画生成AI Sora 発表の衝撃 一方、ディープフェイク対策で世界IT20社が協業

生成AI Soraの衝撃

OpenAIが新しいAIモデル「Sora」を発表しました。これはテキストから1分以内の動画を生成する技術で、複雑なシーンやキャラクターをリアルに描き出すことが可能です。一方で、フェイク動画の悪用を防ぐ対策が重要視されており、出所を証明する電子透かしの開発などが進んでいます。信頼できるメディアからの情報の重要性が増しています。

AIチャットや生成AIの開発に取り組むOpenAI社がSoraという動画生成AIを公開しました。これは入力したテキストをもとに動画を生成するAIで、最長1分までの動画の作成が可能で、他の同様なシステムを開発している他社を動画の長さ、動画のクオリティという面で圧倒していると言われています。

そのSoraで作成された動画が以下の動画です

上の動画は、「何頭かのケナガマンモスが、雪に覆われた草原を歩いて近づいてくる。彼らの長い毛が風にわずかに揺れながら歩く姿、遠くには雪に覆われた木々と壮大な雪をまとった山々が広がる。うっすらとした雲と高く輝く午後の太陽が暖かな光を放っている。」と入力して生成されたもので、下の動画は「30歳の赤いウールで編まれたモーターサイクルのヘルメットを身につけた宇宙飛行士の冒険を描いた映画の予告編。青い空と塩の砂漠を背景に、映画のようなスタイルで展開される。35mmフィルムで撮影され鮮やかな印象的な色彩。」という文章から生成されたようです。

実際に動画をみるとCGっぽくはありますが、それでも非常にリアルに作られていることがわかりますね。

進むフェイク動画対策

この動画生成AIは、まだ今のところ悪用される可能性があるとして一般公開されておらず、テスト段階のようです。恐らく有名人を利用できなくしたり、暴力的、性的な描画などもできないようにしていくのだろうと思いますね。

一方で、SNS大手やAI技術を開発している企業は、ティープフェイク対策に躍起となっています。

手法としては、AIが生成した動画や画像に出所を記載する電子透かしを開発したり、SNSを運営している企業はフェイクニュースの検出技術や偽情報に適切に対処するなどを実施していくそうです。

とはいっても、いまはPCの性能も向上していますし、個人が自宅のPCでディープフェイクを作れてしまいます。この場合には電子透かしには対応していないため、見分けることができません。むしろ信じてもらいたくてフェイクを流しているのでしょうから、わざと電子透かしに対応しないはずです。

そうなると、今後は、むしろ信頼できる報道機関やメディアが提供している動画や静止画だけしか信頼することが出来ないという時代になるのかもしれません。流れている動画や画像を見て、出所を証明する何らかの改ざん不可能な署名がなければ、それらの動画や静止画はすべてフェイクだと判断しなければならない時代になってしまうのだと思いますね。

そういう意味では、キヤノン、ニコン、ソニーなども加盟している撮影や編集の来歴履歴が保存される仕組みも、今後はすべてのカメラに搭載されるかもしれません。

むしろすべての報道機関やメディアは、このC2PAの技術を搭載したカメラでなければ使用できない（使用しない）ということになると思いますね。

さらに「ニコン フランス通信社とフェイク画像でないことを証明する機能を検証へ」ではフェイク画像を証明する機能をニコンが検証することについて詳しくお伝えしています。