デジタルコンテンツの透明性と信頼性の向上に向けた重要な動きとして、MetaはFacebook、Instagram、ThreadsにおいてAIが生成した画像にラベリングを導入する計画を発表しました。グローバル・アフェアーズ担当プレジデントのニック・クレッグは、急速に進化するAIの状況において透明性をもってリードするというMetaのコミットメントの一環として、このイニシアチブを強調しました。
人工知能がコンテンツ制作にますます統合されるにつれ、人間が作成したものとAIが作成したものを区別することが難しくなっています。Metaの対応としては、AIコンテンツを識別するための共通の技術基準を確立するために、業界パートナーと協力し、画像が “Imagined with AI “であることをユーザーが認識できるようにすることです。この動きは、Meta独自のツールで作成されたコンテンツだけでなく、外部のAI技術を使って作成されたコンテンツも含むため、非常に重要です。
Metaはすでに、Meta AI機能によって作成された実写のような画像にラベルを付けています。新しい取り組みでは、これらのラベルをより広範囲に適用し、より包括的な透明性に向けた重要な一歩を踏み出します。このプロセスでは、AI生成の指標を検出し、プラットフォーム上でサポートされているすべての言語にわたって目に見えるラベルを適用します。このイニシアチブは、いくつかの重要な世界的選挙と重なるタイムリーなものであり、ユーザーが消費するコンテンツの起源についてユーザーを教育することを目的としています。
ラベリングに加え、MetaはAIコンテンツ検出にも取り組んでいます。同社は、IPTCメタデータや目に見えない透かしなどの目に見えないマーカーを大規模に識別できるツールを開発しています。このアプローチは、AIが生成したコンテンツの確実な識別を助けるだけでなく、他のプラットフォームがこれらのマーカーを認識するのを支援し、統一された業界標準を育成します。Metaは、生成AIコンテンツを生成するツールの開発者であると同時に、多くのコンテンツが共有されるプラットフォームの運営者でもあるため、これらの問題に取り組む上でユニークな立場にあります。
しかし、Metaは今後の課題を認識しています。AIが生成した音声や動画コンテンツにラベルを付ける機能はまだ発展途上であり、AIが生成した動画や音声を共有する際にユーザーに開示を求めるなどの暫定的な措置を取っています。さらにMetaは、目に見えない透かしの除去を防ぎ、AIが生成したコンテンツの完全性を高める技術的解決策を模索しています。
AIによって生成されたコンテンツが普及するにつれ、そのようなコンテンツを検出し、ラベル付けする取り組みは、ユーザーがコンテンツについて十分な情報を得た上で意思決定できるようにするために、またより広く、ソーシャルメディア・プラットフォーム上での誤った情報の拡散を防ぐために、極めて重要になるでしょう。
参考記事：Meta Announces AI Content Identification for Facebook, Instagram, and Threads | Socially Aware
