>バレンシアガ教皇。 偽装五角大脇爆発。AIによって生成された画像と本物を見分けることがますます困難になっているため、深刻な問題になっています。
解決策はまだ見つかっていません。しかし、Microsoftは、新しいメディア出所情報機能をビルドカンファレンスで披露しています。
MicrosoftのCanvaのようなウェブアプリケーションであるBing Image Creator and Designerにて展開される新しいメディア出所機能では、AIによって生成された画像またはビデオが本当に存在するのかどうかを確認できるようになります。Microsoftによると、暗号技術を利用して、これらの機能が数か月内に導入されます。これらの機能により、AIで生成されたコンテンツについて、画像やビデオの出所に関するメタデータを付与することができます。
これは、明確な透かしのようなものではありません。サイトは、Adobe、Arm、Intel、Microsoft、ビジュアルメディアプラットフォームTruepicの入力を受けて作成された相互運用可能な仕様であるCoalition for Content Provenance and Authenticity（C2PA）を採用する必要があります。その後、サイトは、Content Provenance Standardsを採用して生成されたコンテンツがある場合や、DesingerやImage Creatorで修正または作成されたものがある場合に、消費者に警告を出すことができるようになります。
では、問題は、同様のメディア出所標準を採用していない多くの画像生成ツールがある場合、Microsoftの取り組みがどの程度改善されるでしょうか？ Adobeは最近、自社の生成AIツールの一部であるバックアップを持っており、GoogleのBardチャットボットとの統合を実現しています。しかし、生成AIスペースでより著名なプレイヤーであるStability AIは、Microsoftが提案するような仕様を採用する意思を表明したばかりです。
標準を置いておいても、Microsoftがメディア出所追跡メカニズムを採用することは、生成AIが普及するにつれて、より広い業界のトレンドに沿っていることを示しています。Googleは例えば、2023年に埋め込み型のメタデータを使用して、生成AIモデルで作成された視覚メディアをシグナルに使用すると発表しました。別の方向性を示すMidjourneyやgenerative AI startupは同様の指針を採用しており、生成AIツールによって作成されたコンテンツであることを示すマーカーを埋め込んでいるとのことです。
元記事はこちら
