>リアリティディフェンダーは、ディープフェイクや他のAI生成コンテンツを検出しようとするツールを開発しているいくつかのスタートアップの一つとして、本日、DCVCをリードとするシリーズAラウンドで1,500万ドルを調達したことを発表しました。コムキャスト、Ex/ante、Parameter Ventures、そしてNat FriedmanのAI Grantも参加しました。
共同設立者兼CEOのベン・コールマンによると、資金はリアリティディフェンダーの23人のチームを来年までに倍増させ、AIコンテンツ検出モデルを改善するために使われるとのことです。
「新しいディープフェイクの手法やコンテンツ生成は、驚きと引き起こす被害の規模の両方で世界を驚かせるでしょう」とコールマンはTechCrunchのインタビューで語りました。「リアリティディフェンダーは、研究を前向きに取り組むことで、これらの新しい手法やモデルが公に現れる前に数ステップ先を歩み続け、検出に積極的に取り組むことができます。ただ今日現れたものに反応するのではなく、予知的な検出に取り組んでいるのです」と述べました。
コールマンは、ゴールドマン・サックスの元副社長であり、2021年にアリ・シャリヤリとガウラブ・バラジとともにリアリティディフェンダーを立ち上げました。シャリヤリはかつてデジタルトランスフォーメーションテックコンサルティングファームのOriginateと、AI搭載のアニメーションチャットボットを開発するスタートアップのAI Foundationで働いていました。バラジもAI Foundationで働いており、R&Dをリードしていました。
リアリティディフェンダーは元々非営利団体として始まりましたが、コールマンによれば、ディープフェイクの問題の範囲と、ディープフェイクを検出する技術への商業的な需要の拡大を認識した後、外部からの資金調達に転じました。
コールマンの言う規模の広さは誇張ではありません。シンセティックメディアの検出ツールを開発するリアリティディフェンダーの競合企業であるDeepMediaによると、今年のオンライン上に投稿されたビデオディープフェイクは、2022年と同じ時期に比べて3倍、音声ディープフェイクは8倍に増加したと推定されます。
ディープフェイクの増加は、生成型AIツールの商品化に大きく起因しています。
声の複製やディープフェイクの画像や動画（つまり、人物の特徴を説得力のある形でデジタル的に置き換えた画像や動画）は、かつては数百ドルから数千ドルかかり、データサイエンスのノウハウが必要でした。しかし、この数年間で、声合成のElevenLabsや画像生成のStable Diffusionなどのオープンソースモデルが登場したことで、悪意のある行為者がほとんどコストをかけずにディープフェイクキャンペーンを展開することが可能になりました。
たとえば、過激なレイシスト画像をオンライン上に投稿するために、悪名高い掲示板4chanのユーザーがStable Diffusionを含むさまざまな生成型AIツールを利用しています。一方、トロールたちはElevenLabsを利用して、有名人の声をまねて、ミームやエロティカから悪意のあるヘイトスピーチまで、様々な内容の音声を生成しています。また、中国共産党に協力する国家行為者たちは、実在のニュースアンカーを描写するAIに基づく非常にリアルなアバターを生成して、銃撃事件などの問題についてコメントしています。
生成型AIプラットフォームの一部は、悪用を防ぐためにフィルターやその他の制限を導入しています。しかし、サイバーセキュリティと同様に、これは猫とネズミのゲームです。
「AI生成メディアからの最大のリスクのいくつかは、ソーシャルメディア上でのディープフェイク素材の使用と悪用によって生じます」とコールマンは述べています。「これらのプラットフォームは、子供の性的虐待資料や他の違法な資料を削除することを義務付ける法律
元記事はこちら
