Facebookはディープフェイクにどのように取り組んでいますか？ そのプラットフォームでのXNUMXつの注目を集める事件の余波に続いて–民主党のスピーカーの汚れ ナンシー·ペロシ と氏 ザッカーバーグ 彼自身– Facebookは、2019年後半にユーザーに、パブリックな「チャレンジ」を通じてディープフェイク検出の取り組みを強化するよう呼びかけました。
参加した人々には、Facebookに雇われた100,000人の俳優からの映像を含む3000本の短いクリップが渡されました。 このプールから、参加者は、独自のカスタムメイドの自動検出アルゴリズムを使用して、Facebookによって改ざんされたサンプルを特定する必要がありました。
ほぼXNUMX年でようやく 結果 記録上のこれらのテストから。 2000人の参加者がアルゴリズムをテストし（応募者は主にテクノロジー業界の出身であるか、学界のバックグラウンドを持っていました）、最も成功したサンプルは82％という印象的な検出率を確保しました。 今日ディープフェイクに入る多数のデジタルエクスプロイトを考慮します。 ぼかし、フレームレートの変更、オーバーレイ、ほんの数例を挙げると…これは本当に有望なリターンであると言わざるを得ません。
チャレンジの勝者であるSelimSeferbekovは、500,000ドルを授与され、AIの専門家に知られている最も複雑な形のディープフェイク詐欺で満たされた「ブラックボックス」データセットに対して、彼の勝利アルゴリズムを突き刺す任務を負いました。 スコアが確定し、以前の結果と組み合わせると、全体の平均は次のようになります。 ただ 65％
この研究は、野生のディープフェイクを見つけることが本当にどれほど難しいかを強調しています。 結局のところ、AIの適応性は、既存のエクスプロイトが閉鎖されるとすぐに、新しいエクスプロイトがすぐに出現し、正方形に戻る可能性があることを意味します。 それは、いたちごっこのイライラする、終わりのないゲームです。
ただし、Facebookの研究者は、このテストから収集されたデータが、現在作業中の独自の予防ソフトウェアを強化する上で非常に貴重であると確信しています。 Facebookはまた、他の研究者がバイラルになる前に電話ビデオを検出するのを支援するために、Seferbekovを含む最も成功したアルゴリズムのソースコードをリリースすることを計画しています。
今のところ、Facebookはそれを賢くプレイしており、2020年にあらゆる形態のリバースエンジニアリングが発生するのを防ぐために、独自の検出ソフトウェアを秘密にしています。最高技術責任者 マイクシュレープファー 現時点では、ディープフェイクはFacebookにとって「大きな問題ではない」が、彼と彼のチームは、今年XNUMX月の米国選挙に向けて「扁平足」に陥らないように精力的に取り組んでいると述べています。
現状では、ディープフェイクの次の波に対処する準備が本当に整っているかどうかは不明です。 しかし、あなたは一つのことを保証することができます、それ is 到来。
0コメント
