マカフィー、ディープフェイク音声詐欺に対抗するAI搭載ツールを発表

デジタル詐欺の増加に対抗するため、マカフィーは、AI を活用したディープフェイク音声検出ツールである Project Mockingbird を立ち上げました。このツールは、偽造音声の識別率 90% を誇ります。

この技術は、さまざまなオンライン詐欺や誤情報キャンペーンで使用される人工音声捏造の増大するリスクからユーザーを保護するために設計されています。

生成AIツールの進歩と普及により、サイバー犯罪者にとって魅力的な詐欺の作成が容易になりました。例えば、音声複製技術を用いて、困窮した家族が金銭援助を求める様子を模倣するといったケースも挙げられます。

さらに、「チープフェイク」と呼ばれる不正操作もあります。これは、ニュース番組や著名人のインタビューなどの本物の動画に偽の音声を挿入することで、発言内容を変え、評判の良い人物が実際には言っていない発言をしたかのような錯覚を生じさせるものです。

これに対し、McAfee Labsは、偽音声の検出における新たな業界標準を確立するAIモデルを開発しました。Project Mockingbirdは、複数のAI駆動型モデルを組み合わせ、コンテキスト、行動、カテゴリーを分析して、動画内の音声クリップの真正性を判定します。

「マカフィーの最新AI検出機能により、90%以上の精度で動作するツールをお客様に提供し、お客様がデジタル世界を理解し、コンテンツが見た目と異なる可能性を評価するのに役立ちます」と、マカフィーの最高技術責任者であるスティーブ・グロブマン氏は述べています。「つまり、70%の降雨確率を示す天気予報が1日の計画を立てるのに役立つのと同じように、当社のテクノロジーは、コンテンツが見た目通りであるかどうかについて、知識に基づいた判断を下すための洞察を提供します。」

McAfeeは、包括的な脅威分析のためにマルチモデルアプローチを採用しています。これには、脅威の種類を識別するための構造モデル、脅威の行動を理解するための行動モデル、そして関連するデータの起源を追跡するためのコンテキストモデルが含まれます。

ディープフェイク技術の台頭

人工知能と機械学習を統合し、映像や音声コンテンツを操作・生成するディープフェイク技術は、1990年代から進化を続けています。当初は学術機関の研究者によって開発され、その後オンラインコミュニティに広がり、最終的には業界に採用されました。

技術の進歩により、ますます説得力のある合成メディアが生み出され、エンターテインメント業界やメディア業界に大きな変革をもたらしています。深層生成手法を用いて、人物の肖像を別の人物に巧妙に置き換えたり、悪意のある攻撃者が望むことを何でも言える合成音声を作成したりすることが可能になっています。

プロジェクト・モッキンバードは、ディープフェイク詐欺という差し迫った問題に対処するだけでなく、将来のサイバーセキュリティソリューションの先例となるものです。デジタル脅威の創出と対策の両方においてAIが果たす役割の進化を浮き彫りにし、AIの能力の進化に対応するためにサイバーセキュリティ対策の継続的なイノベーションの必要性を強く訴えています。