Apple は、表面上は無害に見えるが、高額な料金でユーザーがディープフェイクポルノを作成するのを助ける、いわゆる「デュアルユース」アプリの流入を止められないようだ。
AppleはApp Storeの規制に誇りを持っており、その一環としてポルノアプリの全面的な禁止も行っています。しかし、一部のアプリはユーザーが簡単に悪用できる機能を提供している可能性があり、Appleがそれに気付いていない可能性もあるため、この規制には限界があります。
404 Mediaの報道によると、Appleは顔交換機能などのアプリに見られる「二重使用」問題に苦慮しているという。一見無害な機能であるにもかかわらず、ユーザーはポルノ画像に顔を交換しており、中には未成年者の顔まで使われているという。
この問題は、ある記者がRedditで顔交換アプリの有料広告を見つけたことで明らかになりました。顔交換アプリは簡単に見つかり、多くの場合無料であるため、このようなアプリには有料広告掲載を可能にするビジネスモデルが必要になります。
彼らが発見したのは、ユーザーが「お気に入りのウェブサイト」の動画に自分の顔を差し替えられるアプリで、Porn Hubを示唆する画像が表示されていた。AppleはApp Storeでポルノ関連アプリを許可していないが、ユーザーコンテンツに関連する一部のアプリでは、抜け道としてそのような画像や動画がしばしば掲載されている。
Appleは、広告対象アプリの二重使用に関する警告を受け、アプリを削除しました。しかし、Appleはこの問題を全く認識していなかったようで、アプリのリンクを共有せざるを得ませんでした。
一見無害そうなアプリが審査を通過し、Appleのガイドラインに違反するサービスを提供するのは今回が初めてではない。子供向けアプリをカジノに変更するほど露骨な違反ではないものの、同意のない性的画像（NCII）を生成する機能は、明らかにAppleの監視対象ではなかった。
顔交換アプリはApp Storeで人気のカテゴリーです
アプリの人工知能機能は、非常にリアルなディープフェイクを作成する可能性があり、Appleのような企業はこうした問題に先手を打つことが重要です。Appleはこうしたユースケースを完全に阻止することはできませんが、少なくともアプリ審査で強制できるポリシー、つまりポルノ画像生成に関する明確なガイドラインとルールを策定することは可能です。Appleはすでに、ディープフェイクAIウェブサイトがAppleのサインイン機能を使用することを阻止しています。
例えば、Porn Hubから動画をダウンロードできるアプリは存在しません。Appleは、Porn Hubの動画を不正にダウンロードする可能性のあるアプリに対して、具体的なルールを設けることも可能です。例えば、そのようなコンテンツを作成しようとしているアプリは、一切の容赦なく禁止するといったルールです。
AppleはApple Intelligenceがヌード画像を作成しないよう細心の注意を払ってきたが、監視はそれで終わるべきではない。AppleはApp Storeの最高の裁定者であると主張している以上、広告で宣伝されているNCII生成のような事柄についても責任を負わなければならない。
問題となっているのは顔交換アプリだけではありません。不倫、親密なビデオチャット、アダルトチャット、その他婉曲表現を露骨に宣伝するアプリでさえ、審査を通過してしまいます。
アプリ審査が機能不全に陥っているという報告は以前からあり、規制当局も陳腐な言葉にうんざりしている。AppleはApp Storeをしっかりと管理しなければ、コントロールを失うリスクがある。
