ウェズリー・ヒリアード
· 2分で読めます
iPhoneのアプリで、合意のない親密な画像が作られている
議会からアップルのティム・クック氏のようなIT企業の幹部に厳しい書簡が送られ、ディープフェイクによる合意のない親密な画像の蔓延に対する懸念が表明されている。
これらの書簡は、デュアルユースアプリを用いてヌードディープフェイクが作成されたという以前の報道を受けて発端となった。ソーシャルメディアのいたるところにフェイススワッピングを宣伝する広告が表示され、ユーザーはそれらのアプリを使ってヌード画像やポルノ画像に顔を合成していた。
404 Mediaの新たな報道によると、米国議会はこれらの報道に基づき行動を起こし、テクノロジー企業に対し、自社のプラットフォーム上で合意のない性的な画像が生成されるのをどのように阻止する予定かを尋ねている。書簡はApple、Alphabet、Microsoft、Meta、ByteDance、Snap、Xに送付された。
Apple宛ての書簡では、App Reviewガイドラインにもかかわらず、Appleがこうした二重用途アプリを見逃していることを特に非難しています。書簡では、ディープフェイクポルノの拡散を抑制するためにAppleがどのような対策を講じる予定かを尋ね、TAKE IT DOWN法についても言及しています。
ティム・クック氏に以下の質問が投げかけられました。
- あなたのプラットフォーム上でのディープフェイクポルノの蔓延に積極的に対処するためにどのような計画がありますか? また、それらの対策の展開スケジュールはどうなっていますか?
- これらの計画の策定にはどのような個人または利害関係者が含まれますか?
- 報告が行われた後はどのようなプロセスが行われ、これらの報告が適時に処理されることを保証するためにどのような監視が行われていますか?
- アプリケーションをストアから削除する必要があるかどうかを判断するプロセスは何ですか?
- 自分の画像が同意なくディープフェイクに含まれていたと報告するユーザーには、どのような救済策がありますか?
AppleはApp Storeの管理人としての役割を担っており、そのため、本来ストアに配信されるべきでないアプリが配信されると、常に非難の的となっている。ディープフェイクツールや子供向けアプリがカジノ化してしまうといった事例は、Appleがアプリプラットフォームのゲートキーパーであるべきではないという議論の材料にされている。
以前の報告で特定され、Appleによって削除されたアプリには、潜在的な不正使用の兆候が明確に見られました。例えば、ユーザーはPornhubから動画を入手して顔交換を行うことができました。
Apple Intelligenceはヌード画像やポルノ画像を作成することはできませんし、AppleはディープフェイクサイトでのSign in with Appleの機能を無効化しました。しかし、これはディープフェイク対策としてAppleができること、そしてすべきことの最低限の措置に過ぎません。
議会からの書簡が示唆するように、Appleは二重用途のアプリが審査を通過できないようにするための措置を講じる必要があります。少なくとも、AIによる画像や動画の操作を謳うアプリ、特に顔の入れ替え機能を提供するアプリについては、特別な注意を払うべきです。
