アマゾンは、自社のスマートホームセキュリティカメラが顧客のプライバシーを侵害しているという非難に直面しており、新たな報告では、アマゾンの従業員が、同社の人工知能システムのトレーニングという名目で、クラウドカムのユーザーの自宅を覗き見していると主張している。
2017年に発売されたCloud Camは、クラウド接続に対応した1080pウェブカメラで、Echo Show、Echo Spot、Fireシリーズのデバイス、そしてiPhoneアプリを通じて、カメラの映像をライブフィードで配信できます。人工知能（AI）が映像を監視し、トリガーとなるイベントを検知することで、強盗未遂やペットの動きといった動きを捉えた映像をハイライト表示し、アラートを発します。
ブルームバーグの最新レポートによると、Amazonが撮影、保存、分析した動画は、必ずしもソフトウェアだけで認識できるわけではないという。製品開発に携わるサポートチームにもフィードを閲覧する機会が与えられており、ソフトウェアが動画をより正確に認識できるようにしている。
インドとルーマニアに拠点を置く「数十人」の従業員が、クラウド・カムが捉えたビデオの断片を審査し、クリップ内で起こっていることが脅威か誤報かをシステムに伝える任務を負っていると、プログラムに携わっていたか、その仕組みを直接知る5人が同レポートに語った。
監査担当者は最大150本の動画録画に注釈を付けることができ、各動画の長さは通常20秒から30秒です。Amazonの広報担当者によると、これらの動画クリップは、従業員のテスターや、通知の不正確さや動画品質の問題など、トラブルシューティングのために動画クリップを提出するCloud Camの所有者からレビューのために送られてきます。
Cloud Camのマーケティング目的の一つは、Amazon Keyを通じた配送の通知だった。
「当社はプライバシーを重視しており、Cloud Camのお客様がご自身のビデオクリップを管理できるようにしています」と広報担当者は説明しました。トラブルシューティングのためにビデオを提出する場合を除き、「クリップはお客様のみが閲覧できます」と付け加えました。
報告書はさらに、アマゾンはサービスの利用規約の中で、アルゴリズムのトレーニングに人間を利用していることを顧客に通知していないと主張している。
2人の情報筋によると、不適切またはセンシティブなコンテンツが再学習用コレクションに紛れ込むことがあるという。また、情報筋によると、レビューチームは稀に、ユーザーが性行為をしている動画も視聴したという。不適切なコンテンツを含む動画はフラグ付けされ、AIの学習に使用されないように破棄される。
アマゾンの広報担当者は不適切な動画を削除したことを認めた。しかし、ユーザーやアマゾンのスタッフが自主的に投稿した動画に、なぜそのような行為が映っていたのかについては言及しなかった。
アマゾンは映像の共有を防ぐため、一定のセキュリティ対策を講じており、インドの従業員は携帯電話の使用が禁止されているフロアに配置されている。それでも、チームに詳しいある人物は、この方針によっても一部の従業員がチーム外の人物に映像を共有するのを阻止できなかったと認めた。
Alexa、Siri、そして繰り返し
この件は、4月にブルームバーグが報じた、AmazonがAlexaの学習に役立てるため、外部の契約社員や正社員を雇ってEchoデバイスの音声を断片的に分析していたという疑惑を想起させる内容の報道を彷彿とさせます。この件でも、不適切なコンテンツが従業員に提供され、中には性的暴行の証拠だと従業員が信じていた事例もありました。Amazonはセキュリティポリシーを整備していたにもかかわらず、従業員間でコンテンツが共有されていたとされています。
この報告書の余波で、「内部告発者」による同様の主張が起こり、Appleはソフトウェアライセンス契約で警告を出しているにもかかわらず、匿名化されたSiriの質問を聞くために請負業者を利用していたことを適切に開示していなかったと主張した。
この報告書と「内部告発」を受け、Appleは徹底的な調査を行うため、Siriの品質管理プログラムを一時的に停止しました。また、Appleは今後のソフトウェアアップデートでユーザーがパフォーマンス評価を選択できるようになると発表しました。
その後、AmazonとGoogleもこれに追随し、GoogleはGoogle Assistantの音声に関する世界的な取り組みを1つ停止し、AmazonはAlexaの音声録音に対する人間によるレビューをオプトアウトするオプションを提供した。
Amazonとは異なり、Appleは現在、顧客向けにビデオフィードの自動監視機能を提供していないため、同様の状況に直面する可能性は低いでしょう。AppleはHomeKit経由でビデオカメラを操作できるようにしていますが、ライブビデオフィードに対して品質管理、トリガーアクション、その他の処理を一切行いません。
これにより、HomeKitのビデオフィード機能を利用して収集したビデオを処理するサードパーティに道が開かれますが、Appleはそうではありません。少なくとも現時点では。
AppleのHomeKitセキュアビデオ機能の要素を明らかにしたWWDCプレゼンテーションスライド
AppleのHomeKitセキュアビデオ機能は、6月に発表されたものの、まだ利用可能になっていません。この機能により、HomeKitビデオをiCloudに保存できるようになります。エンドツーエンドの暗号化によってビデオがユーザーの自宅から送信される前に保護されるため、Appleでさえビデオにアクセスできなくなります。
この機能が動作している様子を映したとされるあるリーク動画によると、動きの検知や犬や車といった動画の主要被写体の識別など、人工知能（AI）ベースの処理が提供されるようです。Appleの製品は暗号化機能を含め、プライバシーを重視しているため、この処理はクラウドではなくローカルで実行される可能性が高いでしょう。
