フェイスブックから厳選された内部文書を漏洩した内部告発者は、自身の身元を明らかにすると同時に、このソーシャルネットワークのこれまでの実績を批判し、「フェイスブックは繰り返し、安全よりも利益を優先していることを示してきた」と主張した。
Facebook社内の大量の文書が内部告発者によってウォール・ストリート・ジャーナルにリークされ、同社に対する徹底的な調査が始まりました。文書に関する初期調査の発表後、内部告発者はインタビューに応じ、この巨大IT企業の業務内容と、なぜデータを公開することにしたのかについて詳しく語りました。
このデータ公開は一連の報道につながりました。その中には、FacebookがInstagramが10代の若者の心の健康に悪影響を及ぼしていることを認識していたとされる疑惑を暴露する報道もありました。この報道を受けて、上院商務委員会の消費者保護小委員会による10代の若者のメンタルヘルスに関する公聴会が開かれました。
フランシス・ホーゲン氏は日曜の「60 Minutes」のインタビューで、フェイスブックがヘイトスピーチやその他の有害コンテンツへの対処よりもアルゴリズムを重視していることを証明する文書の山についてさらに強調した。
ホーゲン氏は以前、Facebookのシビック・インテグリティ・グループに所属するプロダクトマネージャーを務めていたが、同グループの解散後に退職した。退職前に彼女は数万ページに及ぶ社内調査をコピーしており、これはFacebookがヘイト、暴力、そして偽情報対策の進捗状況について一般市民に嘘をついていることを示していると彼女は主張している。
「Facebook社内に留まり続けたら、自分の将来がどうなるか分かっていました。Facebook社内では、次から次へとこの件に取り組み、自らを窮地に追い込んできた人たちがいました」と、ホーゲン氏は文書公開の決断について語った。「2021年のある時点で、私は悟りました。これは組織的に実行しなければならない。そして、誰もこれが真実だと疑わないほど、外に出なければならない」
以前 Google と Pinterest で働いていたこのデータ サイエンティストによると、「私は数多くのソーシャル ネットワークを見てきましたが、Facebook の状況はこれまで見てきたものよりもかなりひどいものでした。」
文書には、Facebookが自社のサービスについて社内で実施した調査が含まれており、その一つでは、Facebookがヘイトコンテンツへの対応を怠っていたと結論づけている。「Facebookは世界最高水準のセキュリティ対策を講じているにもかかわらず、ヘイトコンテンツへの対応は3～5%程度、暴力や扇動行為への対応は0.6%程度にとどまっていると推定しています」と報告書には記されている。
ホーゲン氏は、選挙における誤情報のリスクに取り組むことを目的とした公民権局に配属されたが、2020年の米国選挙後に解散した経緯を語る。
「彼らは基本的に、『ああ、よかった、選挙を乗り切った。暴動もなかった。これで市民の清廉性は廃止できる』と言っていました。それから数ヶ月後、暴動が起こりました」とホーゲン氏は振り返る。「そして、市民の清廉性廃止が決定された時、Facebookを危険な状態にしないために必要な投資を本当に彼らが行うとは思えない、と確信しました」
ユーザーのエンゲージメントに基づいて表示するコンテンツを選択するアルゴリズムによって、システムはエンゲージメントや反応を得ることに最適化されているとハウゲン氏は述べている。「しかし、独自の調査によると、憎悪的なコンテンツ、意見の対立を生むコンテンツ、分極化を招くコンテンツは、他の感情よりも怒りを刺激しやすいことが分かっています。」
「確かに、フェイスブックは、アルゴリズムをより安全なものに変更すれば、人々がサイトで過ごす時間が減り、広告をクリックする回数が減り、収益が減ることを認識している」と彼女は付け加え、2020年の選挙で誤情報を減らすために導入された安全システムは一時的なものだと主張した。
「選挙が終わるとすぐに、彼らは安全よりも成長を優先するために、プライバシー保護を再びオフにしたり、設定を以前の状態に戻したりしました」とホーゲン氏は主張する。「これは本当に民主主義への裏切りだと感じます。」
ホーゲン氏の文書公開はウォール・ストリート・ジャーナルだけに向けられたものではない。9月には、ホーゲン氏の代理人を務める弁護士が証券取引委員会（SEC）に少なくとも8件の苦情を申し立てた。これらの申し立ては、Facebookが投資家に嘘をついたり、重要な情報を隠したりしてはならないという理論に基づいており、ヘイトスピーチ対策の進展に関する同社の公的な主張と現実は、規制当局によるより詳細な調査を促す可能性がある。
