Google検索は、人工知能（AI）のせいとも言える信頼性の問題を抱えている。同社は声明の中で、「強調スニペット」の回答を生成するアルゴリズムが「不適切または誤解を招くコンテンツを含むサイトを取り上げてしまう事例」を引き起こし、結果として誤った回答につながる可能性があると述べている。しかし、YouTubeにおける同様のキュレーションの欠如により、Googleはインターネット上の多くのフェイクニュースの発信源であり、資金源でもある。
古いニュースソースからの誤った結果
Googleの検索結果の候補（「注目スニペット」と呼ばれる）は、単に古くなっている場合があり、古い見出しに基づいた誤った回答を提示することがあります。2月末、AppleInsiderは、Googleが1年前の株式市場情報を依然として提供しており、Googleの親会社がAppleよりも時価総額が高いと自信たっぷりに、しかし虚偽の主張をしていると指摘しました。
しかし、数ヶ月前からそれは当てはまらなくなっています。この記事を公開して以来、Googleは「スニペット」形式の回答（上記）を削除しましたが、昨年夏に表示された古くて誤ったリンクを、正確な情報を含む新しい記事よりも関連性の高いリンクとして表示し続けています。さらに、「よくある質問」パネルには、依然として複数の誤った回答が表示されています（下記）。
偽ニュースソースからの誤った結果
さらに悪いことに、SearchEngineLandの編集者であるダニー・サリバン氏はツイートで、Googleは信頼性の低い情報源から「スニペット」的な回答を得ていると指摘した。「オバマ大統領がクーデターを計画しているかどうか疑問に思っているなら、Googleの『唯一の真の答え』はイエスだ。なんてこった」とサリバン氏は述べた。
recodeの報道によると、この誤った情報はGoogleのAlexa搭載家電「Google Home」でも読み上げられているという。「通常の検索結果ページとは異なり、Google Homeは回答の出所を教えてくれず、他の回答を見るオプションも提供しない」とRecodeは指摘している。
BBCの技術担当特派員ロリー・セラン・ジョーンズ氏は、Google Homeのデモンストレーションを行いながら、オバマ前米大統領が「2016年の任期末に共産主義クーデターを計画しているかもしれない」と楽しそうに語った。
recode は、Amazon の Alexa は同様の誤った結果を返さず、代わりに「聞いた質問の答えが見つかりません」と返したと指摘した。
GoogleはRecodeに対し、「Googleのポリシーに違反する強調スニペットが見つかった場合、速やかに削除に取り組んでおり、今回のケースもその通りです。ご不快な思いをさせてしまったことをお詫び申し上げます」と声明で回答した。
企業広告で育てられ、収益化される虚偽の情報
しかし、実際には、2014年に「Western Center for Journalism」というユーザーからの「回答」の裏に偽の動画「2016年にオバマによる共産主義クーデターが起こる」を公開したのは、GoogleのYouTubeサービスだった。
GoogleはIBMから資金を受け取って、この古いフェイクニュースのYouTube動画をスポンサーした。
BuzzFeedの最近のレポートは、YouTube がフェイクニュースやヘイトスピーチを流す下水管としての役割を担っていることに注目を促した。
虚偽の情報や陰謀論を拡散していると頻繁に批判されているFacebookやTwitterとは異なり、YouTubeはメディアから概ね容認されている。これは、ほとんどのニュースサイトがGoogleの広告で収益を得ており、ウェブパブリッシャーがトラフィック獲得のためにGoogle検索に大きく依存しているという事実と関係しているのかもしれない。
BuzzFeedの報道によると、YouTubeユーザーのデビッド・シーマン氏は15万人の登録者に毎日動画を配信し、「クエーカー・オーツやウーバーなどの大手ブランド」のGoogle広告で収益を得ていたという。
シーマンの記事には、ワシントン DC のピザ店に関連した強姦や小児性愛に関する虚偽の話が頻繁に含まれており、教育を受けていない米国人の怒りをかき立て、ある YouTube 視聴者は、中傷されたレストランに銃を持って現れるほど激怒した。
ユーチューブのフェイクニュースには他にも、スウェーデンを舞台にした低予算の虚偽報道など、ヨーロッパの移民を中傷する、欺瞞的に編集された動画があり、ユーチューブで「ストックホルム症候群」というバイラル動画クリップとして公開されている。
そのフェイクニュースのYouTube動画は、テレビのFox and Friendsで放映され、その後、動揺したトランプ大統領が集会でこの動画に触れ、まるでテロ攻撃について話しているかのように「昨夜スウェーデンで何が起こっているのか」と語りましたが、これは単にYouTube上のフェイクニュースコンテンツの性質について混乱している高齢の騙されやすい視聴者の問題や、Fox NewsとGoogleが収益のためにそれに信憑性を与えようとしていることの問題ではありませんでした。
アメリカ合衆国大統領以外にも、数十万人のYouTube視聴者が、「ピザゲート」事件のような児童レイプの空想からホロコースト否定、移民によるイスラム教徒の侵略まで、様々なテーマを日常的に視聴しています。PewDiePieのような注目を集めた事例では、Googleは動画が「広告主にとって適切ではない」と判断し、「収益化を無効」にしています。
全体的に、Google の注目コンテンツの多くは、フェイクニュースや陰謀論に傾倒しているだけでなく、実際の人間によるキュレーションなしに関連コンテンツを推奨するアルゴリズムによって、視聴者が迷い込んだ偽情報をさらに表示することで、視聴者を積極的に「ウサギの穴に突き落とす」ことになり、広告主にとって大きな問題となっている。
