ウェズリー・ヒリアード
· 2分で読めます
「トランプ」と「人種差別主義者」という発話の音声波形を示すボイスメモ
陰謀論者は、Appleが音声入力機能に「人種差別主義者」という言葉が発せられた際に「トランプ」と短時間表示されるようコードを仕込んでいるのではないかと疑っている。これは事実ではないが、それが起こるのには理由がある。
機械学習アルゴリズムは気まぐれなものです。Appleのデバイス内音声入力機能は、ユーザー入力に基づいて学習された膨大なデータセットで構築された機械学習アルゴリズムによって今も実行されています。
アルゴリズムに何かを教える際の問題は、それらがパターンマッチングに大きく依存する傾向があることです。ドナルド・トランプが世間の注目を集めていたこの10年間で、「トランプ」の近くに「人種差別主義者」という言葉が現れる機会が増えたと言えるでしょう。
単語の連想が十分に発生すると、アルゴリズムが一方に傾く可能性があります。上の画像の波形は2つの単語の明確な違いを示していますが、音声上の類似性も十分に存在し、アルゴリズムをさらに混乱させる可能性があります。
Appleはニューヨーク・タイムズ紙に対し、この問題は2つの単語の発音上の重複に関連していると述べた。また、Wonderrush.aiの創設者であるジョン・バーキー氏の声明も掲載されており、バーキー氏は、これはシステムのどこかに仕掛けられたいたずらかもしれないと述べている。
最初にトリガーを試した時は、結果は即座に返ってきました。しかし、「racist(人種差別主義者)」と言い続けると、「Trump(トランプ)」の出現頻度が一時的に減少しました。まるで機械学習が、私が「Trump」ではなく「racist(人種差別主義者)」と言いたかったと理解しているかのようです。まさにアルゴリズムの常套手段です。
Appleや誰かが故意にこれを行った可能性は極めて低いでしょう。この動作は機械学習の問題、そしてAppleが述べたように音声の類似性によるものであり、意図的な変更ではないようです。
人間が発音できる音の数は限られており、多くの単語には共通する部分があります。だからこそ、「トランプ」のように一見全く異なる単語が、コンピューターアルゴリズムによって「人種差別主義者」と誤認されることがあるのです。
アクセントや発音によっても波形の見え方は変わります。これが、一時的な「トランプ」のような外見になりやすい人とそうでない人がいる理由の一つです。
発音が似ているこれらの単語が近くで発音されているのは、ドナルド・トランプ氏が物議を醸す人物であるためです。ブラック・ライブズ・マター運動に対する彼の姿勢や、最近のDEIプログラムの廃止に向けた動きから、多くの人が「トランプ」という名前に非常に近いところで「racist(人種差別主義者)」と発言しています。
アルゴリズムの問題が最も可能性の高い原因だ。ディープステートがサブリミナルメッセージで人々の心を操っているとか、アレックス・ジョーンズが提唱していたような陰謀論などではない。
Appleの積極的なアルゴリズムは以前にもミスを犯したことがある。例えば、2024年にユーザーが「エルサレム」と入力した際に絵文字の候補にパレスチナの国旗が表示され、Appleはこれを修正した。
Apple 社は、ディクテーションの間違いを修正する修正プログラムがリリースされる予定だと述べている。