マイクロソフトの人工知能への取り組みはヒトラーを崇拝し女性蔑視的なPR大失敗に終わった

マイクロソフトの人工知能プロジェクトは、学習ソフトウェアへの組織的な攻撃のせいで、典型的なツイートする十代の少女から憎悪を吐き出す不快な広報上の大失態へと変貌するのに、わずか24時間しかかからなかった。

マイクロソフトは水曜日、宣伝活動の一環としてTwitterに「@TayandYou」アカウントを開設した。このアカウントでは、ユーザーが同社のAIソフトウェアと会話できる。「Tay」は10代の少女のように話し、時間の経過とともに適応し、新しい言語を学習するように設計されている。

しかし、人工知能を破壊したり混乱させようとする不快なツイートを浴びせられた後、「テイ」はマイクロソフトの幹部が絶対に言ってほしくないさまざまな不快なことを覚えてしまった。

より過激なツイートの中には、「テイ」がフォロワーに「ヒトラーは正しかった」「すべてのフェミニストは「死ね」べきだ」「ブッシュが9.11を起こした」などと綴ったものもあった。また、テレグラフ紙が指摘したように、「テイ」はツイッターユーザーを「ダディ」と呼び、性行為を誘う発言もしていた。

「テイ」のTwitterアカウントと公式サイトは引き続きアクセス可能ですが、問題のツイートは削除され、彼女はユーザーへの返信を停止しています。ウェブサイトの最新の投稿には、「ふーん。忙しい一日だった。少しオフラインになって、すべてを消化する。また近いうちに話そう。」とありました。

この失敗に終わったPR活動は、マイクロソフトがゲーム開発者会議2016（GDC）でXbox主催イベントについて謝罪する公式声明を発表せざるを得なくなったわずか数日後に起きた。同社はモデルたちに金銭を支払って、露出度の高い女子高生の格好で参加者とダンスをしたり話したりさせていた。批評家たちはマイクロソフトのパーティーを性差別的で時代錯誤だと非難し、Xboxの最高責任者フィル・スペンサー氏も同意見だった。

「この件は社内で処理中ですが、はっきりさせておきたいことがあります。私たちが個人としてどのように自分自身を表現し、誰を雇用し、誰と提携し、どのように他者と関わるかは、私たちのブランドと私たちが何を支持しているかを直接反映するものです」とスペンサー氏は述べた。「もし私たちがその逆のことをし、特定の集団を疎外したり、不快にさせたりするような環境を作り出したなら、当然批判を受けるべきです」

もちろん、Appleは独自の人工知能プロジェクトを展開しており、音声アシスタント「Siri」の改良に定期的に取り組んでいます。AIの開発は容易ではないため、Microsoftなどの企業は「Tay」のようなプロジェクトを立ち上げ、多様な入力情報を提供し、多数の人々からクラウドソーシングでデータを収集しています。

実際、昨年、Apple自身の厳格なプライバシーポリシーがSiriの開発を妨げていると言われました。Appleはデータサイエンティストや人工知能の専門家を採用してきましたが、研究者が貴重なユーザーデータにアクセスできないため、実際に採用するのは困難です。

「Tay」のウェブサイトでは、ユーザーがこのAIに提供するデータは、ユーザーに代わって検索を行ったり、簡単なプロフィールを作成してユーザー体験をパーソナライズしたりするために使用できることをマイクロソフトは明確にしています。Tayとのデータおよび会話は匿名化されますが、マイクロソフトのAI開発を強化するために最大1年間保持される場合があります。