ポルノ画像発見を受け、AppleはiOS 10メッセージにおけるGIF検索キーワードを厳しく取り締まる

Apple は、iOS 10 で新たに導入された iMessage の GIF 検索アプリに対して、強引なモデレーション戦術を適用しているようだ。このアプリは、ポルノ画像を誤って取得していたため、一見無害な単語の検索では結果が表示されなくなった。

Appleは火曜日にiOS 10をリリースしました。この新しいiMessage APIは、かつては閉ざされていたメッセージングプラットフォームを開発者に開放します。この機能により、スタンドアロンアプリへの拡張性や、ウェブベースのアセットなどへの制御されたアクセスが可能になります。

開発者はすでにAPIを活用し、iMessage App Storeで小規模アプリを販売していますが、Appleはユーザーが手軽に始められるように、自社製のアプリも多数提供しています。しかし残念ながら、Appleはインターネットにはポルノが溢れていることを忘れているようです。

Gizmodoの報道によると、検索語に関連するGIFや画像を返すAppleのiMessageアプリ「#Images」を試用していたユーザーが、うっかり怪しいコンテンツに遭遇してしまったという。怪しいコンテンツとは、ハードコアポルノのことだ。例えば、Deadspinは「hard」というキーワードで検索した際に、非常に過激なGIF画像を発見した。

Appleはこの事態を察知し、自社アプリにも規制を敷きました。iMessageアプリ「#Images」はBingを採用しているため、Appleは挑発的なコンテンツにつながる可能性のあるキーワードのリクエストをブロックしています。これは厳格ながらも効果的なコンテンツ管理策です。Appleは、明らかに性的な表現に加え、「huge（巨大）」や「bounce（跳ねる）」といった一見無害に見えるキーワードも、ロービング禁止の一環としてブラックリストに登録しています。

また、Appleは可能な限り検索結果をクリーンアップしているようで、例えば「sideboob」では、同じ用語の以前の検索よりも検索結果が少なくなり、よりクリーンな結果が返されるとレポートは述べている。