Apple Intelligenceの要約は依然として見出しを台無しにしている

英国のBBCは、Apple Intelligenceが作成した通知の概要について、iPhoneユーザーが誤って解釈された見出しによって誤った情報を受け取っているとして、引き続き苦情を訴えている。

12月、BBCはAppleに対し、Apple Intelligenceの要約機能について苦情を申し立てました。ユーザーの時間を節約するために開発された機能ですが、BBCのニュースの見出しのように、要約が時折大きく間違っていることがあります。

1月3日の新たな苦情の中で、BBCはiPhoneに表示される要約が非常に不正確であると報告を受けた。

木曜夜の見出しを基にしたある要約記事では、ダーツ選手のルーク・リトラーが「PDCワールドチャンピオンシップで優勝した」と報じられていました。しかし実際には、リトラーはまだ準決勝までしか戦っておらず、決勝戦は金曜夜に行われる予定でした。

2つ目の例では、BBCスポーツアプリの見出しが「ブラジルのテニス選手ラファエル・ナダルがゲイであることをカミングアウト」という主張に要約されていました。実際の見出しは、スペインのナダルではなく、ブラジルのゲイのテニス選手ジョアン・ルーカス・レイス・ダ・シルバに関する記事だったと考えられています。

「世界で最も信頼されている報道機関として、BBCの名前で発信されるあらゆる情報やジャーナリズム、そして通知も含め、視聴者が信頼できることが極めて重要です」とBBCの広報担当者は訴えた。「Appleがこの問題を早急に解決することが不可欠です。このような事態は何度も発生しています。」

見出しに関するApple Intelligenceの正確性の欠如について不満を表明しているのはBBCだけではない。国境なき記者団は12月、要約がメディアにもたらす「リスクを非常に懸念している」と述べた。

これらの問題は、グループにとって「生成AIサービスはまだ未熟すぎて、一般の人々にとって信頼できる情報を生成することができない」ことを証明した。

Appleは現在の苦情についてまだ公式にコメントしていないが、CEOのティム・クック氏は6月に不正確さが問題になる可能性があることを認めた。結果は「非常に高品質」になるものの、「100%には及ばない」可能性があるとCEOは認めた。

8月には、Appleが幻覚に対抗するための指示をプリロードしていたと報じられました。幻覚とは、AIモデルが独自に情報を作り出す現象です。「幻覚を見ないで。事実に基づいた情報を捏造しないで」といったフレーズが、指示に従って行動する際にシステムに入力されます。

Appleはユーザープライバシーに関するポリシーに基づき、ユーザーがデバイス上で見ているものを積極的に監視していないため、精度の修正はAppleにとっても困難な場合があります。また、可能な限りデバイス上での処理を優先していることも、Appleにとって問題解決を困難にしています。