AppleのAI通知要約の修正は実際には結果を改善しない

Apple Intelligenceの通知概要が不正確であるというBBCの懸念に応えて、AppleはAIが使用される場合にはそれをより明確にすると約束した。

Apple Intelligenceは2024年10月に非常に初期段階として一般公開されました。主要機能の一つである通知の概要表示は、言葉のニュアンスを捉えにくく、誤った結果や奇妙な結果をもたらすことがよくあります。

AppleはBBCへの声明で、通知の要約を改善すると約束する代わりに、AIが通知の要約を生成する際にその旨をより明確に表示すると表明しました。この修正は、表示される内容が100%正確ではない可能性があることをユーザーに確実に認識させることを目的としています。

Appleの対応は、同誌からの度重なる苦情を受けてのものだ。要約には、殺害された人物や同性愛者であることをカミングアウトした人物など、ユーザーやコンテンツ発行者を驚愕させる衝撃的な内容が盛り込まれている。

現在のUIでは、要約を実行すると2本の線と曲線の矢印が入った小さなシンボルが表示されるため、今回の修正により懸念事項の一部が軽減される可能性があります。要約を読む前に、それがAIによって生成されたものであることをユーザーが認識できれば、混乱を軽減できる可能性があります。

AppleはApple Intelligenceの要約を「修正する」と約束したかもしれないが、現実はそう単純ではない。同社は常にモデルの改良に取り組んでいるが、異なる通知が届くことで悲惨な結果が生じる可能性は常に存在する。

最近ソーシャルメディアで共有された例としては、ニッキー・グレイザーがゴールデングローブ賞授賞式で殺害されたと示唆する要約があります。実際の見出しは「ニッキー・グレイザー、ゴールデングローブ賞の司会者として殺害」でした。

英語を母国語としない多くの人が言うように、英語には慣用句や別の意味が多すぎます。要約に使用するキーワードを探す人工言語生成ツールは、微妙なニュアンスや皮肉を拾うことができません。

Appleの修正が不満を抱く人々を満足させるかどうかは疑問ですが、ユーザーには別の選択肢があります。「設定」→「通知」→「通知をまとめる」でこの機能をオフにするか、少なくともこの機能を使用するアプリを切り替えることができます。