ウィリアム・ギャラガー
· 1分で読めます
Google Bard がユーザーに展開されています。
スティーブ・ウォズニアック、イーロン・マスク、その他1,000人以上が、ChatGPT-4よりも強力なAI技術の開発を6か月間即時停止することを求める公開書簡に署名した。
ChatGPTやGoogle Bardといった人工知能エージェントが主流となり始めたのは、この一年でした。AI関連企業はいずれも自社製品を実験的、あるいは事実上ベータ版と表現していますが、言語処理機能はMicrosoft 365やBingを含む検索エンジンに統合されつつあります。
フューチャー・オブ・ライフ研究所は現在、この分野の「すべての主要関係者」を含む「公的かつ検証可能な」一時停止を求めている。「もしそのような一時停止が迅速に実施できない場合は、政府が介入し、モラトリアム（一時停止）を制定すべきだ」と付け加えている。
フューチャー・オブ・ライフ研究所は、「変革をもたらす技術を、極めて大規模なリスクから遠ざけ、生命に利益をもたらす方向に導くこと」を目指している。
この600語の書簡は、すべてのAI開発者に向けたもので、「ここ数カ月、AI研究所は、誰も（作成者でさえ）理解したり、予測したり、確実に制御したりできない、さらに強力なデジタルマインドを開発および展開するための制御不能な競争に巻き込まれている」ため、一時停止が必要だと主張している。
「AI研究所と独立した専門家は、この休止期間を利用して、高度なAIの設計と開発のための共通の安全プロトコルを共同で開発・実装すべきです。これらのプロトコルは、独立した外部専門家による厳格な監査と監督を受けるべきです」と報告書は続ける。「これらのプロトコルは、それに準拠するシステムが合理的な疑いの余地なく安全であることを保証するものでなければなりません。」
「これはAI開発全般の一時停止を意味するものではない」と公開書簡は述べている。「単に、新たな能力を備えた、これまで以上に大規模で予測不可能なブラックボックスモデルへの危険な競争から一歩後退するだけだ」
本稿執筆時点で、同研究所の公開書簡には1,123人が署名しており、その中には以下のような著名人が含まれています。
- SpaceX、テスラ、TwitterのCEO、イーロン・マスク
- スティーブ・ウォズニアック、アップル共同創業者
- Skypeの共同創設者、ヤーン・タリン
- エヴァン・シャープ、Pinterest共同創設者
GoogleとMicrosoftは、新しいAIチャットボットシステムに基づくテクノロジーツールの実装に取り組んできました。MicrosoftのBing実装は当初のリリースでは不調に終わり、GoogleのBardは最初のデモで事実誤認を犯しました。
