Apple の MLX 機械学習フレームワークの最近のテストでは、ベンチマークにより新しい Apple Silicon Mac が Nvidia の RTX 4090 とどのように競合するかが示されています。
Appleは12月6日、Apple Silicon専用に設計されたオープンソースフレームワーク「MLX」のリリースを発表しました。これは、AI開発者がプロジェクト内でMLXを基盤として構築、テスト、利用、そして強化するためのものです。
開発者のオリバー・ウェーレンス氏は最近、AppleのM1 Pro、M2、M3チップとNVIDIAのRTX 4090グラフィックカード上でMLXフレームワークのベンチマーク結果を共有しました。このベンチマークは、OpenAIの音声認識モデルWhisperを利用しています。
ウェーレンス氏は、音声の書き起こしにWhisperモデルを使用し、10分間の音声ファイルの処理時間を測定しました。その結果、M1 ProチップはNVIDIA GPUの性能に完全には及ばず、音声処理に216秒かかったのに対し、4090は186秒でした。
しかし、新しいAppleチップははるかに優れたパフォーマンスを発揮します。例えば、別の人が同じオーディオファイルを76基のGPUを搭載したM2 Ultraと40基のGPUを搭載したM3 Maxで実行したところ、これらのチップはNvidia GPUよりも短時間で音声の書き起こしを完了しました。
AppleのチップとNvidiaのチップでは、消費電力にも大きな差があります。具体的には、Nvidia 4090を搭載したPCの消費電力を、動作時とアイドル時で比較すると、242ワットも増加します。
対照的に、16 個の M1 GPU コアを搭載した MacBook では、アイドル状態と比較してアクティブ時の電力使用量の増加ははるかに少なく、その差はわずか 38 ワットです。
この結果は、AppleのAIおよび機械学習能力の向上を浮き彫りにしており、Apple製品の機能向上の始まりとなる可能性があります。MLXフレームワークがオープンソース化されたことで、開発者にとってより幅広い応用とイノベーションへの道が開かれます。
NVIDIAの4090 GPUは、PCなしでカード単体で1,599ドルから購入できます。これは2022年モデルのM3 MacBook Proと同じ価格ですが、M3 ProとM3 Maxになると価格が急上昇します。
最適化されたツールの使用により結果が変わった
ウェーレンス氏のブログ投稿の更新により、状況は一変しました。M3チップは依然として良好なパフォーマンスを示しましたが、Nvidiaは適切に最適化されたベンチマークツールを使用することで、その時間を半分以上短縮しました。
ウィスパーのパフォーマンスを更新
最適化されていないツールのパフォーマンスを反映しているため、元の記事はそのまま残しておきます。しかし、AIトランスクリプトに関しては、AppleのプロセッサがNvidiaのプロセッサに匹敵するにはまだ道のりが長いです。
最も注目すべき点は消費電力の違いです。結果は変わりませんでした。Appleのチップは、Nvidiaの消費電力のほんの一部で優れたパフォーマンスを発揮しました。
Nvidia 向けに最適化されたツールによる新しい結果では、トランスクリプトは 8 秒で完了しました。M1 Pro では 263 秒、M2 Ultra では 95 秒、M3 Max では 100 秒かかりました。
Appleの結果は消費電力を考慮すると依然として印象的でしたが、NVIDIAのそれには及びませんでした。Apple Siliconにはまだ改善の余地はありますが、着実に進歩しています。
12 月 13 日午後 6 時 50 分 (東部標準時) に更新: 元の投稿では最適化されていないベンチマークが使用されており、不正確な結果が表示されていました。
