蘋果於 12 月 6 日宣佈推出 MLX,一款專為 Apple Silicon 設計的開源框架。這款框架的目標是讓 AI 開發者能在其項目中進行構建、測試、使用及優化。
基準測試中表現出色
開發者 Oliver Wehrens 近期分享了在蘋果 M1 Pro、M2 及 M3 晶片上對 MLX 框架的基準測試結果,並與 Nvidia RTX 4090 顯示卡進行了比較。測試中使用了 OpenAI 的語音識別模型 Whisper。
Wehrens 使用 Whisper 模型進行語音轉寫,並測量處理 10 分鐘音頻文件所需的時間。結果顯示,M1 Pro 晶片的表現略遜於 Nvidia GPU,處理音頻需 216 秒,而 4090 則需 186 秒。
然而,新一代 Apple Silicon 的表現則大幅提升。例如,另一名測試者在配備 76 個 GPU 的 M2 Ultra 和 40 個 GPU 的 M3 Max 上運行相同的音頻文件,發現這些晶片的語音轉寫時間少於 Nvidia GPU。
功耗上的顯著差異
Apple Silicon 與 Nvidia 顯示卡在功耗上存在顯著差異。具體來說,比較搭載 Nvidia 4090 的 PC 在運行與待機狀態下的能耗,增加了 242 瓦。相比之下,搭載 16 個 M1 GPU 核心的 MacBook 在活動狀態與待機狀態下的能耗差異僅為 38 瓦。
蘋果在 AI 和機器學習領域的進展
值得一提,Nvidia 4090 GPU 價格從 1,599 美元起步,還不包含 PC,這與 2022 年的 M3 MacBook Pro 同價!這些結果突顯了蘋果在人工智能和機器學習能力方面的進步,可能是蘋果產品更好性能的開始。隨著 MLX 框架現已開源,為開發者提供了更廣泛應用和創新的途徑。