不到兩個月後,Google 發佈了其大型語言模型 Gemini 的後續版本,期望藉此在人工智能行業中取得領先地位。今日,Google 正式推出 Gemini 1.5,並將其開放給開發者和企業用戶使用,預計不久後將全面向消費者推出。
Gemini 1.5 的顯著進步
Gemini 1.5 帶來了許多改進,其通用型號 Gemini 1.5 Pro,與最近才推出的高端型號 Gemini Ultra 不相上下,並在 87% 的基準測試中勝過了 Gemini 1.0 Pro。
該模型採用了一種越來越普遍的技術,稱為「專家混合」(Mixture of Experts,MoE),這意味著在你發送查詢時,它只運行整個模型的一部分,而不是全時處理整個模型。這種方法應使模型的使用更快,並提高 Google 運行效率。
突破性的大型上下文窗口
在 Gemini 1.5 中有一項新功能讓 Google ,尤其是 CEO Sundar Pichai 特別興奮。Gemini 1.5 擁有一個巨大的上下文窗口(Context window),意味著它可以處理更大的查詢,並且一次查看更多信息。Gemini 1.5 支援高達 100 萬個 Tokens,相比之下,OpenAI 的 GPT-4 為 128,000 個 Tokens,而當前的 Gemini Pro 為 32,000 個 tokens。
整套「魔戒三部曲」放進去
Sundar Pichai 用更簡單的方式解釋:「大約相當於 10 或 11 小時的影片,數萬行的程式碼。」這樣的上下文窗口意味著你可以一次性詢問 AI 機器人關於所有這些內容。你甚至可以將整套「魔戒三部曲」放進去,電影製作人可詢問 Gemini 評論家可能會怎麼說。