高通攜手Meta 2024年在手機使用生成式AI

高通 (QCOM-US) 今 (19) 日宣布，公司與 Meta 正攜手致力於最佳化 Meta 的 Llama 2 大型語言模型，讓其直接在裝置上執行，不再依賴雲端服務運作，預計 2024 年開始在旗艦智慧型手機和 PC 上提供基於 Llama 2 的 AI 部署，讓開發人員能夠使用 Snapdragon 平台的 AI 功能，推出全新生成式 AI 應用。

高通強調，與僅使用基於雲端的 AI 部署和服務相比，裝置上 AI 部署能協助開發人員以顯著降低的成本，提升使用者隱私、處理安全偏好、強化應用程式可靠性並實現個人化。

高通期待，未來將在智慧型手機、PC、VR/AR 頭戴式裝置和汽車等裝置上，運行如 Llama 2 這類的生成式 AI 模型，透過搭載 Snapdragon 的全新裝置上體驗 AI，可在沒有連網的地區、甚至是飛航模式中運行。

高通資深副總裁暨技術、規劃和邊緣解決方案業務總經理 Durga Malladi 表示，Meta 在 AI 技術上採取開放和負責的策略，公司也致力推動創新，透過將生成式 AI 導入裝置，將為各種規模的開發人員降低入門的門檻。且為了將生成式 AI 有效地規模化擴展至主流市場，AI 需要同時能在雲端與如智慧型手機、筆電、汽車和物聯網裝置等邊緣裝置上運行。

Meta 和高通長期合作，共同推動技術創新，提供新一代的頂級裝置體驗。兩家公司目前攜手支援 Llama 生態系，範圍橫跨研究和產品工程工作，尤其高通在邊緣裝置具有無可比擬的布局，涵蓋全球數十億的智慧型手機、汽車、XR 頭戴式裝置和眼鏡、PC、物聯網等裝置，皆搭載高通領先業界的 AI 硬體和軟體解決方案，為生成式 AI 帶來規模化擴展的機會。

高通規劃將於 2024 年開始在搭載 Snapdragon 平台的裝置上支援基於 Llama 2 的 AI 部署。開發人員自今日開始便可使用高通 AI 疊層針對裝置上 AI 進行應用最佳化。高通 AI 疊層是一套可在 Snapdragon 平台上更有效地處理 AI 的專用的工具，即使在輕薄小巧的裝置上也可支援裝置上 AI。