邊緣AI 4大商機噴發

隨著 AI 科技快速發展，AI 投資逐漸受到企業重視，AI 應用部署逐漸從雲端朝向邊緣、物聯網擴散，AI PC、機器人、智慧穿戴裝置與資訊軟體將成投資焦點。

【文／莊家源】

隨著全球興起生成式ＡＩ風潮，大型語言模型（ＬＬＭ）快速發展，ＡＩ投資逐漸受到企業重視，根據 iThome CIO 調查數據顯示，大約有二二％的企業提高對生成式ＡＩ的投資，而有十％的企業調整ＡＩ戰略，更聚焦在生成式ＡＩ在企業內部可能的應用場景，除了測試生成式ＡＩ如何應用在內部營運提升營運效率，也逐漸向特定營運或生產場景應用，帶動生成式ＡＩ應用部署從公有雲、企業資料中心，漸漸向邊緣運算、物聯網擴散，研究機構ＩＤＣ指出，和企業資料中心核心端相比，生成式ＡＩ應用未來更大的發展將在邊緣端，在推論需求快速增長的驅動下，預期許多企業今年將擴大邊緣部署，將帶動邊緣基礎設施擴展。

邊緣端ＡＩ發展加速

在過去的兩年裡，大型語言模型發展相當快速，除了向文字、圖片的多模態發展，同時，雲端服務供應商也向小語言模型發展，降低語言模型的參數規模，以更適合在運算資源有限的系統部署，像是 Google 在二三年釋出可在手機上執行推論的 Gemini Nano 模型，去年再推出採用相同技術的 Gemma，瞄準邊緣生成式ＡＩ需求；Meta 在去年釋出 Llama 3.2 1B/3B 模型，讓開發人員得以針對邊緣運算及行動裝置開發具有文字生成功能的裝置端應用程式，讓資料留在裝置端處理，降低資料上傳到雲端可能的資料外洩風險；微軟則是釋出最新小語言模型 Phi-3，根據參數規模的不同分成 mini、small 及 medium 三個版本，並強調小模型可用於運算效能有限或離線環境，讓許多資源受限的組織將模型部署於低成本裝置，或是在頻寬受限環境下，確保一定的回應速度。

另外，近期受到中國大語言模型 DeepSeek 問世，為ＡＩ產業發展帶來新的變革，由於 DeepSeek 模型擁有低成本、開源等特性，讓ＡＩ應用的開發門檻大幅降低，加速ＡＩ普及化，進一步推動邊緣ＡＩ裝置，如機器人、ＰＣ、智慧型手機、智慧穿戴裝置等需求。根據 Precedence Research 研究指出，二四年全球邊緣ＡＩ市場規模約為二一一．九億美元，預計到三四年將達到約一四三○．六億美元，二四年～三四年的年複合成長率（CAGR）為二一．○四％。

機器人具高成長潛力

去年三月，輝達（Nvidia）執行長黃仁勳在ＧＴＣ大會上展示了多款人形機器人，同時公布了 Project GR00T 計畫，透過全新的運算平台 Jetson Thor 結合最新架構的ＡＩ晶片 Blackwell、與專為機械手臂設計的基礎模型 Isaac Manipulator、以及用於自主移動機器人（ＡＭＲ）的ＡＩ視覺辨識 Issac Perceptor，提高機器人對於人類行為的認知能力，進而執行複雜任務，並增進人機互動的自然性。Digitimes 認為隨著ＡＩ、感測器、材料等技術突破與成本下降，加上勞動力短缺影響，全球人形機器人產業正加速發展，未來五～十年人形機器人將迎來爆發性成長，預估至二○三五年將創造近二六○億美元的產值。（全文未完）

來源：《先探投資週刊》2339 期
更多精彩內容請至 《先探投資週刊》