LLM
科技
AI 新創公司發表 Inception Labs 全球首個商用級擴散大語言模型 Mercury Coder,比當前的 LLM 速度更快 5 至 10 倍,並且以低成本提供高品質。現有的大語言模型(LLM)都採用自回歸方式工作,就像人類閱讀一樣,從左到右一個詞一個詞地生成文本。
美股雷達
路透周二 (11 日) 援引兩名知情人士消息報導,臉書母公司 Meta Platforms(META-US) 正在測試與台積電 (2330-TW)(TSM-US) 合作生產的自研人工智慧 (AI) 訓練晶片,目的是要降低對輝達 (NVDA-US) 的依賴、減少基礎設施成本。
科技
不久前,OpenAI、Anthropic 這樣的 AI 大廠還備受投資人追捧,每年投入數十億美元打造先進的大語言模型 (LLM),但近來矽谷投資風向改變,轉而追捧 AI 智能體 (AI Agent),曾經被瞧不起的 AI 應用公司,如今成了矽谷投資圈的當紅炸子雞。
DeepSeek 在開源周第四天一連更新 DualPipe、EPLB 以及深入分析 V3/R1 模型中計算與通信重疊機制的優化並行策略等三項專案,讓大模型訓練更快,成本更低,還能保持頂尖性能,值得一提的是,DualPipe 是由 Jiashi Li、Chengqi Deng 和梁文峰共同研發。
科技
馬斯克周二 (18 日) 發表 Grok-3,號稱「地球上最聰明 AI」,而近期爆紅的 DeepSeek 也沒閒著,在當天發表名為《Native Sparse Attention: Hardware-Aligned and Natively Trainable Sparse Attention》的一項重要論文,介紹一種新的稀疏注意力機制(Natively Sparse Attention,NSA),用於提升長文本訓練和推理的效率,並具備硬體對齊和端到端訓練的特性。
美股雷達
最新研究顯示,全球 AI 算力持續提升,因輝達與超微半導體等 AI 晶片廠商紛紛推出加速器,加上一些新興勢力開始製造晶片,其中大語言模型最愛使用輝達 (NVDA-US) A100 晶片,谷歌 (GOOGL-US) 擁有逾 100 萬個跟 H100 晶片相當的算力。
科技
美媒《CNBC》周五 (14 日) 報導,隨著中國新創公司深度求索 (DeepSeek) 推出更便宜且高效的人工智慧 (AI) 模型,可能會重塑資料中心的需求,進一步促進這一已經蓬勃發展的行業。資料中心是數位轉型和大型語言模型 (LLMs) 訓練的核心基礎設施,分析師長期預測其將持續成長。
台股新聞
第一銀行因應金融機構上雲政策,始終對於雲端技術的採用具備市場敏銳度,早於 2022 年即運用 Amazon CloudFront 低延遲內容交付網路技術,提升公開網站對外反應速度及使用者體驗,並於銀行公會 2024 年 7 月公布「金融機構作業委外使用雲端服務自律規範」前,就同步規劃運用 Amazon Web Services (AWS) 雲端服務打造數據分析雲端平台,並於今年 2 月正式上線,成為首家建置數據分析雲端平台的公股銀行,展現數位轉型的決心。
美股雷達
Alphabet 旗下的 Google 周三 (5 日) 宣布更新其 Gemini 系列的大型語言模型 (LLM),並推出一款全新的低成本人工智慧 (AI) 模型,以對抗來自中國競爭對手 DeepSeek 的低價產品。Google 現在提供多個版本的 Gemini 模型,根據價格和效能有所區別。
美股雷達
歐洲最熱門的人工智慧 (AI) 新創公司之一的負責人表示,預計 AI 技術今年將超越大型語言模型 (LLM)。法國 AI 公司 Mistral 執行長孟許 (Arthur Mensch) 表示,他認為 2025 年 AI 產品重點將從模型轉向整合模型和上下文業務數據的「系統」。
美股雷達
高通 (QCOM-US) 今 (8) 日宣佈一系列汽車領域合作項目,其中,將與亞馬遜 (AMZN-US) 進行技術合作,以 AI 驅動的車內體驗,此次用高通 Snapdragon 座艙平台的 NPU,針對邊緣端汽車中由 LLM 驅動的體驗進行最佳化。
美股雷達
微軟 (MSFT-US) 周二 (19 日) 在芝加哥舉辦的年度 Ignite 大會上推出人工智慧 (AI) 工具「Azure AI Foundry」,可以協助雲端用戶構建和布署 AI 應用程式。與此同時,該公司還在會上發布兩款晶片。根據外媒報導,Azure AI Foundry 可以讓使用者更輕鬆地在支援 AI 的大型語言模型 (LLM) 之間切換。
科技
Yushan.AI Corporation 宣布,微軟前亞洲研究院副院長田江森博士正式加盟公司,擔任首席人工智慧科學家,全面領導公司在大語言模型(LLM)領域的技術發展。田江森博士的加入,標誌著 Yushan.AI 在全球人工智慧技術領域邁出了重要一步。