menu-icon
anue logo
鉅樂部鉅亨號鉅亨買幣
search icon
Empty
鉅亨新視界

〈觀察〉AI聊天機器人競爭白熱化 亞馬遜Q的賣點何在?

鉅亨網記者魏志豪 美國拉斯維加斯 2023-12-01 07:04

news-cover-image
AWS推出AI聊天機器人「Amazon Q」。(鉅亨網記者魏志豪攝)

亞馬遜 (AMZN-US) 旗下 Amazon Web Services(AWS) 本周舉辦 re:Invent 年度大會,最大亮點即是推出 AI 聊天機器人「Amazon Q」,本篇根據四大面向剖析 AWS 推出 Q 的賣點何在,包括市場面向、生成式 AI 架構、模型選擇與客製化、安全隱私。

市場面向

Amazon Q 主要瞄準商用市場,尤其是針對已使用自家雲端服務的數百萬家企業,進一步提供生成式 AI 服務,可根據企業自身的資料庫、程式碼與系統進行客製化,讓企業可以快速獲得複雜問題的答案,同時生成內容並採取應對措施。

AWS 強調,Amazon Q 不會讓底層模型吸收任何企業的資料,可在完全安全且封閉的環境中學習公司所有資料,並知道員工職等給予資料取得權限,成為企業自身專屬的業務助理。

生成式 AI 架構

AWS 也揭露生成式 AI 的架構,涵蓋「基礎建設、模型工具、終端應用」三大堆疊層 (Stack),強調 AWS 必須在三大堆疊層上進行創新,做出差異化服務,才會讓企業客戶採用。

基礎建設方面,AWS 除了提供輝達 (NVDA-US) 與超微 (AMD-US) 等通用 GPU 外,今年也推出新一代的自製晶片,包括基礎運算用 Graviton 4 及訓練晶片 Trainium 2,也同樣看好推論晶片 Inferentia 2 會持續獲得客戶採用,進一步降低客戶成本與強化效能。

模型選擇與客製化

模型工具方面,AWS 認為「單一模型不足以應付所有工作」,強調即使是應對日常工作流程,也需要使用同系列的多個模型,甚至是不同種類的模型,不能指望只使用單一模型就滿足所有工作。

舉例來說,文字輸入、文字輸出、文字嵌入後輸出、文字和圖像輸出,都是透過不同模型進行運算,生成內容也會取決於培訓資料以及培訓方式,而客戶也必須在成本、延遲性與準確性間進行權衡,因此如何選擇模型以及擁有多元選擇顯得相當重要。

生成式 AI 全球副總裁 Vasi Philomin 就指出,產業走向永遠無法預測,如同前幾年,當時每個人都說使用 TensorFlow 作為深度學習框架將是贏家,因此 AWS 也支援 TensorFlow 在自家系統上運作,但公司同時也支援 Pytorch 與 MxNet,事實證明,後來居上的 Pytorch 明顯是今天的贏家,因此讓客戶擁有選擇非常重要,也是 AWS 為何相容眾多模型的原因。

除了模型選擇多元外,AWS 強調「客製化模型」才會獲得客戶採用。由於 AWS 可同時提供多家客戶使用生成式 AI,也包括客戶的競爭對手,因此如何協助客戶做出差異化內容甚至決策,成為客戶選擇關鍵。

AWS 在客製化模型的概念,主要是將「資料、模型兩者分離」,藉此達成差異化,一是客戶資料本來就不盡相同,其次是資料如果是模型的一部分,就如同 ChatGPT 資料僅停留在某個時間點,就會存在「知識斷點」,所以透過分離資料與模型,可確保資料發生變化時,可持續生成最新內容。

隱私與安全性

AWS 長年以負責任的 AI(Responsible AI) 作為自家產品核心理念,但在生成式 AI 浪潮下,要如何說服企業客戶採用、並獲得其信任,隱私與安全成為客戶首要考量要點。

AWS 從三方面著手,一是今年新推出防護欄 (Guardrails) 功能,藉此定義或限制模型產生的內容,包括過濾特定關鍵字、刪除特定資料等,以確保 AI 生成內容符合企業的原則與政策。

其次,AWS 今年已承諾與白宮合作,持續以負責任且安全的態度使用 AI,如今年就在新推出的 Amazon Titan Image Generator 添加不可見的浮水印技術,藉此檢測是否為生成式 AI 圖片,同時也可避免圖片遭竄改,並保護智慧財產權等,滿足廣告業或各家品牌商所需。

另外,AWS 去年也推出服務卡 (Service card),藉此記錄模型構建、應用與限制等,提高模型透明度,讓客戶清楚地了解模型優劣勢,並負責任地使用相關模型。

整體來說,AWS 今年推出 Amazon Q,除了是向外界宣示在生成式 AI 領域的進展,也正式向同業微軟 (MSFT-US) 與谷歌 (GOOG-US) 發起挑戰,可以預期的是,未來生成式 AI 應用只增不減,生態系也將持續擴大。






Empty
Empty
Empty