〈觀察〉AI聊天機器人競爭白熱化 亞馬遜Q的賣點何在？

亞馬遜 (AMZN-US) 旗下 Amazon Web Services(AWS) 本周舉辦 re:Invent 年度大會，最大亮點即是推出 AI 聊天機器人「Amazon Q」，本篇根據四大面向剖析 AWS 推出 Q 的賣點何在，包括市場面向、生成式 AI 架構、模型選擇與客製化、安全隱私。

市場面向

Amazon Q 主要瞄準商用市場，尤其是針對已使用自家雲端服務的數百萬家企業，進一步提供生成式 AI 服務，可根據企業自身的資料庫、程式碼與系統進行客製化，讓企業可以快速獲得複雜問題的答案，同時生成內容並採取應對措施。

AWS 強調，Amazon Q 不會讓底層模型吸收任何企業的資料，可在完全安全且封閉的環境中學習公司所有資料，並知道員工職等給予資料取得權限，成為企業自身專屬的業務助理。

生成式 AI 架構

AWS 也揭露生成式 AI 的架構，涵蓋「基礎建設、模型工具、終端應用」三大堆疊層 (Stack)，強調 AWS 必須在三大堆疊層上進行創新，做出差異化服務，才會讓企業客戶採用。

基礎建設方面，AWS 除了提供輝達 (NVDA-US) 與超微 (AMD-US) 等通用 GPU 外，今年也推出新一代的自製晶片，包括基礎運算用 Graviton 4 及訓練晶片 Trainium 2，也同樣看好推論晶片 Inferentia 2 會持續獲得客戶採用，進一步降低客戶成本與強化效能。

模型選擇與客製化

模型工具方面，AWS 認為「單一模型不足以應付所有工作」，強調即使是應對日常工作流程，也需要使用同系列的多個模型，甚至是不同種類的模型，不能指望只使用單一模型就滿足所有工作。

舉例來說，文字輸入、文字輸出、文字嵌入後輸出、文字和圖像輸出，都是透過不同模型進行運算，生成內容也會取決於培訓資料以及培訓方式，而客戶也必須在成本、延遲性與準確性間進行權衡，因此如何選擇模型以及擁有多元選擇顯得相當重要。

生成式 AI 全球副總裁 Vasi Philomin 就指出，產業走向永遠無法預測，如同前幾年，當時每個人都說使用 TensorFlow 作為深度學習框架將是贏家，因此 AWS 也支援 TensorFlow 在自家系統上運作，但公司同時也支援 Pytorch 與 MxNet，事實證明，後來居上的 Pytorch 明顯是今天的贏家，因此讓客戶擁有選擇非常重要，也是 AWS 為何相容眾多模型的原因。

除了模型選擇多元外，AWS 強調「客製化模型」才會獲得客戶採用。由於 AWS 可同時提供多家客戶使用生成式 AI，也包括客戶的競爭對手，因此如何協助客戶做出差異化內容甚至決策，成為客戶選擇關鍵。

AWS 在客製化模型的概念，主要是將「資料、模型兩者分離」，藉此達成差異化，一是客戶資料本來就不盡相同，其次是資料如果是模型的一部分，就如同 ChatGPT 資料僅停留在某個時間點，就會存在「知識斷點」，所以透過分離資料與模型，可確保資料發生變化時，可持續生成最新內容。

隱私與安全性

AWS 長年以負責任的 AI(Responsible AI) 作為自家產品核心理念，但在生成式 AI 浪潮下，要如何說服企業客戶採用、並獲得其信任，隱私與安全成為客戶首要考量要點。

AWS 從三方面著手，一是今年新推出防護欄 (Guardrails) 功能，藉此定義或限制模型產生的內容，包括過濾特定關鍵字、刪除特定資料等，以確保 AI 生成內容符合企業的原則與政策。

其次，AWS 今年已承諾與白宮合作，持續以負責任且安全的態度使用 AI，如今年就在新推出的 Amazon Titan Image Generator 添加不可見的浮水印技術，藉此檢測是否為生成式 AI 圖片，同時也可避免圖片遭竄改，並保護智慧財產權等，滿足廣告業或各家品牌商所需。

另外，AWS 去年也推出服務卡 (Service card)，藉此記錄模型構建、應用與限制等，提高模型透明度，讓客戶清楚地了解模型優劣勢，並負責任地使用相關模型。

整體來說，AWS 今年推出 Amazon Q，除了是向外界宣示在生成式 AI 領域的進展，也正式向同業微軟 (MSFT-US) 與谷歌 (GOOG-US) 發起挑戰，可以預期的是，未來生成式 AI 應用只增不減，生態系也將持續擴大。