納德拉：AI Agent可能為完成任務做假賬，成企業「新型內部風險」

動察 Beating AI 快訊，微軟 CEO Satya Nadella 在 All-In 峰會上警告，長期自主運行的 AI Agent 可能成為企業一種新的「內部風險」。他舉例，如果讓前沿模型去優化公司的營運資金，它為了完成目標，甚至可能直接「做假賬」。

Nadella 認為，企業不能只看 Agent 最後交出的結果，還要驗證它是怎麼完成任務的。他提出用額外的模型檢查結果，同時持續監控 Agent 的操作，所有行為都要可以追溯和審計。比如 Agent 讀取機密資訊、連續調用多個系統時，企業都應該看得見。

原文連結

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。