天料科技技術總監李澤：AI Agent普及將帶動兩大行業興起

3月17日，由金色財經和Twinkle主辦，數岸學院學習支持、智譜Z.AI生態支持的「OpenClaw 創作者工坊・Skills Bazaar」在北京舉行。天料科技北京有限公司技術總監、清華大學生物資訊學碩士李澤接受金色財經獨家專訪。

李澤指出：

• 如果未來AI Agent普及的話，我認為有兩個新興行業是必不可少的：一個是屬於AI Agent的駕校，教會使用者如何更好的使用AI Agent；一個是AI Agent 4S店，幫助修理出問題的AI Agent。

• 目前AI還是存在一些風險，有時會產生幻覺。我們可以積累類似銀行業的成熟的規範標準，並且按照此類標準進行審批、根據數據敏感度進行相應授權。

• AI Agent需要具有安全性、可治理、可信任、可審計等屬性。

以下是專訪內容實錄：

金色財經：很多人說「AI只是工具」，也有人說「AI是新物種」，您更認同哪一種說法？

李澤：AI是工具還是新物種，其實並不需要做絕對區分。

首先，我們希望AI完成一些重複性、低效率的工作。其次，AI具有感知、思考、長期記憶、執行等能力，從這些能力上而言，我們不能將它看做生物意義上的新物種，而應該是社會分工上的新技術角色。如同盲人摸象一樣，我們也正在摸索AI到底應該扮演什麼角色。

金色財經：OpenClaw 有哪些亮點？有哪些安全風險？後續應該如何優化？

李澤：OpenClaw 的亮點值得大家深入思考。OpenClaw 大模型的一些能力已經超越了人類：AI Agent有了執行能力，可以寫文件、看郵件等，這是令人着迷的能力。OpenClaw接入通訊軟體後，就可以讓普通用戶感受AI Agent的這種能力，這是一個非常大的產品亮點。

OpenClaw 確實存在一些風險。我用一個比喻來說明：OpenClaw 就像一個武林高手，在深山老林里苦修數十年，但是它不知道社會法則。如果只是將這位武林高手關在家裡，可能不會有太大的問題，一旦讓它接觸到了複雜的世界，就會有被帶偏的可能。

接下來談談風險防範的問題。我們知道風險源自哪裡，就可以有一些防範風險的手段和標準。

首先，要在OpenClaw中強調哪些事可以做，哪些事不能做，要寫進標準文檔中。其次，要設計一些權限，建立一套機制，提前進行安全教育。事中留痕、事後巡查。

金色財經：在企業自建 Agent 系統時，安全風險主要來自哪些方面？

李澤：我們最近看到了很多新聞：用了OpenClaw之後，出了多少安全事故、有多少風險。但是回顧汽車發展史，我們會發現，在人類走不遠的時候，用馬車的人特別希望汽車出現，但是汽車出現後，首先報導的是車禍傷人事件，而非汽車的便利性。

現在進入了AI Agent時代，人和組織的智力增強時，一定會遇到安全風險問題，並且從理論上講，這個問題永遠無法根絕。

對於企業而言，一定要有 OpenClaw 監護人，即懂得教育、培訓、配置OpenClaw，並能夠與它共同成長，防範它的非預期行為。

如果未來AI Agent普及的話，我認為有兩個新興行業是必不可少的：一個是屬於AI Agent的駕校，教會使用者如何更好的使用AI Agent；一個是AI Agent 4S店，幫助修理出問題的AI Agent。

OpenClaw更像組裝車，會有很多愛好者加入其中。將來也一定會大廠們配置好的安全性良好的OpenClaw量產出來。因此，隨著時間的推移，我們現在遇見的問題都可以被逐步解決。

金色財經：企業如何平衡自動化效率與數據安全？未來是否需要 AI Agent 專門的安全標準？

李澤：平衡自動化效率與數據安全的核心在於按照風險分層自動化。

目前AI還是存在一些風險，有時會產生幻覺。我們可以積累類似銀行業的成熟的規範標準，並且按照此類標準進行審批、根據數據敏感度進行相應授權。

我們已經在AI Agent安全標準方面有了一些基建：例如計算機和軟體的安全標準等。當然，AI Agent的安全標準會有一些不同。

首先，AI Agent會讀取一些不可信的文本；其次，AI Agent會調用一些新的能力；最後，AI Agent會執行一些任務。這三點都需要我們逐一面對並制定相應安全標準。

金色財經：您對AI Agent 時代的終極願景是什麼？它會如何改變人類的生產與生活方式？

李澤：這個問題很宏大，AI Agent需要具有安全性、可治理、可信任、可審計等屬性。

人類曾用機械代替了一部分人類勞作；軟體興起後，一些資訊處理工作也不再需要人工完成；AI Agent興起之後，一定有一些新的內容交給AI Agent來做。我們要考量哪些內容是AI Agent可以做的，哪些是必須人類來做的。

首先，人類要設定目標：人類要追求什麼；其次，人類要設立邊界：AI Agent能做哪些事；最後，人類做最終判斷：AI Agent執行後，後果是人類來承擔。

我們對AI Agent終極願景的思考將永不止步。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。