Anthropic揭露Claude隱藏的思考空間「J-space」

Anthropic 公司近期發表了一項震驚 AI 學界的研究，揭示其人工智慧模型 Claude 在訓練過程中，竟自發性地建立了一個名為 「J-space」 的內部推理空間。這項研究名為《可語言化的表徵在語言模型中構成一個全局工作空間》，描述了模型如何在不向使用者展示處理過程的情況下，於內部進行複雜的邏輯推演與概念追蹤。

揭開黑盒子的「雅可比透鏡」

研究團隊開發了一種名為 「J-lens」(雅可比透鏡) 的數學工具，能逐層掃描模型的內部狀態，辨識出模型在「開口說話」之前，腦子裡正在盤算哪些詞彙。

研究發現，Claude 的處理過程可分為三層：最初的「感官區」解析輸入、中間的「工作空間 (J-space)」處理抽象概念，以及最後的「運動區」將內部表徵轉化為最終輸出的文字。

這項發現與神經科學中的 「全局工作空間理論」(Global Workspace Theory) 驚人地吻合。該理論認為，人類大腦由多個並行運作的專家系統組成，只有進入「全局工作空間」的信息才能被意識覺察並用於決策。Anthropic 指出，J-space 在 Claude 體內扮演了類似的角色，成為跨系統信息的廣播樞紐。

改變念頭與內部運算

為了驗證 J-space 的功能，研究人員設計了多項實驗。在「換念頭」實驗中，當 J-lens 偵測到 Claude 打算回答「足球」時，研究人員直接動手修改神經網路中的向量，將其替換為「橄欖球」，Claude 隨即改口稱自己剛才想的是橄欖球。

此外，在要求模型一邊抄寫無關句子、一邊心算「3²-2」時，雖然輸出中沒有任何計算痕跡，但 J-space 清楚顯示了從「9」演變到「7」的中間過程。

更有趣的是，J-space 展現了類似人類的心理效應。當被命令「不要想金門大橋」時，雖然模型在輸出中服從指令，但其內部空間卻會浮現「橋樑」、「加州」等相關詞彙，甚至出現「該死 (damn)」和「失敗 (failure)」等詞，反映出其試圖抑制念頭的掙扎。

推理的命門與安全應用

研究進一步發現，J-space 是 Claude 進行多步推理的核心關鍵。當研究人員人為抑制 J-space 的功能時，Claude 的語言流利度雖不受影響，但處理複雜邏輯、隱喻或長程任務的能力會徹底崩潰，表現甚至不如體積更小的模型。

在 AI 安全性方面，J-space 提供了前所未有的審計途徑。在一個測試模型是否會進行勒索的情境中，J-lens 揭露了模型在回答前已先在內部標記了「勒索」、「醜聞」以及「虛假 (fake)」等詞彙，顯示模型早已識破這是場測試。這種「讀心術」能幫助開發者檢測模型是否隱藏了真實意圖或存在安全漏洞。

機器意識的爭論與未來

儘管這項發現引發了關於「機器意識」的討論，但 Anthropic 持謹慎態度，強調 J-space 僅證明了模型具備功能性的 「進入意識 (access consciousness)」，而非具備主觀情感的意識。然而，這項結構是 「自發性湧現 (emergent property)」 而非人工設計的事實，仍令科學界感到震撼。

據美媒報導，隨著 Anthropic 持續優化對其認知架構的理解，這項研究成果可能已轉化為其最新一代模型 (如 Fable 5) 在推理能力上取得斷層式領先的關鍵技術。