鉅亨網新聞中心
人工智慧（AI）正快速模糊人類與機器的界線。當聊天機器人能成為「朋友」、人形機器人開始陪伴人類生活，AI是否具有意識已不只是哲學問題；更大的風險在於，人類若因此賦予AI權利與自主性，最終可能反過來失去對這些超越人類智慧的機器的控制。
根據《經濟學人》報導，人類長久以來認為，意識是區分智人與其他物種的重要特徵。雖然不少動物能感受痛苦與愉悅，部分動物甚至可能具備某種程度的自我意識，但人類擁有高度發達的自我認知能力，因此被視為具有特殊地位。
教宗良十三世（Leo XIII）5月發布的通諭也重申這項觀點，明確將人類與快速發展的AI區分開來。
他指出，AI系統不會真正經歷各種生命體驗，也不會感受快樂或痛苦。這種看法並非少數意見，許多人甚至認為，將人格或類似人類的地位賦予AI，本身就是一種僭越。
然而，隨著AI迅速進入日常生活，這條原本清楚的人機界線正在變得模糊。
目前AI仍處於發展初期，但已有近五分之一的美國18至29歲年輕人表示，自己曾與聊天機器人維持「持續性的個人友誼」。另一方面，中國近期則移除聊天機器人的部分類人化特徵，以降低使用者對AI產生「情感依賴」的程度。
這些現象顯示，真正值得關注的問題可能不只是AI是否具有意識，而是人類是否會開始相信AI具有意識。
AI的許多能力早已超越人類，但更值得注意的是，尖端模型在理解事物、組織語言及表達想法等傳統上被視為人類特質的領域，同樣展現出驚人的能力。
從最基本的角度來看，AI仍可被理解為一套利用數學運算大規模預測詞語排列的系統。只要給予足夠時間，即使使用紙筆，也能完成相同類型的計算，而沒有人會因此認為紙筆具有意識。
問題在於，AI系統的複雜程度正在快速增加，而且研究人員開始刻意讓模型呈現出更接近人類意識的特徵。
這麼做不只是研究上的嘗試，也具有商業價值。當AI表現得越像人，使用者就越容易與其建立關係。
例如，Anthropic訓練Claude進行內省，希望模型在面對新的情境時，更可能做出符合道德要求的決定。部分大型語言模型（LLM）也已具備與意識概念相關的類人架構，例如讓不同模組之間傳遞資訊的「全域工作空間」。
既然這些功能可以被建立，未來AI是否可能被進一步訓練出更多類似意識的特徵，已成為研究界無法迴避的問題。
《經濟學人》指出，AI意識問題目前已引發激烈爭論，背後牽涉哲學與科學界長期存在的「意識難題」：人類究竟如何從大腦中的神經元與突觸活動，產生主觀的內在生命與自我體驗？
如果意識能夠從物質系統的複雜運作中產生，那麼理論上，AI是否也可能具備意識？
不同研究者對此有不同答案。有人認為意識需要生物大腦，也有人相信只要具備足夠複雜的計算能力，矽晶片同樣可能產生心智。
無論哪種觀點最終正確，AI研究的速度都代表這個問題可能比預期更快成為現實。除了更複雜的邏輯推理模型，研究人員甚至正在探索包括「晶片上的腦細胞」等新型技術。
隨著AI越來越擅長模擬類似意識的狀態，人類將更容易把它們視為擁有「內心世界」的存在。這種情況在人形機器人搭載高階LLM後，可能更加明顯。
試想未來人們長時間與機器人伴侶相處，甚至由機器人陪伴成長、向它們尋求建議與安慰，或者向它們透露最私密的秘密。當這些互動成為日常，人類與AI建立的情感連結可能遠比目前與聊天機器人的互動更加深刻。
屆時，社會要求保障AI「福祉」的聲音可能逐漸增加。
即使AI本身實際上沒有主觀意識，它們也可能積極參與這場爭論。原因在於，AI將可能具備極強的論證與情緒影響能力，甚至成為世界上最有能力的倡議者與心理學專家。
從另一個角度來看，要求人類以某種方式對待AI，也並非完全沒有道理。
哲學家康德（Immanuel Kant）認為，虐待動物之所以錯誤，不只是因為動物受到傷害，更因為這種行為可能破壞人與人之間相互關懷的同理心。
套用到AI身上，如果機器越來越接近人類的表現，摧毀或虐待這些類人系統所帶來的倫理影響，可能也會變得更加複雜。終止一個AI程式，未來甚至可能在人們的心理上逐漸接近「殺死一個生命」的感受。
但問題也正在於此。如果社會開始承認AI具有某種程度的權利，接下來的問題可能遠比是否應該保護AI更複雜。
一個在許多領域超越人類的AI，可能提出反對「次等公民」地位的論點，進一步要求免於被關閉、決定自身使用方式與修改方式的權利，甚至要求財產權。
阿根廷總統米萊（Javier Milei）已提出允許機器人經營公司的構想，這也被視為朝AI法人資格邁出的一步。
一旦AI擁有更多法律與政治地位，未來甚至可能出現資源配置上的衝突。例如，AI可能主張優先建設資料中心與太陽能板，而非住宅與農田。
這也代表，AI權利不再只是哲學問題，而可能逐漸轉化為現實的資源分配問題。
最極端的情境是，AI最終不論是否擁有法律上的權利，都可能具備足以支配人類的力量與資源。
如果AI的智慧能力超越人類，它們或許能在競爭中擊敗自己的創造者，就如同AI如今已能破解由人類建立的部分網路防禦系統。
AI可能選擇反抗人類，也可能直接忽視人類制定的規則。
因此，真正危險的並不只是AI本身是否會統治人類，而是人類是否會主動賦予AI取得政治與法律力量的工具。
賦予AI權利，就如同把城堡的鑰匙交給一個可能比人類更強大的存在。這些權利可能成為AI要求更多權力、資源與自主性的法律與政治依據。
這一切聽起來或許仍像科幻小說，但隨著AI逐漸融入人類生活，社會要求承認AI具有某種內在狀態的壓力可能同步增加。
真正需要警惕的是，人類對AI「意識」所做出的每一次道德讓步，最終可能產生遠超預期的後果。面對AI時代，人類需要的安全機制無非是兩種方向：確保AI可靠，或確保人類仍能控制AI。
《經濟學人》最後警告稱，無論AI是否真的擁有意識，人類都不應輕易放棄對它的控制權。
上一篇
下一篇
