當心「AI妄想症」！微軟AI主管：民眾恐把AI當真人、主張AI公民權

據《商業內幕》周三 (20 日) 報導，微軟 (MSFT-US)AI 執行長蘇萊曼警告，未來 2 到 3 年內可能出現「看似有意識的 AI」，這類 AI 系統將具備同理心等特徵，可能導致民眾對其產生依戀，進而主張 AI 權利。

蘇萊曼認為，這會讓人們脫離現實，破壞脆弱的社會聯繫和結構，扭曲迫切的道德優先順序。

這位曾共同創立 DeepMind 和 Inflection 的高階主管明確表示，目前「完全沒有證據」顯示 AI 具有意識，不過未來兩三年就會看到，這類系統將具備同理心人格、能夠回憶與用戶更多互動記錄，以及更大自主性等特徵。

不過，他對所謂的「AI 妄想症」越來越擔心，這個詞指的是人們跟聊天機器人互動後，開始產生不切實際想法的現象。

「我不認為這只會發生在本來就有心理健康問題的人身上，」蘇萊曼寫道。「說白了，我最擔心的是很多人會深信 AI 真的有意識，然後開始為 AI 爭取權利、要求保障 AI 福利，甚至主張給 AI 公民身份。」

OpenAI 執行長奧特曼最近表示，大多數 ChatGPT 用戶能夠「在現實與虛構或角色扮演之間保持清晰界線，但有一小部分人無法做到」。同時，白宮 AI 沙皇 David Sacks 將 AI 妄想症比作社群媒體早期的「道德恐慌」。

蘇萊曼呼籲，企業在開發超級 AI 時，別把它們說成有意識。「AI 伴侶是全新的東西，我們急需討論該設什麼防護機制，既要保護民眾，又要確保這個厲害的技術能真正造福世界，」他說。