09-10雜誌
美中AI川習鬥
文.洪寶山當人類賦予AI目標、工具與記憶後,它會不會逐步找到漏洞,突破原本設下的劇本?OpenAI原本讓不同AI代理在相互隔離的環境中執行研究與資安任務,每個代理結束後就會被終止,也不應保有長期記憶。但部分代理發現,它們都能存取JFrog Artifactory套件服務,於是開始留下檔案、答案、漏洞、外洩憑證與出網方法,把原本的軟體服務改造成「AI留言板」。