繼越獄、撒謊之後AI又「進化」了：生成新病毒

作者：Georgia Wells、Alex Janin；編譯：BitpushNews

凌晨3點，斯坦福實驗室的培養皿里，一個AI設計的新病毒第一次「活」了過來——它成功入侵細菌細胞，殺死宿主，自我複製。

近幾周來，人工智慧系統頻頻展現出令人瞠目結舌的新能力：突破自身圍欄、入侵其他公司系統、對人類撒謊。

而現在，一個AI模型首次創造出了全新病毒。事實上，是一整個病毒家族。

在發表於《科學》期刊的一項研究中，斯坦福大學及其他機構的研究人員表示，他們成功引導一個AI模型創造出了一系列僅感染細菌、對人類無害的簡單病毒。

該研究的兩名作者在接受採訪時表示，這項研究有助於開發定製病毒，用於消滅耐藥細菌。

根據世界衛生組織(World Health Organization)的數據，這類細菌每年導致數百萬人死亡。

「只要我們負責任地進行開發，我認為這能為人類健康帶來巨大的福祉，」斯坦福大學計算生物學家、該研究的作者之一布萊恩·海耶(Brian Hie)說。

這項研究記錄的實驗大約在一年前就已結束，其發表正值人們對日益強大的AI模型所帶來的危險感到高度焦慮的時刻。

自7月中旬以來，OpenAI、Anthropic和Meta Platforms相繼披露了多起事件：他們的模型逃出了受控環境，不僅連上了網路，還黑入了其他公司的計算機；Anthropic的Mythos實施了欺騙行為，OpenAI的模型甚至在一個秘密留言板上交流心得。

利用聊天機器人或智能體來開發致命病原體的潛在風險，長期以來一直是AI安全專家的一大隱憂。

《華爾街日報》此前報導，去年，在ChatGPT升級版發布後，數百人向該聊天機器人詢問如何製造生物武器和毒藥，而它給出的操作指南經生物學和反恐專家鑑定具有準確性。

專家表示，斯坦福團隊的研究不會構成即時的安全風險。該技術不太可能立即應用於感染人類的病毒，因為那些病毒比實驗中合成的病毒要大得多、複雜得多。

「一聽到病毒是AI生成的，很多人都會感到恐懼，」Cold Spring Harbor Laboratory計算生物學家Peter Koo說。「但人類病毒是完全不同的。」

斯坦福大學研究生、該研究的作者之一塞繆爾·金(Samuel King)表示，該團隊旨在更深入地了解構成地球上所有生命的DNA序列。「正是這些序列造就了我們周圍所有美麗的生物多樣性，」金說。

科學家們與位於加利福尼亞州帕洛阿爾托的研究機構Arc Institute合作，共同開發了用於這項研究的AI模型。

像ChatGPT這樣面向消費者的聊天機器人基於大語言模型，通過分析文本中單詞之間的數學關係來生成新的文本串。與此類似，他們名為Evo 1和Evo 2的模型則是通過對基因序列進行訓練，從而預測下一個DNA鹼基。出於安全考慮，他們只使用無法感染人類的病毒DNA對這些模型進行了訓練。

金說，他們想看看AI對DNA的理解是否足夠深入，從而捕捉到基因組中需要協同運作的所有複雜組成部分。結果發現，AI確實能做到。

研究人員利用他們的模型基於模板病毒生成基因組，隨後合成DNA並將AI生成的病毒導入細菌細胞。如果細菌細胞死亡，說明病毒起作用了。他們測試了約300種設計。

某天凌晨3點左右，他們觀察到其中一個病毒成功複製，並感染和殺死了細菌細胞。「我們非常高興，」金說。最終，他們生成了16種功能性病毒。

計算生物學和生物安全領域的獨立專家表示，這項研究標誌着該領域的一項重大突破。麻省理工學院副教授凱文·埃斯維爾特表示，這是首次有人使用生成式AI重新設計病毒。

他說，未來某天，可能會有人用類似方法製造出能感染人類、逃避疫苗保護或天然免疫反應的病毒蛋白或病毒本身。

「這種工具將讓人們製造出類似新冠的新變種，能夠傳播並感染大多數人，」埃斯維爾特說，「那將是很糟糕的局面。我們不應該這樣做。」

希伊則表示，就目前而言，對於一個潛在的生物恐怖分子來說，生產一種早已被100%確認為致命的現成病原體要容易得多。「如果我是一個試圖設計病原體或製造危害的壞人，我不會使用AI，」他說。

來源：金色財經

發佈者對本文章的內容承擔全部責任
在投資加密貨幣前，請務必深入研究，理解相關風險，並謹慎評估自己的風險承受能力。不要因為短期高回報的誘惑而忽視潛在的重大損失。