menu-icon
anue logo
澳洲房產鉅亨號鉅亨買幣
search icon
美股

人事難搞!4年計畫1年就拆夥 OpenAI解散超對齊團隊

鉅亨網編譯許家華 2024-05-18 13:55

cover image of news article
(圖:REUTERS/TPG)

《CNBC》知情人士周五 (17 日) 透露,在原定 4 年期的「超對齊計畫 (Superalignment)」兩位關鍵團隊領導人離職後,OpenAI 解散了這個專注於人工智慧長期風險的團隊,該團隊組建僅一年,部分成員將被重新分配至公司內其他團隊,其餘則已全數離職。

OpenAI 公司證實,該公司不再將所謂的「超對齊」團隊作為一個獨立的實體,而是將該團隊更深入地整合到其研究工作中,以幫助公司實現其安全目標。

去年 7 月 OpenAI 宣布成立「超對齊團隊」,其策略是「以 AI 防堵 AI」,打造一個擁有人類智慧水準的自動對齊 AI,然後就能夠透過大量的算力進行自動對齊,確保 AI 與人類的意圖與利益是齊平,以免遭 AI 取代。

該團隊由 OpenAI 的共同創辦人兼首席科學家 Ilya Sutskever,以及本就負責 AI 對齊的機器學習專家 Jan Leike 兩人領軍,但幾天前這兩位領導人宣布離職。

上個月,超對齊團隊兩名研究人員因洩漏公司機密而被解僱,另一名成員也在 2 月離開。 到了本周二,Ilya 在社群平台 X 上宣布,他將在近十年後離開公司,相信在執行長 Sam Altman 等人的領導下,能夠打造出既安全又有益的通用人工智慧 。 Ilya 先前曾與 Sam Altman 就 AI 的發展速度發生衝突。

隨後,超級對齊團隊另一位負責人 Jan Leike 也宣布離職,知情人士聲稱,對 Leike 來說,Ilya 的退出導致分歧嚴重到了無法調和的地步。

Leike 周五發布聲明稱,超對齊團隊一直在努力爭取資源。「過去的幾個月裡,我的團隊一直在逆風航行。有時連算力資源都難取得,而且越來越難以完成這項關鍵的研究。」當初 OpenAI 計劃 4 年內將其 20% 的運算能力投入到該計畫。

他稱離職是因為自己與 OpenAI 在公司的「核心優先事項」上存在一系列分歧,他認為公司不夠關注 AI 相關的安全措施。

OpenAI 周二宣布,公司聯合創始人 JohnSchulman 將成為未來對齊工作的科學負責人。另外,OpenAI 在一篇部落格文章中表示,已任命研究總監 Jakub Pachocki 接替 Ilya 擔任首席科學家。

文章標籤





Empty