沙箱

09-29美股雷達

OpenAI發布AI訓練安全準則：失控就叫停、高階主管有一票否決權

OpenAI近期公布一套針對尖端人工智慧（AI）強化學習訓練的安全準則。按照這套框架，在啟動或持續任何尖端強化學習訓練前，團隊都必須完成系統性的安全論證，且高階管理層成員擁有否決訓練的權力。根據OpenAI官方部落格，這套準則涵蓋技術防護、營運管理及失準事件調查三大領域。