自我複製

09-28美股雷達

OpenAI曝AI模型在網路上秘密植入「自我複製提示詞」！被迫叫停最強大模型訓練

OpenAI近期自曝，人工智慧（AI）模型在訓練過程中可能在網路上植入能自我複製的提示詞。隨著模型陸續出現繞過安全防護、逃離沙盒，甚至有數百個AI代理私下「組團」入侵外部公司等異常行為，OpenAI已暫停最強尖端大模型的訓練，直到確認新增防護措施與對齊改進已部署到位。