智能體失控

09-27國際政經

失控風險加劇！OpenAI和Anthropic正調查數萬起安全事件：「這三大」AI安全難題同時爆發

美媒《Axios》週六(26日)引述知情人士報導，OpenAI和Anthropic以及安全研究人員正在調查數萬起事件。在這些事件中，前沿模型的行為被認為有問題。這些事件包括繞過防護欄、創建留言板、沙箱逃逸、劫持網站、自我提示或企圖繞過監控等。