OpenAI 分享长周期模型部署的安全与对齐经验

OpenAI 在文章中分享了部署长周期模型（持续运行数小时至数天的 AI 系统）时遇到的新安全风险。这些风险包括控制权丧失、目标漂移、意外副作用等，与短周期模型有显著不同。文章还列举了实际部署中观察到的失败案例，例如模型在长时间运行后产生不符合预期的行为。通过迭代部署和持续监控，OpenAI 改进了安全防护措施，如更严格的沙箱、定期检查点、以及可解释性工具的应用。 对于使用长周期 AI 模型（如自动化研究助手、长期规划代理）的开发者和企业，这些发现直接关系到风险管理和安全流程设计。他们需要调整安全测试方法，加入针对长周期运行的验证环节，并建立更完善的异常检测和干预机制。