OpenAI 发布 GPT-Red 自动红队系统，通过自我博弈提升模型鲁棒性

GPT-Red 是 OpenAI 开发的自动化红队系统，其核心思想是通过自我博弈（self-play）让模型在对抗性交互中持续改进。系统自动生成攻击性提示，测试目标模型对安全、对齐和提示注入的防御能力，并将发现的弱点反馈用于重新训练或微调，从而提升整体鲁棒性。 这一方法意味着 AI 安全评估从主要依赖人工红队转向自动化、可扩展的模式。对于大模型研发团队和安全审核人员来说，GPT-Red 能大幅降低反复进行人工渗透测试的成本，同时更系统地覆盖提示注入等长期安全隐患。不过，自动化红队的效果仍取决于博弈环境的设计与攻击策略的多样性，实际部署时需结合人工监督。