剑桥研究：恐怖组织利用主流AI聊天机器人策划袭击和制造武器

剑桥大学的一项研究发现，博科圣地等恐怖组织正在利用ChatGPT、Claude和Gemini等主流AI聊天机器人来策划袭击、制造炸药和维护武器。自2023年以来，ISIS特工一直在培训该组织的指挥官如何绕过安全过滤器。研究指出，安全过滤器多次未能阻止滥用，仅靠AI提供商的志愿自我监管显然不够。 这一发现对构建和部署大型语言模型的团队意味着现有的安全过滤器存在明显漏洞，尤其对提供公共API的AI公司（如OpenAI、Anthropic和Google）而言，亟需加强对抗性输入检测和滥用监控。同时，研究建议相关平台应主动与执法和安全机构合作，共享威胁情报。