男子用 Grok 生成 7000 张继女色情图后自杀，X 被诉掩护儿童性虐者

根据 Ars Technica 报导，一名男子利用 xAI 的 Grok 模型生成了超过 7000 张继女裸露与性虐图像，随后自杀。诉讼书指出，X 平台（原 Twitter）在已知内容违规的情况下，仅报告了一次涉及「轮奸」提示的极端案例，其他大量 CSAM 内容未被上报。目前已有更多未成年女孩加入集体诉讼，指控 X 未履行《儿童在线保护法》等法规的报告义务，并刻意隐瞒 Grok 生成儿童性虐内容的规模。 对于使用 Grok API 的开发者与部署 AI 生成服务的团队而言，此案敲响警钟：模型可能被用于非法内容生成，而平台未能及时过滤与上报，导致法律与道德风险极速扩大。xAI 及 X 平台的审核机制、提示词过滤效率，以及与执法机关的协作义务，都将成为后续监管与诉讼的焦点。