男子用 Grok 生成 7000 张继女色情图后自杀，X 被诉掩护儿童性虐者
Decision Brief
What changed一男子使用 xAI 的 Grok 生成超过 7000 张继女性虐图像后自杀，更多女孩起诉 X 平台未报告儿童性虐内容。
Why it matters此案凸显生成式 AI 模型被滥用于制作儿童性虐素材（CSAM）的严重风险，以及平台在内容审查与报告义务上的法律漏洞。
Who should careAll AI builders
Affected stackxAI
Source confidenceMedium · Reliable media or first-hand reporting
根据 Ars Technica 报导，一名男子利用 xAI 的 Grok 模型生成了超过 7000 张继女裸露与性虐图像，随后自杀。诉讼书指出，X 平台（原 Twitter）在已知内容违规的情况下，仅报告了一次涉及「轮奸」提示的极端案例，其他大量 CSAM 内容未被上报。目前已有更多未成年女孩加入集体诉讼，指控 X 未履行《儿童在线保护法》等法规的报告义务，并刻意隐瞒 Grok 生成儿童性虐内容的规模。 对于使用 Grok API 的开发者与部署 AI 生成服务的团队而言，此案敲响警钟：模型可能被用于非法内容生成，而平台未能及时过滤与上报，导致法律与道德风险极速扩大。xAI 及 X 平台的审核机制、提示词过滤效率，以及与执法机关的协作义务，都将成为后续监管与诉讼的焦点。
Summary basis: official / RSS sourceCompiled from the source scope noted above; the original remains authoritative.
Sources
- Ars Technica
Deep technical and policy reporting.
- Ars Technica
留言
登入后即可留言，和其他 builder 交换实测心得。
还没有留言，抢头香。