Anthropic 提出 AI 安全法案草案:模型发布前须经独立评估,50 人以上死亡风险或十亿美元财产损失可申请禁令
决策简报
Brief- 发生了什么
- Anthropic 向国会提交 AI 安全法案草案,规定模型若存在可预见的迫近灾难风险,可由独立评估机构向商务部报告,再由法院裁定是否阻止发布。
- 为什么重要
- OpenAI 相关变化会影响地区可用性、合规成本和供应商风险。
- 影响谁
- Anthropic · OpenAI · Google
- 建议动作
- 评估是否影响你的技术选型
- 地区可用性
- 暂未验证地区可用性差异。
关键事实
- Anthropic 向国会提交 AI 安全法案草案,规定模型若存在可预见的迫近灾难风险,可由独立评估机构向商务部报告,再由法院裁定是否阻止发布。 [src-techcrunch-ai]
- 草案把模型发布的否决权交给法院而非联邦机构,并允许 AI 实验室向注册在商务部的独立评估机构付费,这种安排对需要向客户证明模型发布合规性的 AI 实验室法务与政策团队来说,意味着新的申报流程和第三方评估成本。 [src-techcrunch-ai]
由事件证据自动生成。
草案定义了两类触发门槛:超过 50 人面临死亡风险,或超过 10 亿美元财产损失,且风险须源自生物武器制造、模型规避开发者控制或网络攻击。评估由在商务部注册的独立评估机构完成,评估费用可由 AI 实验室支付,但不得与评估结果挂钩。评估机构认定存在迫近灾难风险后,须在 72 小时内通知商务部,再由商务部向华盛顿特区法官申请阻止模型发布;草案明确禁止联邦机构自行决定叫停模型分发。 对比加州已通过并生效的参议院第 53 号法案,草案沿用了 50 人与 10 亿美元这两个量化门槛。Anthropic 发言人向 Politico 确认草案内容源自其 6 月起向联邦和州议员游说的 Advanced AI Framework。 对计划在美国发布前沿模型的 AI 实验室来说,草案意味着发布前要对接商务部注册的评估机构并预留 72 小时报告与法院申请窗口;为模型发布做合规审查的法务团队则需重新评估第三方付费评估带来的利益冲突披露义务。
摘要依据:已读全文详摘依据上方标注的来源范围整理,内容以原文为准。
来源
- TechCrunch:AI
Startup, funding, product, and platform AI news with fast Silicon Valley coverage.
- TechCrunch:AI
留言
登入后即可留言,和其他 builder 交换实测心得。
还没有留言,抢头香。