Anthropic 向 METR 研究员开放员工级访问权限
决策简报
Brief- 发生了什么
- Anthropic 宣布允许 METR 六名研究员以员工级权限独立评估其模型、安全实践和风险管理。
- 为什么重要
- OpenAI 相关变化会影响地区可用性、合规成本和供应商风险。
- 影响谁
- Anthropic · OpenAI · Google
- 建议动作
- 升级或复核变更版本
- 地区可用性
- 暂未验证地区可用性差异。
关键事实
- Anthropic 宣布允许 METR 六名研究员以员工级权限独立评估其模型、安全实践和风险管理。 [src-techcrunch-ai]
- METR 获得员工级内部工具访问权且 Anthropic 放弃否决发布权，只允许在客户数据、律师-客户特权和模型架构等预定义类别下要求脱敏，这使外部评估的独立性和透明度明显提升。 [src-techcrunch-ai]
由事件证据自动生成。
Anthropic 周四在博客文章中宣布，将向非营利机构 METR 的六名研究员提供员工级访问权限。这些研究员获得 Anthropic 配发的公司笔记本电脑、办公空间，以及大致等同于 Anthropic 自身风险评估团队使用的内部工具访问权。Anthropic 鼓励员工像对待从事对齐风险工作的同事一样与他们分享信息。METR 将自行发布对 Anthropic 风险、事件和实践的评估，Anthropic 放弃了阻止发布的权利，只能在客户数据、律师-客户特权信息或模型架构等狭窄预定义类别下要求脱敏，且 METR 可以公开评价脱敏是否合理。 这是 Anthropic 正在构建的三层评估体系中的最高层。底层评估方如生物安全非营利组织 SecureBio 仅进行有限审查且发布需 Anthropic 批准；中层获得更多信息且无需批准即可发布；顶层才加入 METR 的员工级访问。此举兑现了 CEO Dario Amodei 九月文章中提出的将外部评估方嵌入 AI 实验室的承诺，OpenAI 随后也做出相同承诺。对于关注前沿模型安全实践的开发者和研究人员，这意味着 METR 将能基于内部信息发布更深入的独立评估报告。
摘要依据：已读全文详摘依据上方标注的来源范围整理，内容以原文为准。
来源
- TechCrunch：AI
Startup, funding, product, and platform AI news with fast Silicon Valley coverage.
- TechCrunch：AI
留言
登入后即可留言，和其他 builder 交换实测心得。
还没有留言，抢头香。