anthropic向metr开放员工级访问权限引入独立安全评估-品玩

硅星人
 来自北京

品玩10月16日讯,据 TechCrunch 报道,Anthropic于10月15日宣布,已向非营利机构METR的6名研究人员提供员工级访问权限,以独立评估其模型、安全实践及风险管理。METR研究人员将获得公司笔记本电脑、办公空间及与内部风险评估团队大致同级的内部工具访问权限。

Anthropic将此举类比为银行业监管中向大型银行派驻常驻检查员的模式,旨在缩小外部评估机构与公司自身对系统理解之间的差距。METR将独立发布对Anthropic风险、事件及实践的评估报告,Anthropic放弃否决权,仅可在客户数据、律师-客户特权信息及模型架构等预设范围内要求脱敏。

该安排是Anthropic正在构建的三层评估体系中的最高层级。此前Anthropic CEO Dario Amodei在9月提出嵌入外部评估者的倡议,OpenAI随后表示跟进。目前,OpenAI、Google、Meta、Nvidia和xAI均已签署白宫协议,承诺接受独立审查。

“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。

Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

独家原创
财经信源
科技精选
热点新闻