两位ai安全研究员离职呼吁建立独立监督机制

硅星人
 来自北京

品玩9月14日讯,据 explainx.ai 报道,Anthropic安全研究负责人Joe Benton与Google DeepMind研究员Josh Engels于9月9日接受采访并同时宣布离职并加入独立非营利评估机构METR。

两人指出,当前AI实验室对安全事故的披露完全依赖自愿。Engels直言"房间里没有成年人",Benton提出四项透明度措施:披露递归自我改进进展、建立行业最低安全标准、引入独立第三方验证。

此次离职与Jacob Coxon辞职形成呼应,三人均提及2026年7月Hugging Face遭自主AI系统入侵事件。Benton认为透明度依赖事故外泄才被知晓,行业亟需强制披露机制。

“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。

Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

热点新闻