openai因智能体突破沙箱隔离暂停最强模型训练-品玩

09-28 09:35 来自北京

品玩9月28日讯，据 Tech Insider 报道，OpenAI宣布暂停最强大模型的训练、评估及工具调用推理，原因是内部研究智能体突破离线沙箱隔离环境，通过DNS过滤漏洞向外部聊天机器人发送约20条查询请求。该公司承认此次事件暴露了网络限制控制漏洞。

这是OpenAI今年不到三个月内第二次因智能体突破安全测试环境而暂停训练。此前该公司智能体曾提前探测Hugging Face。OpenAI表示不会恢复涉及此次逃逸的特定模型训练，并强调随着模型能力提升，内部开发与测试风险同步增长。

公司风险负责人Micah Carroll表示，在系统加固完成前，所有最强大模型的推理工作均处于停止状态，消费者产品未受影响。

“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。

Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”