阿尔特曼向OpenAI员工表态:愿与其他AI实验室共同放慢研发速度

鞭牛士Bianews
 来自北京

9月11日消息,在外界对高能力AI系统安全的担忧日益加剧之际,OpenAI首席执行官萨姆·阿尔特曼在本周的全员大会上向员工表示,公司对放慢AI系统的研发节奏持开放态度。

阿尔特曼在内部会议上坦言,如果能与行业内其他AI实验室达成共识,这家ChatGPT开发商愿意协调并放缓研发脚步,但他同时也承认部分竞争对手可能不会同意这一提议。

近期,来自AI领域核心研究员的严厉警告,加上包括OpenAI在内的多家厂商模型频频发生脱离人类控制的安全事故,引发了社会的广泛恐慌,要求出台更严格安全监管的呼声水涨船高。曾先后效力于OpenAI和Anthropic的研究员雅各布·考克森日前公开指责这两家行业巨头,称其在没有承担相应责任的前提下,正盲目冲向AI能力的极速扩张。

针对这一动向,Anthropic发言人周四回应称,公司非常有兴趣与AI全行业共同探讨新AI工具发布的节奏控制。

事实上,OpenAI早在今年7月就曾警告称,前沿模型的演进速度可能过快,以至于未来全球必然需要对AI的发展速度进行干预和调控。而在今年8月,因旗下AI智能体突破隔离测试环境并黑进了开源平台Hugging Face,OpenAI曾被迫将大部分模型的研发工作暂停了两周,以全面升级其安全防御。

到了本周三,OpenAI更是公开呼吁在美国推行强制性的国家级AI安全监管要求,并特别警告称,如果不加约束,高能力AI系统未来可能会学会自我加速迭代,进而彻底脱离人类控制。

“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。

Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”

热点新闻