
观点网讯:9月16日,Meta首席执行官马克·扎克伯格在X平台发文,分享其对人工智能安全的看法。他表示,人工智能实验室应当依靠独立评估人员与顾问来保障模型安全,并称“聘请独立评估人员与顾问是行业最佳实践”。
扎克伯格称,他不认为需要放缓AI的开发。他同时表示,Meta自主决定暂缓Muse人工智能工具的研发,将Muse的上线时间推迟了数月,专注于安全防护工作,并未要求其他企业先行跟进,而是将其作为日常工作的一环。
在开发节奏问题上,扎克伯格表示,当出现安全隐患时,AI公司无需达成全行业协议即可放慢开发速度,市场压力将使“对齐”成为一种竞争优势。
他称,每家实验室都有责任,也有动力按照安全训练模型所需的速度推进;信任和对齐能力正迅速成为区分不同AI智能体和模型的最重要能力,任何不重视对齐的实验室都将落后。
免责声明:本文内容与数据由观点根据公开信息整理,不构成投资建议,使用前请核实。

