来源:金十数据
Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)上周六公开呼吁AI行业放慢前沿模型能力提升速度,并提出由第三方评估、建立行业安全标准以及协调全球规则等措施。
OpenAI负责人萨姆·奥尔特曼(Sam Altman)和xAI负责人埃隆·马斯克(Elon Musk)随后支持阿莫代伊提出的方向。阿莫代伊还表示,Anthropic将采取新的安全措施,包括引入第三方评估者,奥尔特曼也表示会跟进。
特朗普的态度却明显不同。
当地时间周日,他在访问爱尔兰期间接受记者采访时表示,美国在AI领域必须继续保持领先优势。
“我们是世界上最先进的国家,坦率地说,我想保持这种状态,因为谁赢了AI谁就赢了,”特朗普说。
对于安全护栏,特朗普并非完全反对,但他认为相关担忧被过度放大。
“我们可以设置护栏。我们可以做这做那,但我认为有很多负面力量在提这件事,他们在提一些不会发生的事情,”他说。
特朗普政府内部也没有完全拒绝AI安全措施。美国国家经济委员会主任凯文·哈塞特(Kevin Hassett)表示,阿莫代伊提出的增加AI保障措施,可以成为私营部门采取行动的模板。
哈塞特称AI安全是一个“可解决的问题”。他指出,AI发展速度可能快到突破现有网络安全防御,但企业也在开发新的保障措施。
特朗普前AI事务负责人、现与其技术顾问委员会共同主席的大卫·萨克斯(David Sacks)则认为,AI公司完全可以自行放慢开发速度,不需要等待政府批准。
“如果你的产品促成了真正具有破坏性的网络攻击,你将面临巨大的产品责任风险,”萨克斯在X上写道。他还称,市场已经在惩罚那些行为不可预测或未经授权的模型。
“可能杀死所有人”的警告,把AI安全推上选举议程
安全争议迅速从科技圈扩散到美国政治。
此前,Anthropic研究员雅各布·考克森(Jacob Coxon)辞职,并警告说:“构建AI的人真诚地相信,它可能在本十年结束前杀死我们所有人。”
阿莫代伊随后在公开文章中回应,认为行业“必须放慢改进AI模型能力的步伐”。
在接受CBS“周日晨间”采访时,阿莫代伊表示,政府在AI监管中应该拥有一定作用。“监管让公众及其民选代表有发言权,并限制私营公司能做什么,”他说。
民主党人正在把AI安全进一步推向11月中期选举。参议员克里斯·库恩斯(Chris Coons)认为,国会目前缺乏应对快速发展的AI所需要的专业知识。
“这是我们真正的挑战之一:参议院和众议院的一些人在这项快速发展的技术上,没有我们需要的那么投入、那么好奇、那么与时俱进,”库恩斯说。
他主张共和党和民主党暂时搁置选举前的党派争斗,在AI“失控之前”建立真正的护栏。
据《纽约时报》报道,美国前总统奥巴马上周在一次私人筹款活动中也表示,民主党应该把AI监督作为竞选的核心议题。
众议院少数党领袖哈基姆·杰弗里斯(Hakeem Jeffries)则表示,众议院民主党人将于周二召开党团会议,讨论可能采取的AI行动。他对ABC的“本周”节目表示,共和党人“放弃了自己的责任”,并呼吁国会“现在采取果断行动”。
众议院议长迈克·约翰逊(Mike Johnson)没有否认AI安全风险,但反对以暂停发展为代价换取安全。他敦促人们不要“恐慌” 。
“我们不能暂停这件事......这是国家安全,要与确保模型安全的即时安全相平衡,”约翰逊说。
他还呼吁科技公司与政府共同寻找AI护栏,并表示企业“有企业责任确保产品安全”。
约翰逊主张让AI行业负责人和政府官员直接对话,“走进一个大房间,关上门,把事情解决了”。
民主党人猛烈抨击共和党的回应,并要求迅速采取措施推进产业监管。亚利桑那州参议员鲁本·加列戈(Ruben Gallego)指责约翰逊和特朗普在AI构成的威胁上“没有顺应时势”。
在佐治亚州雅典市的一次竞选集会上,民主党参议员乔恩·奥索夫(Jon Ossoff)抨击特朗普的回应,并指责科技巨头在警告人类灭绝的同时挖掘“地堡”。
“一位有能力的总统会迅速采取行动,保护并安抚美国人民,派检查员进入前沿实验室,加强国家应对生物恐怖主义的能力,要求国会立法,并领导世界达成AI条约,”他说。“但相反,总统和众议院议长袖手旁观,祈求好运。”
AI产业巨额投入带来的回报问题,则让安全争议与资本市场进一步交织。数据中心建设推高当地资源需求,AI可能推高电费、替代部分就业,以及巨额基础设施支出能否最终产生足够回报,都已经成为美国社会和市场关注的问题。


