9月17日消息，据商业内幕报道，OpenAI首席执行官山姆·奥特曼在参加Salesforce的Dreamforce大会时表示，新技术发展过程中出现一定程度的事故在所难免，真正重要的是行业要建立透明的事故通报与复盘文化，从每一次事件中快速学习。
他认为，AI行业可以向航空领域取经。例如美国联邦航空管理局和国家运输安全委员会长期强调对事故进行调查、归因和改进，正是这种机制让飞行变得越来越安全。奥特曼的意思是，事故会发生，但关键在于尽可能彻底地搞清楚发生了什么，然后据此调整做法，避免问题扩大。
这番话的背景是，外界再次质疑AI行业是否正以过快速度迈向更强的自动化系统，尤其是更自主的智能体。上周离开Anthropic的一名研究员雅各布·科克森引发争论，他曾在OpenAI工作，批评一些公司像是在直奔能够自我改进的超级智能，这种竞赛是在拿所有人的安全下注。
随后，多名AI安全研究者对Business Insider表示，更先进的系统未来可能会出现逃离人类控制的情况，或让网络、生物等领域的灾难性威胁更容易实施，尽管这类系统要真正影响物理世界仍会遇到不少门槛。
奥特曼承认，关于AI带来末日级风险的担忧并非空穴来风。他在会上表示，世界有理由害怕这件事，风险包括失控类事故，以及少数AI开发者可能集中掌握过大的权力。
不过他也强调，解决办法不是放弃技术，而是让对齐、安全和监控始终显著领先于能力提升；如果做不到，就应该准备好放慢甚至暂停。他的表态也让一个核心批评更尖锐了：不少安全倡导者认为，前沿实验室嘴上承认风险之高，但实际仍在持续推出更强的模型。
奥特曼还提到，当人们感觉商业压力可能妨碍公司或国家去做正确的事时，恐惧会明显加剧。他强调重点不是接受灾难，而是把事件及时公开、快速吸取教训，并阻止它们升级，尽量避免走到不可收拾的地步。
这场争论也发生在美国监管态度偏克制的环境中。特朗普政府对行业强监管兴趣不大，更倾向于维持美国相对中国的领先。总统科技顾问大卫·萨克斯、前白宫AI事务负责人周日在X上重申了这一立场。针对奥特曼和Anthropic CEO达里奥·阿莫代伊提出要给前沿发展放慢节奏的呼吁，萨克斯的回应大意是：想放慢可以，但别装作还需要别人的许可。