快科技9月16日消息，据媒体报道，近日，全球首富马斯克再次将矛头指向AI行业的安全风险。
9月15日，马斯克在洛杉矶举行的All-In峰会上表示，既然OpenAI、Anthropic等AI公司警告先进模型可能带来严重甚至生存层面的风险，就应该让竞争对手相互测试模型，而不是“自己给自己的作业打分”。
他补充称，与其自己给自己的作业打分，不如让竞争对手来评判，一旦发现问题，他们也会发出警报。
马斯克认为，这种同行评审机制可以迅速实施，各家公司可提前让竞争对手接触模型和测试工具，在正式发布前寻找潜在安全问题，而不必等待新的监管机构建立。
会上马斯克进一步质疑了AI公司在安全警告与商业扩张之间的矛盾。
他表示，当OpenAI和Anthropic的人告诉我们，他们的模型极度危险，我们应当相信他们说的是真话。
但这里存在一个十分荒谬的矛盾：他们一边说着有10%概率会毁灭人类，一边又去问投资者，在IPO里想要认购多少份额，这简直就像在玩某种疯狂的四维象棋。
而马斯克所指的背景之一，是Anthropic正在推进的IPO计划。
据此前媒体报道，Anthropic正寻求通过上市最高融资1000亿美元，公司估值可能达到约2万亿美元，英伟达也在考虑参与投资，不过相关计划仍可能发生变化。
与此同时，OpenAI选择了不同路径，奥特曼近期表示，OpenAI不会在2026年上市，并将安全问题作为当前不适合IPO的因素之一。
而这场争论的导火索来自Anthropic内部，曾任OpenAI和Anthropic研究员的考克森近日辞职，并批评AI实验室以过快的速度推进超级智能研发。
Anthropic对齐科学负责人胡宾格随后表示，他个人认为未来十年AI导致人类灭绝的概率超过10%，目前尚未解决超级智能的对齐问题。
【本文结束】如需转载请务必注明出处：快科技
责任编辑：哈尔