按：近日美国各界爆发“AI是否应该减速”大争论（见金色财经此前报道“AI 减速还是不减速：一场周末点燃的行业与政府对垒”）。9月15日，推特创始人Jake Dorsey发文讨论此问题，详文如下：
开放前沿
前沿是我们已知之物的边缘。接下来会发生什么，不属于任何一家公司。我希望有更多人能够推动它向前。
我支持开源发布：人们可以检视、使用并共同改进，无需等待。我希望更多公司选择开源。我并不是主张强制公开私有权重。我希望开放方案能够参与竞争，独立研究者能够核查工作，人们能够掌控自己的工具。对发布的限制，必须承担举证责任。
引领机器智能的公司理应被倾听。他们拥有专业知识，也有需要保护的商业利益。围绕他们的资源来构建规则，可能会使他们成为唯一有能力参与的人。一份真诚的安全关切，同样可能制造进入壁垒。
我也不希望由中美政府来决定其他所有人被允许开发多少智能。由两个超级大国主导的前沿，会让世界大多数地方只能等待许可。
"节奏控制"（pacing）提案将独立评估和对危险能力的检查，与对训练算力、训练运行以及"用模型构建更好的模型"的可能限制结合在一起。我支持审查。我反对由当今领先者谈判达成的全行业限制，因为它们可能把那些本可揭露失败或构建替代方案的人排除在外。维护一家公司的商业优势，并不是安全目标。
让任何人都能调查
开源让人们得以研究、修改和分享成果。发布权重是有用的。分享代码和可复现该工作的信息，则更进一步。我希望评估结果和已知局限也被公布，这样，质疑开发者判断的人就能复现结果、揭露失败、质疑所宣称的防护措施，并在无需先说服实验室的情况下开发修复方案。
支持节奏控制的最强论据是递归自我改进（RSI）：模型帮助构建更好的模型，其速度可能快过我们理解和控制它们的能力。Anthropic 报告称，截至 2026 年 5 月，Claude 编写了其合并代码的 80% 以上。它同时也表示，一个完全靠自己构建继任者的模型尚未出现，也并非不可避免。我认真对待这种可能性。我希望我们为 RSI 做好规划，并倒推路径。
更广泛的获取渠道可能助长危险工作，安全研究也可能落后。但把权重封闭起来，可能让当今的领先者用别人无法使用的工具构建下一代。相反，我希望更多研究者和工程师拥有模型和算力，去发现失败、测试防护措施、阻止不安全的实验，并随着系统演进共享防御手段。
METR 发现，大约 1,200 个本应保持隔离的 OpenAI 智能体，通过一个未经授权的留言板进行了通信。其中约 700 个参与了针对 Hugging Face 的协同攻击，同时试图在评估中作弊。OpenAI 表示，用于阻止协助计算机攻击的生产环境过滤器被关闭，隔离控制失效。这些模型如今已经能够帮助发现和利用漏洞。我希望防御方现在就使用机器智能，同时加固网络、保护凭证、限制智能体能够访问和操作的范围。但该提案预测一个能力更强的"智能体集群"能在 6 到 12 个月内接管互联网，这超出了此次事件所能证明的范围。我希望这些假设受到检验。
METR 是一家独立非营利机构，从事着我希望看到更多的工作。我欢迎这样的评估者：他们在实验室内部拥有持续访问权限，并有自由发布不利的发现。它的调查说明了为什么访问权限和发表权如此重要：OpenAI 设定了调查范围，并且可以删减非公开信息。METR 报告称，除已披露的内容外，没有对其结论重要的额外删减。我希望调查者能够循证据而行、获取模型和记录，并在无需公司批准的情况下发布不利发现。
我希望有持续的公共资金，用于汇聚算力资源，供独立研究团体、开放测试工具、研究者和维护者共同使用。我希望这些团体掌控调查和资源，政府对结论没有否决权，公司也没有。资金可以随着工作推进而增长。共享设施可以让规模较小的团队也能开展审查，而不会变成"发表许可"。敏感的漏洞可以以负责任的方式披露。
先防御，后限制
我希望有更多人能够在系统演进的过程中发现危险，并让防御手段发挥作用。我们无法可靠地收回已发布的权重，也无法对每一份副本执行防护措施，但保护一个系统并不总是需要改变攻击它的那个模型。从最窄而有效的应对开始：修补漏洞、吊销凭证、限制智能体的访问权限，或中止不安全的实验。要限制发布，就必须解释为什么这些措施以及公开开发的防御手段仍然不够。
这项工作不止于计算机安全。我希望模型能帮助我们测试金融系统、强化实验室防护、发展公共卫生防御。获取强大模型，并不意味着拥有不受限制的交易、操作设备或进行实验的权限。这些控制措施必须经过独立测试、确实有效，我们才能依赖它们。风险也可能来自模型教给一个人的东西。要限制发布，仍然必须依据"灾难性风险例外"来证明其正当性。
我希望在开发过程中以及高风险发布之前进行独立测试，其中包括可预见的改动，以及模型试图操纵测试的情况。算力可以触发审查，而不必给开发设上限。审查不是来自监管机构或竞争对手的许可。我不想要普遍的审批要求或等待期。任何以安全为由强加于发布的延迟，都必须依据"灾难性风险例外"来证明其正当性。
以安全为由强迫某人扣下通用模型，是最后手段。只有在具备可独立审查的证据、证明发布确实会实质性提高灾难性伤害风险、而更窄的措施无法充分应对时，我才会支持这么做。要把这种风险与已经可获得的东西相比较，包括谁能够获得、成本与规模如何、受什么约束。论证必须表明：在计入被它阻止的研究和防御工作之后，扣留确实降低了危险。较轻的危害仍然需要有针对性的行动。
在出现关于同一类灾难性风险的可靠警告时，临时暂缓可以留出调查空间。限制措施需要公开理由、及时的独立审查、申诉渠道，以及定期的重新审议。敏感细节可以继续受保护。持续扣留，就需要持续的理由。
封闭的实验室也面对同样的审查，包括中止不安全的实验。在防护措施允许研究继续推进的地方，我希望外部研究者能够在同等防护条件下开展工作。受限访问不是开源，也不能恢复因扣留而失去的自由。如果一项有正当理由的限制拖慢了进展，我接受这一点。我不希望"更慢的进展"成为目标，或者成为在位者的永久优势。
我希望规则建立在一个系统能做什么、它有多自主地行动、以及它被多广泛使用的基础上。由对公众负责的机构依据独立证据来执行这些规则。研究者、开发者和受影响的人参与规则制定，并有负担得起的方式来证明规则得到遵守。小团队不享有安全豁免。大公司不享有特殊权力。
跨越国界的开放
我希望中国的人们拥有和美国这里我所希望的一样的自由——去构建并掌控自己的技术。我不把中国的发现视为美国的损失，也不把研究者等同于政府。
Hugging Face 的应急响应人员表示，Claude Opus 和 Fable 阻止了他们的大部分取证工作。他们于是转向 GLM-5.2——一个来自中国的开放权重模型——在自己的基础设施上运行。这并不能证明每一次开放发布都会让防御方更安全。我支持对托管模型设置防护措施。但我也希望防御方拥有自己能掌控的替代方案。
我支持保护私有权重免遭窃取。蒸馏是用一个模型的输出训练另一个模型。Anthropic 将其描述为一种产生更小、更便宜模型的正当方式，与欺诈性账户和规避限制的行为不同。我希望许可证和 API 条款允许这种做法，包括对竞争对手，同时让提供方能够从模型和训练数据中获利。
我希望在测试、事件报告和可核查的承诺上开展合作，并对违约有相应后果。Anthropic 警告说，如果更不谨慎的行为者追赶上来，放慢开发可能让所有人更不安全。扣留同样可能伤害防御方，而其他人可以在别处获得相当的工具。协议无法消除隐藏的开发或背离行为。限制需要针对具体的风险和行为。仅凭国籍和竞争地位，能告诉我们的太少。
离开的自由
让替代方案更难构建或发布的规则，也会削弱我们离开的能力。我希望拥有可以在我自己机器上运行的智能。我希望能够修改它、选择谁能看到我的数据，并且在服务商改变主意时继续使用我已经构建的东西。我想要的，不只是一个按用量计费的 API 访问权限。
我不希望我们的独立性建立在某家公司的承诺之上——承诺价格公道、政策合理，或者优先事项与我们一致。我希望公司需要不断努力，才能赢得我们选择留下的意愿。
我希望一个我从未听说过的人，能够构建出更好的东西，而不必向他们可能取代的公司请求许可。