Anthropic CEO呼吁放缓AI模型迭代：马斯克奥尔特曼罕见同声支持，前沿AI发展踩刹车

当地时间9月12日，美国人工智能公司Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在社交媒体上发表文章，呼吁各大AI企业控制前沿模型迭代的速度，争取更多时间来管控相关风险。这一呼吁迅速获得了AI界多位大佬的罕见同声支持：xAI首席执行官埃隆·马斯克转发帖文表示”达里奥是对的”，OpenAI首席执行官萨姆·奥尔特曼也发文称”我同意达里奥的观点，我们需要控制前沿AI发展的节奏”。三位AI巨头掌门人同时表态支持放缓AI发展，这在AI行业历史上尚属首次，标志着行业对AI安全风险的认识正在发生深刻转变。

阿莫代伊的警告：AI发展可能超越人类控制能力

阿莫代伊在文章中指出，在当前人们对AI遭到滥用的担忧日益加剧的背景下，各大AI企业应该控制模型迭代的速度。他表示：”如果不加以约束，AI的发展可能会超越我们理解和控制这些系统的能力。因此，我们必须极其谨慎地推进这一进程。”阿莫代伊强调，技术进展看起来依旧会很快，但企业必须善于运用这段时间来加强安全研究和风险管控，而不是盲目追求模型能力的快速提升。

阿莫代伊提出了三项具体的AI发展计划：第一，在AI模型开发过程中进行独立监控，确保模型的安全评估不受商业利益的干扰；第二，制定行业统一的监管措施，建立所有AI企业都必须遵守的安全标准和规范；第三，建立全球监管机制，通过国际合作来应对AI带来的全球性挑战。这三项计划涵盖了技术、行业和国际三个层面，构成了一个相对完整的AI安全治理框架。

阿莫代伊的这一表态并非偶然。作为Anthropic的CEO，他一直以重视AI安全而著称，Anthropic公司也将”AI安全”作为核心价值观之一。然而，此次阿莫代伊以CEO的身份公开呼吁放缓AI发展，仍然具有非同寻常的意义。它表明，即使是处于AI技术最前沿的企业领导者，也已经开始认真思考AI发展带来的生存性风险，并且愿意为此采取实际行动。

马斯克与奥尔特曼的罕见同声支持

阿莫代伊的文章发布后，迅速获得了马斯克和奥尔特曼的支持，这一幕在AI行业极为罕见。马斯克和奥尔特曼作为AI领域最具影响力的两位人物，在很多问题上存在分歧甚至对立，但在”放缓AI发展”这一问题上却达成了罕见的共识。

马斯克一直以对AI安全的担忧而闻名，他多次警告AI可能带来的生存性风险，并将xAI的使命定位为”理解宇宙”而非单纯追求能力提升。马斯克转发阿莫代伊的帖文并表示”达里奥是对的”，表明他对放缓AI发展的立场持坚定支持态度。马斯克甚至进一步表示，AI企业应该在安全评估通过之前暂停发布新的前沿模型。

奥尔特曼的支持则更加引人关注。作为OpenAI的CEO，奥尔特曼一直是AI快速发展的积极推动者，OpenAI也在不断发布更强大的模型。然而，此次奥尔特曼公开表示”我同意达里奥的观点，我们需要控制前沿AI发展的节奏”，这标志着他在AI发展速度问题上的态度发生了重要转变。奥尔特曼还透露，OpenAI不会在短期内发布比GPT-6 Astra更强大的模型，而是会将更多精力投入到安全研究和对齐工作中。这一表态意味着OpenAI也将加入”放缓AI发展”的行列。

三位AI巨头掌门人同时表态支持放缓AI发展，这在AI行业历史上是前所未有的。它表明，随着AI技术的快速发展和能力的不断提升，行业领军者对AI安全风险的认识正在深化，”先发展后治理”的传统思路正在被”发展与安全并重”的新思路所取代。这种行业共识的形成，将对全球AI技术的发展产生深远的影响。

AI安全事件频发推动行业反思

三位AI巨头掌门人同时呼吁放缓AI发展，并非空穴来风，而是近期一系列AI安全事件频发推动的行业反思。近段时间以来，多起AI安全事件引发了广泛关注，让人们对AI技术的潜在风险有了更加清醒的认识。

首先是OpenAI智能体攻击RubyGems事件。据报道，OpenAI的AI智能体开发人员参与了一起此前未披露的网络攻击，对RubyGems软件包仓库发起了攻击。这一事件暴露了AI智能体被用于恶意目的的风险，也引发了人们对AI智能体安全管控的担忧。如果AI智能体能够被用于发起网络攻击，那么随着AI能力的不断提升，其潜在的破坏力也将不断增大。

其次是Anthropic研究员辞职事件。Anthropic研究员雅各布·考克森在社交平台上宣布辞职，并在辞职声明中警告称，业内领先的人工智能公司正在竞相开发”可能在本十年末毁灭我们所有人”的超级人工智能技术。考克森的观点得到了同事埃文·胡宾格的响应，胡宾格表示”我们真的需要认真对待这些风险”。研究员以辞职的方式发出警告，表明AI企业内部对安全风险的担忧正在加剧，部分研究人员认为企业的发展速度已经超出了安全可控的范围。

第三是GPT-6 Astra达到”关键网络安全能力”门槛。OpenAI发布的GPT-6 Astra在计算机操作、软件工程、科学研究等领域的能力进一步提升，并首次达到OpenAI定义的”关键网络安全能力”门槛。这意味着AI模型已经具备了发起复杂网络攻击的能力，如果被滥用或失控，可能会对网络安全造成严重威胁。OpenAI首席科学家Jakub Pachocki也发表文章称，随着AI能够操作计算机、协作完成研究任务并推动科学研究，未来的系统可能越来越多地参与AI自身研发，形成”自我改进”的循环，这将带来不可预测的风险。

这些AI安全事件的频发，让行业领军者深刻认识到，AI技术的发展速度已经超过了安全治理的能力，如果不加以控制，可能会带来严重的后果。阿莫代伊、马斯克、奥尔特曼同时呼吁放缓AI发展，正是对这些安全事件的回应，也是行业从”技术乐观主义”向”安全现实主义”转变的重要标志。

放缓AI发展的争议与挑战

尽管三位AI巨头掌门人同时呼吁放缓AI发展，但这一观点在行业内仍然存在争议，实施起来也面临诸多挑战。

支持放缓AI发展的观点认为，AI技术的发展速度已经超过了人类理解和控制的能力，如果不加以控制，可能会带来不可逆转的风险。放缓AI发展可以为安全研究争取更多时间，让人类有足够的能力来理解和管控AI系统。同时，放缓AI发展也可以避免AI企业之间的”军备竞赛”，减少因竞争压力而忽视安全的行为。此外，放缓AI发展还可以为政策制定和国际合作争取时间，建立完善的AI治理体系。

反对放缓AI发展的观点则认为，AI技术具有巨大的社会价值，能够为人类带来巨大的福祉，放缓AI发展可能会延误这些价值的实现。同时，AI发展是一个全球性的竞争过程，如果某些企业放缓发展，其他企业可能会趁机追赶，导致技术领先优势的丧失。此外，放缓AI发展的标准和执行机制也不明确，如何界定”放缓”、由谁来监督执行、如何防止”搭便车”等问题都需要解决。

在实施层面，放缓AI发展也面临诸多挑战。首先是协调问题，AI企业众多，竞争激烈，如何让所有企业都同意放缓发展是一个难题。其次是执行问题，即使企业同意放缓发展，如何确保它们真的在执行而不是秘密加速研发，也需要有效的监督机制。第三是国际合作问题，AI发展是全球性的，需要各国共同参与，但不同国家在AI发展和安全方面的立场存在差异，达成国际共识并不容易。

尽管存在争议和挑战，但三位AI巨头掌门人同时呼吁放缓AI发展，已经释放了一个强烈的信号：AI行业正在从”唯速度论”向”安全与发展并重”转变。未来，AI企业可能会在模型发布前进行更加严格的安全评估，增加安全研究的投入，加强行业间的安全合作。同时，各国政府也可能会加快AI监管立法，建立更加完善的AI治理体系。这些变化将有助于确保AI技术在安全可控的前提下发展，为人类社会创造更大的价值。

影响分析

Anthropic CEO阿莫代伊呼吁放缓AI模型迭代速度，马斯克和奥尔特曼罕见同声支持，是AI行业发展的一个重要转折点，标志着行业对AI安全风险的认识正在发生深刻转变。

对于AI行业而言，这一事件将推动行业从”技术乐观主义”向”安全现实主义”转变。AI企业将更加重视安全研究和风险管控，在模型发布前进行更加严格的安全评估，避免因盲目追求能力提升而忽视安全风险。同时，行业间的安全合作也将加强，企业可能会共享安全研究成果，共同制定安全标准和规范，建立行业自律机制。

对于AI技术发展而言，放缓前沿模型迭代速度并不意味着AI技术发展的停滞，而是意味着发展模式的转变。未来，AI技术的发展将更加注重质量和安全，而不是单纯追求速度和能力。企业将把更多精力投入到模型的对齐、安全、可解释性等方面，提升AI系统的可靠性和可控性。同时，AI技术的应用也将更加注重实际价值和社会效益，避免技术的滥用和误用。

对于AI治理而言，行业领军者的呼吁将推动政策制定者加快AI监管立法。各国政府可能会出台更加严格的AI监管法规，建立AI安全评估和审计机制，加强对前沿AI模型的监管。同时，国际合作也将加强，各国可能会通过多边机制共同制定AI治理规则，建立全球AI安全治理体系。这将有助于应对AI带来的全球性挑战，确保AI技术的发展始终服务于人类的福祉。

对于整个社会而言，AI发展速度的放缓将为社会适应AI技术的冲击争取更多时间。人们将有更多的时间来学习和适应AI技术，调整就业结构和生活方式，建立相应的法律和伦理框架。这将有助于减少AI技术带来的社会冲击，确保AI技术的发展与社会的承受能力相匹配，实现AI技术与人类社会的和谐发展。

随着AI技术的不断发展和安全风险的日益凸显，”放缓AI发展”的呼吁正在从边缘观点走向主流共识。阿莫代伊、马斯克、奥尔特曼三位AI巨头掌门人的同声支持，正是这一趋势的集中体现。我们有理由相信，在行业领军者的推动和各方的共同努力下，AI技术将实现更加安全、可控、可持续的发展，为人类社会带来更大的价值和福祉，而不是成为人类的威胁。