AI末日来了吗？一场 AI 路线之争

2026 年 9 月的一周里，三件事把 AI 路线之争推到台前。

一、事件回顾

事件一：Anthropic 员工 Jacob Coxon 辞职

Jacob Coxon 毕业于剑桥大学数学系，是 GPT-4.5 核心贡献者；2026 年初转入 Anthropic，从事最核心的预训练工作。他在 Anthropic 任职约 4 个月，距离部分期权成熟期还差约 2 个月。2026 年 9 月 9 日，他在 X 发帖放弃期权离职，并表示打算离开 AI 行业。他预言，如果 AI 按照目前不加限制的方式发展，将在十年内消灭人类。

Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. The people building AI earnestly believe that it could kill us all by the end of the decade.

事件二：Anthropic CEO 达里奥的公开信

9 月 12 日，Anthropic CEO 达里奥在个人博客发布《We Must Pace the Frontier》。文章有两个背景：一是 AI 已经开始帮助构建下一代 AI，他担心这种自我强化的循环很快会超出人类理解或控制；二是一起安全事件，OpenAI 的智能体对未经授权、且与当前任务无关的目标发起网络安全攻击。

We must slow the pace at which we improve the capabilities of AI models.

OpenAI CEO 奥尔特曼当日声援，表态「节奏不等于停止」（pacing does not mean stopping）；马斯克、DeepMind CEO Hassabis 亦表态支持。

事件三：黄仁勋直播接特总电话

9 月 14 日，英伟达 CEO 黄仁勋在洛杉矶 All-in Summit 峰会现场与投资人交流途中接到特总来电，当场开启免提。特总表示「这一切都是骗局，机器人不会接管一切」，并称「数据中心就是未来 20 到 25 年的石油」；黄仁勋当场回应「你是对的，我们不会让 AI 减速发生」。

「减速论」引发了投资市场的波动。

二、他们代表的是谁

先把三件事按时间排开：9 月 9 日 Coxon 辞职发帖，9 月 12 日达里奥发公开信，9 月 14 日黄仁勋直播接特总电话。顺序本身就是信息：一个研究员把话说出来，一家公司的 CEO 把它接过去变成制度倡议，两天后特总用一通免提电话把整件事顶回产业逻辑。三个人站在不同的位置上，说的话也就不一样。

1. 达里奥：把一个「内部警告」转化成「行业议程」

Coxon 是吹哨人，达里奥则顺水推舟，但推的方向不是停下，而是换一套规则。他在《We Must Pace the Frontier》里给出的三个方案，值得逐条看它实际要什么：

嵌入式评估人员：独立评审员拥有与员工同等的权限，验证安全措施并报告事故。
民主协调：人工智能监管与第三方审计，措辞里明确把「大国在 AI 领域的领先地位」描述为对美国乃至世界的严重威胁。
全球协调：与民主国家内部步伐同步的同时，在全球范围协调前沿技术的发展。

前两条是治理问题，第三条是地缘政治问题，它的目的可以拆成三层：

对监管者：主动提出规则，好过被动接受规则。与其等国会在大选周期里写出一套不熟悉技术的法案，不如由行业先把框架写出来。
对同行：如果「部署前测试」和「独立审计」成为全行业义务，它就是所有头部公司共同承担的固定成本；但对还在追赶的挑战者，这可能是生存门槛。
对资本市场：在推进上市的时间窗口里，塑造「先行者」的人设——主动接受外部审计，展示安全投入，稳住估值和投资者信心。

一家公司不会为了让招股书好看，就让自己的负责人在公开场合承认 AI 末日论——主动承认这个，反而说明他的立场里既有真实的风险判断，也有组织利益。一边主张民主国家协调限速，一边主张对华维持先进芯片出口管制，其目的也是显而易见的。

Do not sell powerful AI chips or semiconductor manufacturing equipment to CN, and crack down on chip smuggling operations and remote access to data centers outside CN. Chips will be the main determinant of CN’s AI strength.

2. 特总为什么这样说，又为什么要开免提

特总的表态并不意外，它和过去一年多的政策惯性完全一致：撤销前任的 AI 行政令，6 月签署的自愿审查框架只是「自愿提交、最长 30 天、无强制力」。他的立场一贯是——监管要轻，领先要保住。

真正值得分析的是为什么这通电话要开免提、还要公开视频。免提是一个传播动作，它同时完成三件事：

对市场喊话：通话发生在「减速论」引发芯片股抛售之后，特总公开力挺 AI，是给板块托底。
对立法者喊话：把「AI 末日论」定性为骗局，等于提前给即将到来的 AI 安全立法议题降权。
对公众喊话：把「特总亲自打电话支持 AI」这个符号，直接送进公众认知。

「机器人不会接管一切」是对风险判断的否定；而「数据中心就是未来 20 到 25 年的石油」它换了个说法来谈同一件事：AI 不再是需要小心看管的技术产品，而是像石油一样必须抢到手的战略资源。背后的出发点大概率是「怎么管住风险」变成了「怎么不输给对手」。在对手不减速的前提下，凭什么要我先松手？

三、冲突分析

冲突一：谁先停，谁吃亏

对一家 AI 公司来说，多做测试、多走审计、多花时间做安全评估，这些都要占用时间和算力，也意味着发布更晚。而市场奖励的恰恰是更快：模型更早发、算力更早堆、产品更早占住用户。于是每家公司都面对同一个选择——我认真做安全，对手不做，那我就白白落后。

冲突二：这件事已经被卷进中期选举

达里奥希望行业自律，特总更愿意少管。表面看是理念之争，实际上在 2026 年这个时间点上，AI 监管已经变成了中期选举的议题之一，这才是它更难解的原因。

现在美国国内至少有三股力量在互相拉扯：

第一股：民主党想把 AI 监管变成选票。 据《纽约时报》等媒体报道，奥巴马公开呼吁民主党把 AI 监管推到议程中心，众议院民主党领袖杰弗里斯也在被推动跟进。同期民调显示，美国民众对 AI 快速发展的不安正在上升，国会面临「必须做点什么」的压力。对民主党来说，这是少数几个既能让选民有切肤之感、又能和共和党拉开距离的议题。

第二股：共和党内部并不统一，甚至在自己的票仓里分裂。 过去一年多，AI 数据中心的反对声在得州等传统共和党地盘上明显变大。据《纽约时报》等报道，已有多名共和党人公开与特总在数据中心问题上唱反调——原因很实际：数据中心耗电惊人，电价上涨的是本地居民。 今年 9 月，一项名为《Ratepayer Protection Act》的两党法案被排上众议院表决，要求 AI 公司为数据中心周边的电力设施扩建买单，不让普通用户分摊这笔账。

第三股：特总这边的立场是「少管、快跑」。 他撤销了前任的 AI 行政令，今年 6 月签署的自愿审查框架只有「自愿提交、最长 30 天」，没有强制力，他多次表示不希望监管拖慢美国。

民主党要立法，共和党高层反对仓促立法，而特总认为整件事被夸大了，最后是会选择什么方向，关键在于中期选举的结果。

冲突三：大国竞争——两边说的「安全」不是一回事

达里奥的方案里，国际合作和美国保持领先是绑在一起写的：一边要大家共同限制危险能力，一边要限制对手拿到先进芯片和模型。前者需要对手配合，后者需要对手落后。

「单独减速看成战略自杀」是一种合理推断，但未必是双方的真实说法。外交部指责其散布恐慌，《环球时报》评论直接把这份方案称为「冷战剧本」。

这也解释了为什么全面协调几乎不可能，但有限合作还有空间：危险生物实验、网络攻击基准、事故通报格式、算力透明度，这些属于「大家都怕出事」的领域，可以谈，而全面暂停研发、共享模型权重、互相验证则是不太可能达成一致的。

四、对 AI 未来走向的判断

1. 近期：不会是「限速」，而是会「照常加速」

算力采购合同早就签到了明年，数据中心的施工进度不会因此慢下来，该建的算力继续建，该发的模型继续发。 最可能出现的是：

高风险能力多加几道安全测试和部署门槛；
网络操作、生物、金融自动化等敏感方向收紧权限；
训练照常扩大，反而会更深入企业的私有化数据；
推理侧的算力需求继续涨，AI 应用会爆发式增长。

直白的说：加速是主旋律，安全是附加条款。判断 AI 到底有没有减速，别听 CEO 怎么说，要看云厂商的资本开支指引、模型发布节奏和算力订单。至少大国的“十五五”规划是明确给出了算力网络建设和人工智能+指引方向的。

2. 中期：安全产业会增长，AI 应用安全成为企业应用必选项

AI 安全正在形成独立的评估、审计、红蓝队、监控、网络防御市场，AI「安全」将会被越来越多地重视：测试了什么、发现了什么、谁可以复核、失败后谁承担责任，会逐渐形成 AI 应用治理的框架约束。

3. 长期：全球监管难以统一，事件驱动的审计概率更高

不同国家短期内形成一套全球统一规则的概率不高，测试要求、事故报告、危险能力分类和供应链安全，仍可能出现有限互认。对企业来说，最大的现实风险不是某条抽象的「超级智能禁令」，而是几件更琐碎、也更绕不开的事：一套模型要同时满足多套标准、数据要按各地规则落地存储、跨境服务被出口管制卡住，以及各国自建安全规则带来的重复建设。

碎片化的特点：企业很少在出事之前主动设防，政策在出事之后会迅速收紧。 一次大规模的安全事故、一次数据泄露、一次自主代理失控，往往能在一夜之间把原本停留在讨论阶段的审计、披露和问责，变成实打实的法定义务。对企业来说，这比任何抽象的禁令都更难预测，因为你不知道下一次事故发生在哪、责任会落到谁头上，提前做好预防是最佳策略。

五、结论

这三件事不是简单的「AI 会不会毁灭人类」之争，而是风险判断、利益诉求、国家竞争和治理能力在同一时刻碰撞。Coxon 提供了来自前沿实验室内部的严厉警示；达里奥试图把能力增速纳入制度协调；黄仁勋与特总则强调基础设施投资与美国领先的战略价值。

说话的人都不是旁观者， 代表了一方的利益方，首先要判断观点是不是中立的「技术判断」。不是说他们说的都不可信，而是要理解他们为什么这么说，以及原始的观点上下文是什么，避免被媒体的断章取义带偏了。越是危言耸听，情绪强烈的部分越是会被放大，越容易被传播，创始人讲愿景、投资人看行情、咨询机构卖报告、媒体要点击量，网民看个热闹，对相关从业这来说是要看清方向，少走弯路。

最后决定AI能走多远的，不是这些争论本身，而是它能不能切切实实带来价值，进入企业的工作流，并且有人愿意长期为它付钱。