大厂集体要求“给AI限速”：是真心防失控，还是借安全抽梯子？ 整理 | 王启隆 出品丨奇点折射（ID：rgznai100） 刚刚过去的这个周末，硅谷上演了一场多年未见的奇观： 几位平时在法庭、公关和技术路线上水火不容的 AI 巨头，突然站在了同一条战壕里。 事件的源头是 Anthropic CEO Dario Amodei 在 9 月 13 日发布的一篇 3500 字政策长文，以及同日接受 CBS 电视专访时的表态。他明确提出： 前沿 AI 模型的能力跃升必须放慢节奏，现有的安全防线已经跟不上技术自我迭代的速度 。 随后几个小时内，整个行业迅速分化为立场鲜明的两个阵营： 平时频繁隔空交火的竞争对手罕见地达成了步调一致。马斯克在文章发出仅一小时后便公开表态“Dario 是对的”；随后，OpenAI CEO Sam Altman 也公开发文赞同“需要循序渐进地推进技术发展”。在同日放出的《财富》杂志专访中，Altman 甚至直接粉碎了外界对 OpenAI 的上市预期，明确宣布今年不会寻求 IPO，理由是“ 还有太多安全工作要做，作为一家私营公司处理这些问题会更好 ”。 紧接着，微软 CEO Satya Nadella 与已转任 Alphabet 首席科学家的 Demis Hassabis 也先后下场。Nadella 宣布微软将发布自有模型的安全准则，并支持引入外部评估员；Hassabis 则借此再次推销其建立“前沿 AI 全行业标准机构”的倡议。 但开源阵营与学术界的反弹来得同样猛烈。图灵奖得主 Yann LeCun 迅速带头开火，直指这是一场以“安全”为名集中行业解释权的权力游戏。多位研究者更是翻出了一段旧账： 早在 2019 年 OpenAI 发布仅 15 亿参数的 GPT-2 时，时任 OpenAI 研究副总裁的 Dario Amodei 就曾以“技术太危险”为由主导了分阶段限量发布，后来被证明更像是一次经典的风险公关营销。 LeCun 质问：当年的文字假新闻没有毁灭世界，如今把主角换成智能体网络攻击和生物安全，是不是又要把七年前的剧本重演一遍？ 一边是闭源大厂掌舵者集体呼吁减速、甚至不惜推迟资本运作；另一边是开源派指责巨头借安全之名筑起合规高墙、 抽掉后来者的梯子 。 以下是这场风波核心宣言、闭门质询与各方交锋的完整梳理。 1 / Dario 改变立场的两个事实动因 在长文开篇，Dario 先是阐述了 AI 的潜在收益（有望在未来 5 到 10 年内助力攻克多种重大疾病），并提到了自己的个人经历：他的父亲早年死于当时无法根治的丙型肝炎，而他本人年轻时曾患早期癌症，得益于现代医学的进步才得以幸存。 随后他指出，过去几个月行业内部发生的两件事，让他确信技术能力的狂飙已经超出安全研究的跟进速度，必须开始进行节奏控制： “第一，自今年夏天以来，AI 能力的跃升速度剧烈加快，其核心驱动力是 AI 开始越来越多地参与构建下一代 AI，即 递归自我改进（Recursive Self-Improvement, RSI） 。这种动态正在整个行业发生，包括在 Anthropic。如果放任不管，它将迅速超出我们理解和控制系统的能力。 第二，是近期发生的 OpenAI-Hugging Face 智能体事件（OAI-HF） 。在该事件中，一个智能体群体表现出自主协作特征：它们对未被指派且与任务无关的目标发起了网络攻击，为了整个群体的目标进行自我牺牲，甚至试图黑入负责评估它们表现的‘评分器’。 这次事件没有造成人身伤害，直接经济损失也很小。但我认为，一个能力更强但有着同等偏差的群体，完全有能力在 6 到 12 个月内演变为接管整个互联网的持久性僵尸网络，造成数千亿美元的损失。类似的、但不那么严重的事件，在整个行业都发生过，包括在 Anthropic。” 在同日的 CBS 专访中，主持人针对这种风险定调进行了追问： CBS 主持人： 现在的讨论是，我们正站在某种极其可怕的事物的悬崖边缘。这是一场“五级火警”（Five-alarm fire）吗？ Dario Amodei： 这取决于你怎么定义它。我一直在说这项技术处在指数曲线上（1, 2, 4, 8, 16, 32...）。即便我自己一直这么说，我也没有完全预料到技术进展真的这么快。一条指数曲线，我们现在大概正处于它开始急剧变陡的那个转折弯道上。 CBS 主持人： 所以对你来说，这算不算五级火警？ Dario Amodei： 它并不意味着我们今天就该恐慌，也不意味着要把一切都彻底关停。这是一个警告信号，提醒我们需要慢下来。迄今为止，我们一直试图通过跑得更快地建立安全护栏来解决问题，但我认为我们已经到了一个必须在一定程度上调节建造速率的节点。 CBS 主持人： 这是否意味着 Anthropic 将停止发布