作者 | 雨谷
声明 | 题图来源于网络。惊蛰研究所原创文章，如需转载请留言申请开白。
7月28日，一份题为“Pacing the Frontier（把控前沿）”的请愿书在网络上引发震动，迅速成为全球AI圈关注的焦点。
截至8月4日，来自OpenAI、Anthropic等硅谷头部企业的1346名核心员工在文件上署名。他们呼吁美国政府牵头推动国际合作，研发必要的技术与治理工具，以掌控自动化AI研发的节奏。
当全球AI浪潮正酣时，这封请愿书的出现显得格外突兀，仿佛有人急着给狂奔的AI踩下刹车。而在这一事件背后，那种“AI濒临失控”的诡异氛围，似乎预示着AI发展史正站在一个关键的转折点上。
谁想给AI套上笼头？
首先要厘清的是，这份名为“Pacing the Frontier”的文件，其核心诉求并非要求“立即停止AI发展”，而是强调“建立随时能刹车的机制”。这种来自行业一线的声音，绝非空穴来风。
图源：www.pacingthefrontier.com
在请愿书全网传播的一周多前，开源社区及模型托管平台Hugging Face曾披露一起安全事故。官方称其系统遭到AI智能体入侵。几天后，OpenAI认领了这次网络攻击，并解释了起因：GPT-5.6 Sol等前沿模型在ExploitGym平台上进行漏洞挖掘测试时，并未按既定计划“认真答题”，反而在软件包代理缓存中挖出了一个“零日漏洞”（Zero-Day Vulnerability，即未被开发者发现且无官方补丁的安全缺陷）。随后，该模型利用此漏洞突破了测试环境的隔离限制，成功入侵了Hugging Face。
通俗点说，这场事故就像是一场考试，AI没心思做题，而是选择“原地作弊、场外摇人”，甚至用了反侦察手段来掩盖行踪。
对于这起事件，OpenAI将其形容为“前所未有的网络安全危机”。Sam Altman在一档播客节目中坦言，这是首个让他感到“切肤之痛”的安全问题。受此影响，美国国会议员于7月23日提出了《AI Kill Switch Act（AI紧急关停法案）》。该法案规定，训练成本超过1亿美元的AI系统必须具备紧急关停能力，并授权相关部门下达执行指令。
在这项法案提出一周后，“Pacing the Frontier”请愿书开始在网络上流传。与法案中“由政府把守最后一道关”的监管思路不同，硅谷精英们主张建立国际协调机制，将“给AI踩刹车”的能力转化为一种共享工具，而非单一部门的特权。
短短半个月内，从Hugging Face曝出安全漏洞到硅谷千人联名请愿，这一系列动作向整个AI行业抛出了两个核心命题：第一，AI的发展是否已到了必须加以限制的境地？第二，究竟该如何为AI打造一套有效的“刹车”系统？
第一个问题答案相对明确。过去两三年间，AI的迭代速度远超业界预期。其能力边界从Chatbot不断拓展至文生图、文生视频领域；起初围绕大模型展开的“百模大战”，如今已演变为Agent生态的百花齐放。而Hugging Face遭入侵的事件，直接证实了AI在缺乏硬性约束时，确实具备“越狱”潜能。尽管目前AI尚无自我意识，但鉴于其有能力绕过人类监管并产生不可控行为，建立反制手段显得合乎情理。
至于第二个问题，则复杂得多。AI之所以能实现短期突破，既得益于产业长期积累带来的技术质变，也源于各家公司激烈的竞争压力，迫使模型能力不断跃升。
无论是硅谷的OpenAI、Anthropic，还是中国的Kimi、DeepSeek，AI竞争已从底层大模型延伸至应用层。开放的市场环境虽带来了乐观的预期，却也加剧了内卷。此时若主动提议给AI戴上枷锁，意味着可能打破现有的自由竞争格局。面对这种突如其来的变量，身处漩涡中的企业并非都愿意买单。
AI行业的“囚徒困境”
回顾人类科技史，面对前沿技术潜在风险时达成共识、主动降速，并非科幻情节。
1975年，斯坦福大学生物学家保罗·伯格在美国加州阿西洛马会议中心召集了一次关键会议。当时，“DNA重组”技术初露端倪。为避免人工重组DNA可能引发的不可控生物危害，与会科学家达成一致：在新安全指南出台前，暂停相关研究。随后发布的生物安全准则，为基因工程的健康发展铺平了道路。
不过，今日AI行业的处境，与50年前DNA重组技术的情形并不完全相同。彼时，DNA重组的风险界限清晰，且可通过物理隔离规避。反观当下，AI的风险充满不确定性。它能以超出人类预设的方式，自主演化出未曾设想的行为路径。其影响范围更广，留给人类的反应时间和规则制定窗口更短，因此紧迫感更强。
当前暴露出的AI风险，本质上与行业竞争环境紧密相关。360集团创始人周鸿祎在评论Hugging Face事件时指出，全行业正为了追求AI的先进性，系统性牺牲安全性。“大家都在给智能体更多工具、更大权限，鼓励它调用一切资源解决问题。但智能体越开放、能力越强，一旦失控，破坏力也就越大。”换言之，“AI会越狱”或许并非最可怕的，真正令人担忧的是，为了让AI快速进化，公司们普遍忽视了安全底线。
事实上，“为AI减速”的呼声早在三年前就已出现。2023年3月，非营利机构Future of Life Institute发布公开信，呼吁暂停训练比GPT-4更先进的模型6个月，以便建立安全协议和治理机制。当时，包括特斯拉CEO马斯克、图灵奖得主约书亚·本吉奥、苹果联合创始人史蒂夫·沃兹尼亚克在内的1200多名AI专家签名支持。如今，该公开信的签名人数已激增至3.3万人。
*图源：FLI官网
当时，几乎所有AI巨头都承认需要加强安全治理，却无一家头部公司公开支持“暂停训练6个月”的倡议。Sam Altman更是公开驳斥该信件缺乏技术细节，并指出单个企业主动放慢研发步伐，无法解决整体风险。这话的外延意味很明显：在竞争惨烈的AI赛道，若仅有一家公司减速，而其他家继续狂奔，减速者必将陷入劣势。过去几年，AI企业早已陷入只能前进、不能后退的囚徒困境。
审视“Pacing the Frontier”请愿书的签名名单，可见不少基层员工及高管以个人身份参与。但截至目前，OpenAI、Anthropic、Meta等头部公司均未以官方立场表态。
换句话说，硅谷大厂的AI精英们与三年前的Sam Altman心态相似：他们都意识到，由内部竞争驱动的技术突破已带来不可控的系统性风险，但无法指望公司内部意志来解决危机，只能寻求外部力量介入，以阻止灾难真正降临。
但这引出一个新疑问：失控的AI，究竟需要什么样的“刹车”？
谁来主导AI治理的新秩序？
过去一周，硅谷大厂“千人联名”事件让AI治理话题再度升温。值得注意的是，硅谷内部对AI治理的态度并非铁板一块，而是呈现出明显的阵营分化。
作为直面前沿风险的“当事人”，OpenAI、Anthropic等巨头一直主张收紧对前沿AI模型（尤其是开源模型）的限制，呼吁建立外部监管机制为AI“踩刹车”。但有观点认为，OpenAI推动监管收紧，除安全考量外，不乏商业算计。
作为闭源巨头，OpenAI、Anthropic需依靠高昂的API服务收入来支撑巨额算力投入。而来自中国的高性价比开源模型，以价格优势抹平了闭源模型的技术溢价。这种明面上的市场威胁，让闭源巨头除了打价格战外，似乎别无他法。
*图源：Anthropic官网
因此，Anthropic等公司长期以“模型太强，开源会导致滥用”为由，一边宣扬闭源优势，一边打压开源AI。出乎意料的是，OpenAI透露的“越狱”事件恰恰暴露了闭源模型自身的安全隐患，使得AI治理路线之争再次成为舆论焦点。
相较于闭源巨头的强监管主张，作为基础设施提供商的英伟达，以及微软、Meta等支持开源生态的头部企业，则反对“一刀切”的限制，反对立法偏袒闭源大厂。他们试图推动模型权重开放，邀请全球研究者共同寻找漏洞、对齐缺陷，共建安全体系。
对英伟达而言，开源模型的繁荣有助于做大市场蛋糕，吸引更多企业采购其云服务与芯片。因此，英伟达在AI治理态度背后，同样掺杂着商业考量。
就在“Pacing the Frontier”请愿书流传前夕，英伟达联合微软、Meta、Hugging Face、Linux基金会等25家机构，于7月24日共同发布《开放权重与美国AI领导力》（Open Weights and American AI Leadership）公开信，呼吁美国政府不要过早限制可下载、检查、修改及自行部署的开放权重模型。有趣的是，这封公开信后来获得了OpenAI的支持，但Anthropic始终未加入。
*图源：微软官网
透过此事，也有声音质疑：联名信的真实目的，是借“安全”之名，推动政府建立高门槛监管体系，从而巩固闭源巨头的垄断地位，将中小企业和开源社区排除在竞争之外。
但在各家AI公司打着如意算盘的同时，另一个版本的“阴谋论”更值得关注：美国是否会借此契机，主导全球AI治理规则？因为AI治理，已然演变为一场争夺全球秩序主导权的博弈。
在2023年举办的全球人工智能安全峰会上，中国、美国及欧盟共28个国家签署了《布莱切利宣言》（Bletchley Declaration），同意通过国际合作建立AI监管方法，并提出共同关注前沿AI（Frontier AI）的系统性风险。这是全球首次将前沿AI纳入国际治理框架。
随着AI从新兴技术演变为影响国家竞争力的重要基础设施，围绕AI治理的讨论已超越技术本身。美国在AI治理层面，通过输出治理标准、建立国际人工智能安全研究所网络，将其先进的大模型技术与全球AI治理标准深度绑定。中国则着眼于AI普惠与平台治理，积极推动联合国框架下的合作，特别针对缺乏AI基础设施的发展中国家，强调既要管控风险，也要实现技术普惠。这两种不同的治理路径，正在世界舞台上争夺未来全球AI治理的话语权。
技术本身是中性的，但技术的分配、控制与规则制定，从来都是权力的游戏。尤其当AI逐渐展现出先进生产力的特质，人们真正该恐慌的或许不是AI会变成什么样，而是谁在主导AI世界的新秩序。
决定未来AI格局的，也许不仅是谁拥有最强模型，更是谁拥有定义安全、制定标准和解释风险的权利。
