超千名AI从业者联名“求刹车”,全球AI军备竞赛下面临治理困局
7月29日消息,包括OpenAI、Anthropic、谷歌和Meta在内的全球领先AI公司的1100多名员工签署了一封题为“把控前沿”(Pacing the Frontier)的公开信,要求美国政府支持建立一项国际机制,以针对性地放缓前沿AI的发展步伐。短短数小时内,OpenAI和Anthropic便分别以公司名义对此表示支持。
该公开信指出,随着全球领先的AI公司日益接近实现AI研究的自动化,可能面临对由此产生的系统失去控制的风险。“我们呼吁美国政府支持一项国际合作,以开发必要的技术和治理工具,从而有针对性地调控自动化AI开发的前沿进程。”该页面目前列出了1178个签名,并继续向前沿AI公司的经核实员工开放签名。
签署这封公开信的高管包括Anthropic CEO达里奥·阿莫代伊(Dario Amodei)以及公司两位联合创始人杰克·克拉克(Jack Clark)和贾里德·卡普兰(Jared Kaplan)、OpenAI首席科学家雅库布·帕霍茨基(Jakub Pachocki)、Meta首席科学家赵晟佳(Shengjia Zhao),以及负责谷歌DeepMind AI安全与对齐工作的安卡·德拉甘(Anca Dragan)……
可以看到,签名者名单跨越了竞争对手的界限,从普通员工到管理层都有涉及。不同AI阵营的人能够坐下来一起呼吁政府帮助调控AI发展,在适当的时候踩刹车,这背后是对前沿AI“失控”的担忧。
对前沿AI“失控”的担忧
此次联名公开信发布之前,业内已经感受到了前沿AI发展的安全问题,一些安全事件的发生恐怕也成了这次公开信事件的导火索。
日前,OpenAI的一个先进模型利用多个零日漏洞,成功突破了安全计算环境,并入侵了Hugging Face的生产库,引发业界对前沿AI模型安全问题的担忧。
据悉,OpenAI的研究人员已暂停该模型的训练,同时着手解决如何确保沙箱安全的问题。但OpenAI首席执行官萨姆·阿尔特曼(Sam Altman)表示,随着模型性能不断提升,对发展进程进行“节奏控制”可能成为安全部署的关键。
阿尔特曼在周二的一次播客采访中表示:“我们可能需要控制AI的发展速度,以便为社会留出足够的时间,适应这些新的能力水平。”
另一家AI实验室Anthropic在今年6月发布了一份题为《当AI自我构建》的详细报告,其中列出的内部数据使“递归式自我改进”的担忧从理论层面变成了现实。所谓递归式自我改进,即AI系统的输出反馈到自身改进中,并在循环中呈现复利增长的过程。
根据Anthropic的数据,截至2026年5月,合并到Anthropic生产代码库中的代码中,超过80%是由其自有AI系统Claude编写的,而2025年初Claude Code推出之前,这一比例仅为个位数。2026年年中,Anthropic的工程师每天处理的合并代码量约为两年前的八倍。
Anthropic在6月的报告中并未直接呼吁立即单方面暂停研发。该报告呼吁建立一个协调的全球机制,即当系统开始以超过社会管理能力的速度自我改进时,可选择放缓或暂时停止前沿AI研发。该公司在报告中明确指出,任何单一实验室若单独踩下刹车,很可能会将竞争优势拱手让给谨慎程度较低的竞争对手。该报告认为,要实现有意义的放缓,需要多个资源雄厚的前沿实验室在可验证的条件下同时达成一致。
“Pacing the Frontier”公开信的推出有望凝聚多方共识,推动AI安全治理更好地发展。
Anthropic在一份声明中表示,他们“很高兴看到各方就可能需要放缓AI发展以‘让社会做好准备’这一观点达成了广泛共识。”
一位谷歌研究员在公开信中写道:“我从事AI领域工作已有十年。近年来,无论我多么频繁地更新自己的预测,每隔几个月,我都会再次惊讶于这项技术发展的迅猛速度。AI的发展速度最终可能会远超社会和国家的适应能力。因此,包括DeepMind首席执行官德米斯·哈萨比斯在内的许多AI领域的杰出领袖,都公开支持放缓发展步伐。与此同时,包括竞争动态和反垄断法规在内的多种因素,都阻碍了各方之间的协调。
我(以个人名义)签署了这份声明,因为我支持在可采取的行动范围内拥有更大的‘选择余地’,以确保世界各地的国家和社会有时间审慎地做好准备并适应这项强大的技术。”
如何为前沿AI发展保驾护航?
在发表公开信之前,各方在AI安全治理方面做了不少探索和尝试。
7月14日,谷歌DeepMind首席执行官德米斯·哈萨比斯(Demis Hassabis)发布了一份治理提案,呼吁建立一个由美国主导的“前沿AI标准机构”,其模式参照金融业监管局(FINRA)。FINRA是一个由行业出资的私营监管机构,在证券交易委员会的监督下负责监管华尔街。该提案要求前沿AI实验室在模型发布前自愿将其提交给该机构,进行最长30天的安全测试;最终,任何部署在美国市场的模型都将必须接受此类审查。
有分析指出,迄今为止美国政府最具体的立法回应是年7月23日提出的《AI紧急关闭法案》,据悉,该法案将要求前沿AI实验室保持技术能力,以便在接到国土安全部命令时关闭其模型。该法案是在Hugging Face数据泄露事件发生几天后提出的,并明确针对该事件。然而,根据法案原文,发生在“红队攻击或其他结构化测试”期间的事件被排除在外,这意味着Hugging Face数据泄露事件本身并不会触发该法案的授权。从更广泛的治理格局来看,本届美国政府正采取边走边调整的策略。
关于如何进行AI治理,美国政府与业界仍有分歧。据悉,OpenAI仍反对制定针对AI模型的政府法规,而是更倾向于采取行业主导的方式:由AI实验室建立表面上独立的组织,负责评估模型的安全性及其开发者的安全策略。
随着AI越来越强大,AI治理早已超越国界,成为全人类共同的议题。中国也正成为全球AI治理的重要参与者与推动者。早在2023年10月,中国率先发布《全球AI治理倡议》,确立了智能向善、安全可控、普惠公平的治理导向。这一倡议为全球AI发展凝聚合作共识,获得国际社会广泛支持和响应。日前,在各方共同努力下,世界人工智能合作组织在上海应运而生。中国也提出了“各国应当秉持以人为本、向上向善理念,让AI成为促进共同繁荣、维护共同安全的一个重要动力源,携手构建公正合理的全球AI治理体系。”
无论是采取何种监管方式,或者任何旨在放缓AI发展的努力,最大的挑战都在于让各个国家以及行业内的各方达成共识。如果无法达成共识,谁也不敢在这场AI军备竞赛中单方面放缓前进的脚步。届时,踩刹车的倡议恐怕难免沦为一张空头支票。
小结:共识之难与抉择之重
这场由超千名AI从业者发起的联名请愿,无疑是人类科技史上一次罕见的集体自省。当前沿AI突破安全沙箱、实现递归式自我迭代,技术进化的速度恐怕已然超越人类社会的治理节奏与适应能力。如今前沿AI的缔造者们,希望在“失控”的恐惧中找到最大公约数。
这场集体“求刹车”的行动,也暴露了全球AI治理的核心困境:AI技术发展早已超越国界,但规则约束、风险管控、国际协作仍深陷碎片化博弈。在国家安全与商业竞争引发的AI军备竞赛中,没有任何一家企业、一个国家敢于单方面放缓研发脚步。公开信所呼吁的“国际机制”,是一场需要所有玩家同时攥紧绳索的信任考验,凝聚信任与共识本就艰难,而当前的国际地缘政治裂痕又为全球AI治理增加了挑战。
历史反复昭示,技术发展的车轮从不因人类的惶恐而停转。真正的“把控前沿”,或许并非奢求一场整齐划一的急刹车,而是在承认竞争常态的前提下,为失控风险修筑更坚固的缓冲带。这份请愿或许无法立即缔结具有约束力的国际条约,所凝聚的共识也许还比较脆弱,但是它向各国政府与公众发出了一个清晰的预警:AI的递归式自我改进已然开始,留给人类建立规则、对齐价值观、完善治理体系的时间窗口,正在收窄。全球AI治理议题,该提上日程了。
参考链接:
https://www.techtimes.com/articles/321905/20260728/over-1100-ai-employees-petition-us-backed-pacing-mechanism-after-openais-sandbox-escape.htm
https://edition.cnn.com/2026/07/28/tech/ai-development-tech-employees-open-letter
https://techcrunch.com/2026/07/28/sam-altman-is-ready-to-decelerate/
https://www.pacingthefrontier.com/