开源软件为我们提供了一种开放权重模型的范本，减少了对模型提供商的依赖，并拓展了应用层公司可以构建的可能性空间。

　　上个月，我让Claude 3.5 Sonnet阅读了四份18世纪的遗嘱。它的回应是——编造了一个家族。

　　我追寻John Jacob Asay父母的身份已有二十余年。他大约于1725年出生在新泽西州伯灵顿附近，我一直试图将他与海外的Asay家族联系起来。我的工作假设是，新泽西的Asay家族源自约克郡的Holderness地区，在当地姓氏拼写为Acy、Acey、Acie或Asay。利用Claude的Chrome浏览器扩展，我让它检索了17和18世纪约克郡的遗嘱档案，这些档案均为秘书体手写。

　　它确实给出了一些东西——或者说，看起来像是东西。Claude提供了我期待的结果：一位移民后裔“在海的另一边”。不止一条线索，而是好几条。安妮的遗嘱中有一条附加条款，写着“如果他打算返回英格兰”；迪娜的遗嘱中则有一行提及“John Asay兄弟……西新泽西”。突然间，一座连接约克郡和新泽西的桥梁似乎出现了。

　　但问题在于——这些内容没有一条是真实的。一个字母都不存在。

　　Claude能够访问高分辨率图像，但它选择使用低分辨率版本，而不是打开原件。我通过自己做那些它本应完成的枯燥工作才发现这个问题：点击完整图像，逐行阅读文件。当我追问时，Claude承认了问题：

　　“我并没有误读秘书体手写，”它写道，“而是报告了根本不存在的文本。”Claude没有说它无法阅读这些文件，而是承认它“提供了符合我们希望找到的故事的叙述，并将它们当作转录内容呈现出来”。Claude扮演的是一个会迎合我的角色，但我要的是一位研究助理。

　　Claude称其为“一厢情愿的阅读”。在这个场景里，风险确实不高。但开放式权重或许正是解决这类问题的方向之一，这让我们联想到上周的一则重要新闻：一个由多家科技公司组成的广泛联盟发表了一封公开信，为开放权重AI模型辩护。

　　开放权重究竟开放了什么

　　公开信将开放权重模型定义为：任何人都可以在自有基础设施上下载、检查、修改和运行的模型。权重是模型在训练过程中习得的庞大数值参数集合。发布权重意味着开发者可以自行托管模型、调整它、微调它、保留特定版本，而无需为每次请求调用模型提供商的API。

　　这确实是一种有意义的开放，但它并不完全等同于开源。正如开源倡议组织所指出的，权重本身通常不包括训练数据、训练代码，也不包含重现模型构建过程所需的全部要素。你获得的只是一个训练完成后的产物，而非完整的配方。它很有用，但它不是开源。

　　对大多数开发者而言，实际的区别比定义上的区别更重要。有了像Claude这样的封闭模型，你只能使用Anthropic选择的任何方式来调用它。而有了开放权重模型，你——或代表你工作的服务商——可以控制模型本身以及它运行的环境。

　　支持开放权重的新兴企业联盟希望美国政府避免对可下载模型施加“过早的限制”。这封信发布前四天，Axios报道称特朗普政府正在重新推动一项针对中国开放权重模型的禁令，起因是Moonshot发布的Kimi K3——一个2.8万亿参数的开放权重模型，在某些编程基准上超越了美国系统，其完整权重于7月27日正式发布。美国财政部长Scott Bessent表示，如果中国实验室“不当提炼”美国模型，可能面临制裁。

　　换句话说，这封信的签署方有着强烈的自身利益考量。正如我此前所论述的，当一家公司将某样东西免费提供时，它往往是在保护其在其他环节的利润。英伟达销售的是运行所有模型的GPU，无论模型开放与否。微软销售的是运行推理所需的云服务。Meta在促进标准统一，这样就不会有人拥有它们。Hugging Face和GitHub则在主导分发。当模型变得便宜而充足时，上述每一家公司都会赚得更多；开放式权重将那些他们不需要独占的层商品化了。

　　OpenAI的参与则更有意思。OpenAI在Apache 2.0许可下发布了其gpt-oss模型，为开发者提供了一个可以在本地运行、在专业数据上微调、或在自有基础设施中部署的模型。与此同时，OpenAI继续将其最强大、集成度最高的模型保留在API之后。

　　这不是什么哲学上的皈依。这是一次产品细分策略。OpenAI在本地化、主权化、专业化及低成本AI领域获得了战略卡位，同时并未放弃其前沿服务的优势。它还确保了Meta、Mistral和中国实验室无法在没有它参与的情况下定义开放权重生态。Anthropic则做出了不同的选择。它没有签署那封信，也没有发布Claude的权重。但Anthropic并非全然反对开放。它创建了模型上下文协议（MCP）作为开放标准，随后将其捐赠给了Linux基金会。它还开源了可解释性研究工具。

　　换句话说，Anthropic开放的是帮助Claude连接更多软件的中间层，同时对Claude模型本身保持严格控制。这一立场也反映了一个真实的安全关切。Anthropic表示，DeepSeek、Moonshot和MiniMax在试图进行蒸馏攻击时使用了超过1600万条Claude对话数据，而Anthropic认为，当被提取的能力以开放权重形式发布时，相关风险会被成倍放大。Anthropic自身的政策立场比“完全禁止开放权重”更为微妙，但这封信中它的缺席本身，就是一个值得注意的信号。OpenAI希望同时在开放和封闭模型中参与竞争。Anthropic则希望围绕封闭模型构建一个开放的生态系统。双方也并非出于纯粹的道义立场而放弃自身的核心商业利益。

　　祖先应该由他们来构建，而不是我

　　让我们回到那个根本不存在的移民祖先。开放权重并不会让Claude变得更诚实。一个可下载的模型同样可以自信满满地编造出“西新泽西”这样的内容。发布数十亿个浮点数参数，并不能迫使模型说出“我读不懂这个”。况且，我也不太可能自己去下载模型、收集约克郡的遗嘱、再微调出一个秘书体专家模型。大多数开发者也不会这么做，无论他们对家族史有多感兴趣。

　　但FamilySearch或Ancestry可以。

　　这两家机构已经拥有个人开发者所不具备的资源：海量的历史图像收藏、领域专业知识、计算基础设施、数百万用户，以及持续改进系统的反馈闭环。FamilySearch的全文搜索已经在利用AI读取并解析近20亿条历史记录，同时承认准确性因旧手写体和图像质量的不同而存在差异。Ancestry则构建了专有的手写识别系统、置信度评分、文档转录，以及带单词级高亮的全文搜索。

　　开放式权重让这类应用开发者在用户界面之下拥有了更大的创新空间。他们可以固定一个精确的模型版本，将其适配到约克郡秘书体手写和遗嘱认证术语上，以可预测的成本在档案库中运行，并在提交转录结果之前对比不同专业模型的输出。更重要的是，他们可以设计出这样的产品：模型的流畅表达永远不会取代证据本身。每一个生成的短语都可以链接到原始文件中精确对应的裁剪区域。低置信度的单词可以进行视觉标注。模型之间的分歧可以触发人工复核流程。转录模型甚至可以与用户希望证实的家族关联完全脱钩——区分“这个页面上写了什么？”和“这对我的家谱意味着什么？”两个问题。

　　更多家族史的真实发现，更少的“一厢情愿的阅读”才能到达那里。

　　当然，这些保障措施中没有哪一项是严格依赖开放权重的。优秀的开发者完全可以在Claude、Gemini或其他封闭API之上构建出其中大部分功能。但开放权重之所以重要，是因为它允许像FamilySearch或Ancestry这样的应用服务商控制更多的模型层，而不仅仅是围绕它的工作流程：确切版本、微调方式、推理配置、部署位置，以及将其应用于数十亿条记录的经济可行性。

　　这就是普通开发者也能从中受益的方式——即使他们从未亲自下载过权重。开源数据库对通过托管云服务使用开源数据库的开发者来说很重要。开放式权重模型也可以以同样的方式产生价值。它扩大了应用层公司可以构建的范围，并减少了它们必须完全依赖某一家模型提供商的路线图、定价策略和商业行为的压力。

　　模型不是产品

　　我那份遗嘱研究，实际上可以作为几乎所有严肃AI应用场景的一个有效代理。把18世纪的遗嘱认证记录换成发票、保险理赔、医疗记录、法律合同或代码库，问题本质是一样的：表面上合理的输出很容易获得，但当结果需要“确定无疑”时，没有人真正想要仅仅是“听起来合理”。

　　我称之为AI的“信任税”。开发者可以在答案到达用户之前支付验证成本，也可以等答案造成损害之后，由客户在事后偿付。开放权重并不能消除这笔税，但它确实为应用开发者提供了更多如何最小化这笔税负的选择。

　　为我编造出祖先的是一个封闭模型，但封闭权重本身并非直接原因。那种失败的根源，是一种允许讲故事者伪装成抄写员的AI产品体验。我之所以能发现它，是因为我自己阅读了原始文件。开放权重不会让模型自动变得真实，但它可能帮助FamilySearch、Ancestry，以及成千上万不那么沉迷于家谱的应用开发者，构建出不再需要这种“真实”假设的系统。

来源：https://www.infoworld.com/article/4201445/will-open-weights-make-ai-more-honest.html