Anthropic拒绝公开重量的人工智能禁令，呼吁中国芯片控制和安全测试
此前，Anthropic在一封反对开放权重人工智能限制的行业信中缺席了批评。Anthropic首席执行官概述了他对低风险模式的支持，以及对更强大的系统更严格的控制。
Anthropic首席执行官Dario Amodei认为，政策制定者应该保持低风险的开放权重人工智能的可及性，同时在前沿系统周围设置更严格的保障措施，包括强制测试和限制中国访问高级计算和模型能力。
在一篇概述Anthropic立场的帖子中，Amodei表示，广泛的限制，包括禁止美国企业使用的中国开放权重模型，不会解决他的主要国家安全问题。相反，他指出了专制政府在先进的人工智能方面超越美国的可能性，以及日益强大的系统带来的网络、生物和协调风险。
Amodei还呼吁采取行动反对工业规模模型蒸馏，他说，这允许中国开发人员以比从头开始训练可比系统所需的计算能力更低来改进他们的模型。
该声明是在Anthropic没有签署一封由Nvidia、Microsoft、Meta、IBM、Mistral、Hugging Face和其他科技公司支持的行业信函后发表的批评，该信敦促决策者避免过早限制开放权模型。
信中说，开放权重可以扩大对人工智能的访问，加剧竞争，并使组织能够在不依赖单一提供商的情况下适应和部署模型。Amodei同意该案件的部分内容，但质疑开放性本质上可以改善安全研究或让辩护人比攻击者更有优势的说法。
他说，监管应该基于模型的能力和风险，而不是其权重是否公开。根据这种方法，足够强大的开放式和封闭式模型将在发布前进行测试。
有条件的支持
分析师表示，Anthropic通过拒绝全面禁令，更接近行业共识，但其支持仍然比许多主要科技公司支持的方法更有限。
IDC人工智能、分析和数据研究主管Deepika Giri表示，Nvidia支持的信将开放权重作为战略基础设施，应该保持广泛访问，这与Anthropic更具限制性的立场相反。
Omdia首席分析师Lian Jye Su表示，Amodei的声明澄清了Anthropic仅在特定条件下支持开放权重模型，这一立场也可以帮助该公司保持其作为专注于合规性和更严格控制的专有模型提供商的竞争优势。
Pareekh Consulting首席执行官Pareekh Jain表示，该声明对开放重量模型的支持者来说是“真正的橄榄枝”。但他表示，分歧已经从是否应该发布此类模式转向决策者应该在哪里划清界限。
Jain说：“Anthropic仍然认为，一旦模型变得足够强大，公开释放其重量比将其锁定在应用程序后面的风险更大，因为你以后永远无法收回它或添加安全修复。”
控制能用吗？
分析师们在Anthropic提议的控制措施是否会在不为小型人工智能开发人员创造新障碍的情况下实现其目标存在分歧。
Jain表示，芯片限制和禁止非法模型蒸馏的措施将主要影响模型开发人员和基础设施提供商，而不是使用市场上已经存在的模型的企业。然而，强制性安全测试可能会提高开发成本，并减少可用的高级开放式重量模型的数量。
Jain说：“测试既昂贵又耗时，因此，像Anthropic、Google和OpenAI这样的大型、资金充足的公司可以负担得起。”他补充说，寻求发布尖端开放重量模型的小型开发人员可能难以满足相同的要求。
据Su称，额外的测试和筛选也可能限制企业可用的开放重量模型的数量。他说，这些要求可能会削弱它们的一些主要好处，包括降低成本、减少对供应商的依赖和社区主导的发展。
市场研究公司JP Data的董事总经理Anand Joshi质疑，限制中国获得先进芯片是否会大幅减缓其人工智能的发展，并认为中国公司已经表明，他们可以用更少的计算能力构建高能力的模型。然而，他支持打击非法蒸馏的行动，他说需要采取保障措施来防止开发人员未经授权复制其他模型的功能。
Jain说，如果能力较差的模型被豁免，对大多数企业用户的影响可能仍然有限。部署低于拟议测试阈值的模型的企业可能会面临很少的额外费用。
首席信息官应该如何选择
Giri说，首席信息官应该根据模型的能力来评估模型，而不是它们是否开放，并应该要求独立测试、明确许可、模型文档以及对监控和事件响应的问责制。
Jain说：“强制性安全测试应该由模型展示的能力触发，而不是其规模或培训成本，”特别是当系统可以显著协助网络攻击、生物滥用或自主有害行为时。
他补充说，在部署之前，首席信息官应该寻求独立评估、详细的模型文档、安全测试结果和有关模型软件供应链的信息。Forrester的首席分析师Charlie Dai表示，评估应包括记录在案的红队结果、模型来源、关于培训和微调的披露，以及根据公认的安全基准进行独立测试的证据。
