绝大多数公司领导人（98%）都认识到人工智能的战略重要性，近65%的公司计划增加投资。预计到2026年，全球人工智能支出将达到3000亿美元。同样，据国际能源机构称，到2026年，人工智能的用电量可能会增加十倍。显然，人工智能给企业带来了双重挑战：最大限度地提高人工智能的能力，同时最大限度地减少其对环境的影响。

　　仅在美国，数据中心的功耗预计到2030年将翻一番，达到35GW（千兆瓦），这主要是由于对人工智能技术的需求不断增长。这种增长主要是由人工智能就绪机架的部署驱动的，由于GPU密集型进程，每个机架消耗了过多的40kW至60kW（千瓦）。

　　有三种主要策略可以有效应对这些迫在眉睫的能源挑战：

• 　　为人工智能工作负载选择正确的计算资源，重点是区分培训和推理需求。

• 　　在现有数据中心足迹中优化性能和能源效率。

• 　　通过整个生态系统的协作努力促进人工智能的可持续发展。

　　用于AI推理工作负载的CPU与GPU

　　与普遍的看法相反，可持续的人工智能实践表明，CPU，而不仅仅是高功率GPU，适合大多数人工智能任务。例如，85%的AI计算用于推理，不需要GPU。

　　对于人工智能推理任务，CPU提供了性能、能效和成本效益的平衡组合。他们熟练地处理多样化、不太密集的推理任务，使其特别节能。此外，他们处理并行任务和适应波动需求的能力确保了优秀的能源使用，这对保持效率至关重要。这与更耗电的GPU形成鲜明对比，GPU因其高性能能力而擅长人工智能培训，但在密集任务之间往往没有得到充分利用。

　　此外，与CPU相关的较低的能源和财务支出使其成为努力实现可持续和具有成本效益运营的组织的首选。进一步增强了这一优势，为CPU架构量身定制的软件优化库显著降低了能源需求。这些库优化AI推理任务以更高效地运行，使计算过程与CPU的操作特性保持一致，以最大限度地减少不必要的功耗。

　　同样，企业开发人员可以利用尖端软件工具来增强CPU上的AI性能。这些工具与TensorFlow和ONNX等常见AI框架无缝集成，自动调整AI模型以获得优秀的CPU性能。这不仅简化了部署流程，还消除了跨不同硬件平台进行手动调整的需要，简化了开发工作流程，并进一步降低了能耗。

　　最后，模型优化通过完善人工智能模型来补充这些软件工具，以消除不必要的参数，创建更紧凑和高效的模型。这种修剪过程不仅保持了准确性，还降低了计算复杂性，降低了处理所需的能量。

　　为AI工作负载选择正确的计算

　　对于企业来说，在保持能源效率的同时充分利用人工智能的优势，将CPU能力与特定的人工智能优先级相匹配至关重要。这涉及几个步骤：

　　确定人工智能优先级：首先确定对企业最关键的人工智能模型，考虑使用量和战略重要性等因素。

　　定义性能要求：建立明确的性能标准，重点关注延迟和响应时间等基本方面，以有效满足用户期望。

　　评估专业解决方案：寻找不仅在所需的特定类型的人工智能方面出类拔萃，而且满足设定的性能基准的CPU解决方案，确保它们能够高效地处理必要的工作负载。

　　高效扩展：一旦满足了性能需求，请考虑解决方案的可扩展性及其处理越来越多的请求的能力。选择提供吞吐量（每秒推断）和能耗平衡的CPU。

　　正确调整解决方案大小：避免在不评估实际需求的情况下选择最强大和最昂贵的解决方案的陷阱。调整基础设施规模至关重要，以避免浪费性支出，并确保随着需求的增长，可以有效地扩展基础设施。

　　考虑未来的灵活性：建议谨慎使用过于专业化的解决方案，这些解决方案可能无法很好地适应未来人工智能需求或技术的变化。企业应该更喜欢能够支持一系列人工智能任务的多功能解决方案，以避免未来的过时。

　　数据中心目前约占全球能源消耗的4%，这一数字表明，人工智能的增长可能会大幅增加。许多数据中心已经部署了大量GPU，这些GPU消耗了巨大的电力并受到热限制。

　　例如，像英伟达的H100这样的GPU拥有800亿个晶体管，将功耗推向了极端，一些配置超过40kW。因此，数据中心必须采用浸入式冷却，这是一个将硬件淹没在导热液体中的过程。虽然这种冷却方法可以有效地去除热量并允许更高的功率密度，但会消耗额外的电力，迫使数据中心仅将10%至20%的能源用于这项任务。

　　相反，节能CPU提供了一个有前途的解决方案，以应对复杂人工智能应用程序快速扩展所驱动的激增的电力需求。像Scaleway和Oracle这样的公司正在引领这一趋势，实施基于CPU的AI推理方法，大幅减少对传统GPU的依赖。这种转变不仅促进了更可持续的做法，还展示了CPU高效处理高要求苛刻的人工智能任务的能力。

　　举例来说，甲骨文已经成功地在CPU上直接运行了具有高达70亿个参数的生成AI模型，例如Llama 2模型。这种方法展示了显著的能源效率和计算能力优势，为在不过度能耗的情况下有效管理现代人工智能工作负载设定了基准。

　　将CPU与性能和能源需求相匹配

　　鉴于CPU在处理人工智能任务方面的卓越能效，我们应该考虑如何最好地将这些技术集成到现有的数据中心中。新CPU技术的集成需要仔细考虑几个关键因素，以确保性能和能效都得到优化：

　　高利用率：选择一个避免资源争用并消除流量瓶颈的CPU。关键属性包括高核心计数，这有助于在重负载下保持性能。这也推动了人工智能任务的高效处理，提供更好的每瓦性能，并有助于整体节能。CPU还应该提供大量的私有缓存和支持单线程内核的架构。

　　特定于人工智能的功能：选择具有为人工智能处理量身定制的内置功能的CPU，例如支持常见的人工智能数字格式，如INT8、FP16和BFloat16。这些功能可以更有效地处理人工智能工作负载，提高性能和能效。

　　经济考虑：升级到基于CPU的解决方案可能比维护或扩展基于GPU的系统更经济，特别是考虑到CPU的功耗和冷却要求较低。

　　集成的简单性：CPU为升级数据中心功能提供了一条直截了当的路径。与集成高功率GPU的复杂要求不同，CPU通常可以轻松集成到现有的数据中心基础设施中——包括网络和电力系统，简化了过渡，并减少了对广泛基础设施更改的需求。

　　通过关注这些关键考虑因素，我们可以有效地平衡数据中心的性能和能源效率，确保具有成本效益和面向未来的基础设施，以满足未来人工智能应用程序的计算需求。

　　先进的人工智能CPU技术

　　行业人工智能联盟，如人工智能平台联盟，在推进人工智能应用的CPU技术方面发挥着关键作用，专注于通过协作努力提高能源效率和性能。这些联盟汇集了来自技术堆栈各个部门（包括CPU、加速器、服务器和软件）的各种合作伙伴，以开发可互操作的解决方案，以应对特定的人工智能挑战。这项工作从边缘计算到大型数据中心，确保人工智能部署既可持续又高效。

　　这些协作在创建针对不同人工智能任务（如计算机视觉、视频处理和生成人工智能）优化的解决方案方面特别有效。通过汇集多家公司的专业知识和技术，这些联盟旨在打造同类解决方案，提供性能和卓越的能源效率。

　　人工智能平台联盟等合作努力推动了新的CPU技术和系统设计的开发，这些技术和系统设计专为高效处理人工智能工作负载的需求而设计。这些创新可以显著节省能源，并提高人工智能应用程序的整体性能，突显了全行业合作在推动技术进步方面的巨大好处。

　　Jeff Wittich是安培计算公司的首席产品官。