英特尔公布了其人工智能路线图,芯片直接与英伟达竞争
在该公司的年度愿景会议上,英特尔首席执行官Pat Gelsinger表示,他认为该公司的未来植根于人工智能无处不在的概念中。
英特尔周二在其Vision 2024会议上正式推出了其Gaudi 3处理器——旨在加速企业生成人工智能(genAI)工作负载,并公布了一系列下一代产品和战略合作,以增加genAI的采用率。
芯片制造商的战略囊括了从数据中心到边缘设备(包括支持人工智能的PC)的硬件和云服务路线图。
在主旨演讲中,英特尔首席执行官Pat Gelsinger透露人工智能的时代即将发布的一系列产品,其中包括将使用新系列英特尔酷睿Ultra处理器的PC。这家芯片制造商预计在2024年将出货4000万个AI PC处理器,明年将出货1亿个。
12月,英特尔最初宣布即将发布用于数据中心AI工作负载的Gaudi 3处理器,并预览了其第14代酷睿Ultra“流星湖”数据中心处理器和第5代至强可扩展CPU。该公司周二正式宣布了后两个处理器。
英特尔还宣布,其下一代花岗岩岭和Sierra Forest处理器将被命名为“Xeon 6”,取代使用代际术语的旧营销语言,如“第五代至强可扩展”型号。
英特尔首席执行官PAT GELSINGER展示即将推出的至强6处理器晶圆。
新的Xeon 6处理器将包含对MXFP4数据格式的软件支持,与使用FP16的第四代至强相比,下一代令牌延迟减少了6.5倍,能够运行700亿参数Llama-2大型语言模型。
在演示中,英特尔提供了有关高迪3架构、性能和致力于将其推向市场的OEM的新细节,并吹捧了一些新客户。该公司引用了十几个使用其Gaudi 3加速器的“合作伙伴”,包括Naver Corp.、Bosch、NielsenIQ和Seekr。
历史上,英伟达一直以GPU和TPU引领AI硬件市场,这些GPU是为了为大型语言模型和AI应用程序提供动力和训练而创建的。英特尔将其Gaudi 3定位为英伟达H100 GPU的直接竞争对手。
Gelsinger说,与Nvidia H100相比,Gaudi 3的平均推断率提高了50%,功率效率平均提高了40%——“成本只有一小部分,”Gelsinger说。据英特尔称,高迪3加速器可以为起诉BF16浮点格式的计算机内存系统提供四倍的人工智能计算,以及高迪2的内存带宽的1.5倍;与前代相比,它还提供了两倍的网络带宽。
英特尔使用台积电的5纳米工艺构建了Gaudi 3芯片,这些芯片现在可供原始设备制造商(OEM)使用,包括戴尔、HPE、联想和Supermicro用于人工智能数据中心市场。该芯片旨在与数千个其他芯片一起串在数据中心内的机架上。
去年,英伟达控制了约83%的数据中心芯片市场,其余17%的大部分由谷歌的TPU主导。
宾夕法尼亚大学工程与应用科学学院教授Benjamin Lee表示,英特尔的轨迹并不容易,与英伟达竞争面临挑战。
李说:“英特尔长期以来主导了高性能CPU的设计和制造,但最近的挑战反映了计算领域的根本变化。”“数据中心将继续大量部署CPU以支持互联网服务和云计算,但越来越多地部署GPU来支持人工智能,英特尔一直在努力设计有竞争力的GPU。”
英特尔的独特优势在于,它是一家可能在制造先进的芯片方面可能与台积电竞争的芯片制造商,“使其在英伟达和AMD等竞争对手中占了上风,”李说。“英特尔尚未成功建立和发展像台积电这样的铸造业务。鉴于许多技术公司现在设计自己的高性能处理器,这对其未来至关重要。”
李说,英特尔也没有跟上台积电在晶体管技术方面的进步,也没有跟上以精确和效率满足与台积电铸造厂相匹配的合同的能力。英特尔目前缺乏制造能力来满足自己的制造需求和更大的客户群。
Lee指出,英特尔首席执行官制定的路线图是明智的,但“百万美元的问题是,它是否能够利用《CHIPS法案》中新注入的联邦资金来有效执行它。”
2022年8月,国会通过了《芯片和科学法案》(CHIPS法案),以解决新冠肺炎疫情导致的处理器短缺问题。该立法为美国商务部(DoC)提供了527亿美元,用于CHIPS for America计划下的一套项目,以“振兴”美国在半导体研究、开发和制造方面的地位。英特尔准备获得约85亿美元的这些资金。
英特尔的Gelsinger宣布,CHIPS法案使该公司的第一批芯片能够从去年位于亚利桑那州钱德勒的200亿美元的Ocotillo制造设施中出现。
然而,目前,《芯片法案》几乎没有为Nvidia的GPU、苹果的NPU和谷歌的TPU等芯片设计师提供直接支持,所有这些在美国历史上都很繁荣。
在其愿景会议期间,英特尔还提供了企业人工智能所有领域的下一代产品和服务的更新,包括其新的英特尔至强6处理器,该处理器可以运行检索增强生成流程,简称“RAG”
RAG通过使用组织的专有数据和信息创建更定制和更准确的genAI模型;这可以大大减少已知的人工智能问题,如错误输出和幻觉。
Gelsinger说明了genAI如何使用从互联网上抓取的数据,这些数据没有实时更新。
使用标准的LLM,“也许如果你真的很好,你正在更新和再培训......也许每周一次,也许每月一次?”他说。“当您将[LLM]与通过矢量数据库、流式非结构化数据库的实时数据相结合时,我们认为这非常强大。”
英特尔还表示,本季度将为其用于数据中心、云和边缘目的的下一代处理器发布一个新品牌。与第二代英特尔至强处理器相比,具有高效核心(E-core——以前代号为Sierra Forest)的英特尔至强6处理器将提供高达2.4倍的每瓦性能和2.7倍的机架密度。
他将英特尔过去十年的创新描述为平凡的,称该公司使PCIe更快一点,逐步升级了DDR内存,并在将芯片运出门之前为芯片添加了“几个内核”。
“无聊,”Gelsinger说。“人工智能正在让一切变得令人兴奋,就像我们从未见过的那样。计算的基本方向是自互联网以来技术的最大变化,它将重塑我们和您业务的各个方面。”
他说,到本十年结束时,半导体的可寻址市场总额预计将从现在的6000亿美元增长到超过1万亿美元。
为此,Gelsinger还宣布,该公司的下一代Core Ultra客户端处理器系列(代号为Lunar Lake)将于今年晚些时候推出。这些处理器将拥有超过100个平台每秒操作(TOPS)和超过45个神经处理单元(NPU)TOPS,适用于下一代AI PC。
Gelsinger告诉亚利桑那州凤凰城一个拥挤的礼堂:“英特尔的使命是将人工智能带到任何地方。”“我对下一个平台感到非常兴奋。你知道,在竞争对手发布他们的第一个[AI]芯片之前,我们正在推出第二个——具有3倍人工智能性能的月球湖。而且,第三代在[制造]中。”
Gelsinger将支持人工智能的PC与Wi-Fi进行比较,他说有一天,没有人工智能功能的PC将被视为过时。他说:“Microsoft Copilot、AI开发人员、Zoom和Teams总结、翻译、语境化。”“每个应用程序都在经历人工智能改造。你会错过的。简而言之,是时候刷新你的电脑了。”
英特尔还在为人工智能结构创建开放式以太网网络模型,并引入了一系列人工智能优化的以太网解决方案。该公司正在通过超以太网联盟(UEC)设计大型放大和扩展的AI结构。
英特尔在一份声明中表示:“这些创新使日益庞大的模型能够进行培训和推理,每一代规模都会增长一个数量级。”“阵容包括英特尔AI NIC(网络接口卡),用于集成到XPU的AI连接芯片,基于Gaudi的系统,以及英特尔铸造厂的一系列软和硬参考AI互连设计。”