当ChatGPT掀起全球热潮，当Sora用视频震惊世界，我们为AI的“大脑”惊叹不已。然而，支撑这些奇迹的“心脏”与“骨骼”——算力基础设施，却鲜少被聚光灯照亮。模型参数如滚雪球般膨胀，对算力的需求正以指数级飙升。一边是创新应用的狂飙突进，另一边却是GPU紧缺、能耗暴涨、算力调度复杂的现实困境。这场静默却至关重要的算力进化，走到了怎样的分水岭？

浪潮数据云计算产品部副总经理 张明灿

　　近日，浪潮数据云计算产品部副总经理张明灿在接受IT168专访时，聚焦算力调度与边缘协同两大核心战场，分享了浪潮云海的具体实践与解决方案。

　　智能调度，让算力“随业务流动”

　　面对混合云与多云环境下算力分散的挑战，实现跨数据中心的统一调度与动态分配是首要课题。张明灿指出，关键在于构建“统一管理+算力池化+智能调度”的体系。浪潮云海InCloud AIOS通过分层解耦的异构算力调度框架，将不同来源、架构的算力资源整合为统一的“资源湖”，并对上层应用屏蔽底层差异，最终目标是实现“算力随业务流动”。

　　这就像在一条复杂的高速公路上，既要保证救护车（高优先级任务）的绝对优先通行，又要让长途货车（长周期任务）高效运转，一个比喻可以解释调度系统面临的复杂性。为此，浪潮云海采用了“静态资源分区”与“动态抢占调度”协同的策略。系统通过硬件级算力围栏为高优先级的实时推理任务设立“专属的保障型资源池”（Guaranteed resource pool），确保其确定的低延迟表现。同时，允许长周期训练任务运行在“可灵活调配的车道”上。当有突发的高优先级任务需要资源时，系统会向长任务发送信号，触发其保存当前状态（逻辑快照），暂时让出部分资源，待高峰过后再恢复运行，从而在保障关键业务与提升整体利用率之间取得精妙平衡。

　　当AI任务需与传统HPC、大数据任务共享集群时，资源争抢问题更为突出。张明灿介绍，浪潮云海通过资源池化物理隔离的方式，为不同类型任务划分专属算力节点，例如为AI任务单独分配GPU资源池，从根本上避免算力交叉干扰。同时，系统能够基于各资源池的实时负载，动态调度闲置机器，实现跨池灵活调度，在保障各类任务SLA的基础上，最大化资源整体利用率。

　　关键延伸：当算力从云端“下沉”到指尖

　　在智能制造、自动驾驶等对实时性有严苛要求的场景中，算力必须贴近数据源头。张明灿指出，边缘与云端的协同是一种 “功能互补、层级耦合” 的分布式计算架构。其本质在于：将实时任务下沉至边缘，将非实时及全局优化任务上移至云端。

　　边缘节点如同敏捷的前哨，主要负责处理对延迟极度敏感的实时数据、在线推理与即时控制，以满足工业生产的精准节拍或车辆行驶的安全需求，同时能对数据进行预处理与聚合，提升往云端传输的带宽效率。云端则扮演强大的中枢，负责利用全局数据进行复杂的模型训练、迭代验证，并进行统一的版本管理与策略下发。二者通过模型与数据的持续双向流动，共同构成一个能持续进化、自适应优化的智能系统。

　　模型压缩与轻量化是这项协同得以实现的核心前提。张明灿介绍，经过近十年发展，该领域已形成量化、剪枝、知识蒸馏、神经架构搜索四大主流技术方向。目前，量化技术因实现简单、精度损失可控且硬件支持良好，已达到商用成熟阶段；剪枝与知识蒸馏技术也已进入商用级成熟阶段，能大幅压缩参数量并保持精度；神经架构搜索则处于产业化加速期。整体而言，基础技术已具备大规模落地条件，为边缘AI提供了关键支撑。

　　面对边缘设备有限的算力与内存，模型的动态加载与增量更新至关重要。张明灿阐述了具体方法：动态加载采用模型结构解耦与按需加载，将大模型拆解为核心基础模型和多个可插拔功能模块，边缘设备根据实时任务需求，仅加载必要的模块。增量更新则采用基于参数差量的范式，云端仅对模型需调整的参数生成一个极小的增量包，边缘设备接收后可在业务不中断的前提下，完成本地模型的融合与更新，极大地节省了带宽和资源。

　　随着边缘节点规模扩大，其运维监控体系面临新挑战。张明灿认为，必须从传统集中式模式向云边协同的分布式架构演进。云端提供全局可视化管理与调度，边缘节点则部署轻量级代理，主动同步状态以适应网络不稳定的环境。监控数据在边缘完成实时分析与异常初判，仅将高价值摘要信息上传，实现“边缘自治，云端全局优化”的高效模式。

　　展望未来，张明灿明确提出 “边缘算力云”是必然的演进方向。其本质是通过轻量级虚拟化、算力网络等技术，将分散的边缘节点资源池化与云原生化，形成一个统一管理、可灵活调度的分布式算力市场，使标准化云服务能力得以延伸至数据产生的最后一公里。

　　写在最后

　　与张明灿的对话清晰揭示，当前AI算力基础设施的进化，其攻坚点已不在于单纯的硬件堆砌，而在于如何通过软件与系统的智慧，让既有算力变得更“聪明”、更“弹性”、更“贴近”业务。无论是云端复杂的调度艺术，还是边缘高效的协同机制，其目标一致：让每一份算力都能在合适的时间、合适的地点，发挥出最大的价值。这场发生在基础设施层的静默变革，正是AI规模化深入产业腹地的坚实基石。