人工智能 频道

攻防升维:AI重塑大模型时代的安全体系

  【IT168 原创】在人工智能技术迅猛发展的今天,大模型不仅成为企业数字化转型的核心引擎,也正在彻底改写网络安全攻防的规则。传统的安全防护体系,在面对基于AI发起的新型攻击时,往往显得力不从心。攻击者利用大模型生成隐蔽性极强的钓鱼邮件、实施提示词注入、绕过内容过滤机制,甚至发起供应链攻击,这些都迫使企业必须重新审视自身的安全架构。

网宿科技安全事业部高级总监 胡钢伟

  近日,网宿科技安全事业部高级总监胡钢伟在接受IT168 记者专访时指出,AI正在驱动攻击链的智能化、自动化和专业化演进,企业需从模型评估、应用管控、数据保护等多维度构建新一代防御体系。此外,在网宿安全发布的《2024年网络安全态势报告》中,也从攻击手法、行业风险、防御范式等角度,系统阐释了AI对安全产业的重构路径。

  攻击链重构:传统防御体系全面失效

  从DeepSeek等大模型广泛落地之初,攻击事件便如影随形。胡钢伟坦言,最早出现的是DDoS攻击,由于用户访问量激增,模型服务一度因超时、宕机而影响正常使用。尽管传统防护在流量清洗方面已有成熟方案,但大模型特有的文本交互模式,仍要求针对UDP/TCP等协议层攻击做专门的规则优化。

  然而,更严峻的挑战还在后面。随着攻击者对AI技术的掌握日益深入,他们开始采用更隐蔽的策略。“提示词注入(Prompt Injection)已成为典型手段,”胡钢伟举例道,“通过自然语言‘催眠’模型,使其绕过安全规则,泄露底层敏感数据甚至管理员凭证。”这类攻击因其高度拟人化,传统基于特征匹配的防御机制几乎完全失效。

  此外,AI生成的钓鱼邮件在语言自然度、欺骗性方面远超人工制作,大幅提高攻击成功率。更值得警惕的是,由于大量企业通过API接入大模型能力,模型本身的安全漏洞可能演变为供应链攻击的入口点,进一步渗透至传统业务系统,甚至通过软硬件供应链扩散恶意代码。

  据网宿安全监测数据显示,2024年T级DDoS攻击达229次,同比增长近10倍,其中最长单次攻击持续63分钟。恶意爬虫流量较2023年增长30%,达到3200亿次,票务行业首度超过电商成为爬重灾区。这些数据背后,折射出攻击正在向规模化、智能化、强对抗跃迁。

  防御新范式:从WAAP、SASE到MSS的全栈赋能

  面对新型威胁,企业应当从何补起?胡钢伟强调,必须将安全能力嵌入“开发-训练-部署-应用”的全生命周期。首当其冲的是模型本身的安全评估。网宿参考信通院、网信办及OWASP、LLM Top10等标准,构建覆盖六大类20多项指标的评估体系,包括提示词注入、越狱攻击、越权输出、信息泄露等场景。

  他透露,在模拟攻击测试中,团队会专门设计对抗性样本,通过人机交互检验模型在误导性输入下的行为鲁棒性。“我们不仅测试模型‘会不会出错’,更关注它‘会在哪些场景下出错’,以及出错的业务影响。”

  在实际落地中,网宿提出“AI驱动的体系化主动安全”,将其核心产品线WAAP(Web应用与API防护)、SASE(安全访问服务边缘)和MSS(安全托管服务)深度融合,形成覆盖云、网、边、端的协同防御体系。

  • WAAP聚焦Web应用安全,融入AI语义分析引擎,增强对提示词注入、API滥用等新型威胁的检测与拦截能力;

  • SASE以零信任为核心,整合SD-WAN、终端安全、数据防泄露等功能,尤其适合多分支、出海企业的办公安全需求;

  • MSS则提供平台化安全运营服务,通过AI赋能告警聚合、事件研判与响应闭环,实现从“人工驱动”到“人机共智”的升级。

  在行业定制化方面,网宿采用“通用+专项”双轨模式。以医疗行业为例,团队曾为某国际医疗企业的智能问诊系统提供安全评估。该系统基于大模型构建,接入大量患者数据与专业医疗信息。通过模拟多种角色(如患者、医生、管理员)的提示词注入,团队成功识别出多个高风险漏洞,避免了因模型输出误导性诊断建议可能带来的严重后果。

  “不同行业的数据敏感性、交互逻辑、监管要求差异巨大,安全评估必须贴近业务真实场景,”胡钢伟表示,“这正是定制化评估的价值所在。”

  AI赋能防御:从“辅助驾驶”走向“自动驾驶”

  在攻击端利用AI的同时,防御体系同样需要引入AI能力,实现攻防对等的“智能力量升级”。胡钢伟介绍,网宿主要在三大场景推进AI赋能防御:威胁检测、数据分类分级与安全运营。

  在威胁检测层面,AI擅长理解自然语言,能有效识别出传统规则引擎难以捕捉的语义型攻击。在数据安全方面,大模型可自动化完成数据分类、分级与风险评估,显著提升处理效率。而在安全运营中,AI问答机器人能够解读告警、辅助研判,甚至提供处置建议,大大缓解了安全人员的告警疲劳。

  但他也坦言,当前AI在安全领域的应用仍处于“辅助驾驶”阶段。“完全依赖AI做自动化决策仍不现实,还需应对模型幻觉、偏见、不可解释性等问题。”网宿采取“人机协同、循序渐进”的策略,从辅助研判入手,通过持续反馈优化算法,逐步向自动化响应进阶。

  在日前敦煌网基础架构总监窦东员的公开演讲中也提到,AI能否助力安全左移?“一定能,但需以辅助驾驶为始,自动驾驶为终。”他指出,企业应优先在确定性场景中引入AI,如日志分析、异常命令执行、Web攻击特征识别等,逐步积累正反馈,再拓展至更复杂的决策环节。

  从更长远的视角看,胡钢伟认为AI将推动安全产业向“智能化、平台化、服务化”演进。未来的安全体系将更像一个“智能调度平台”,通过AI Agent与标准化协议(如MCP)整合多种能力,实现端到端的自动化防护。而云端融合、订阅式服务的模式,也将更符合企业对灵活性、扩展性的需求。

  结语:安全是发展的基石,更是AI时代的核心能力

  在胡钢伟看来,网宿作为具备CDN、边缘计算、算力与安全整体能力的厂商,其优势在于能打通从底层算力、边缘节点到上层应用的全栈能力,实现更协同的AI安全布局。而基于云原生的SaaS化安全服务,则让企业能够更灵活地调用云端AI能力,无需受限于本地硬件资源。

  尽管AI正在剧烈冲击现有安全体系,但也同时孕育着新一轮的进化契机。未来的安全防护,将不再局限于被动防御,而是深度融合AI的主动、智能、自动化能力,最终成为企业数字化转型中的核心赋能环节。在这个重构的过程中,只有将安全真正植入技术和业务的每一个环节,才能在这场进化中占据先机。

0
相关文章