由于传统工具无法提供 AI 安全保护，防火墙可能很快就需要升级
分析人士建议，我们需要从传统的 WAF 和 API 网关转向针对 LLM 和代理 AI 工作流的专用安全控制。
网络安全工程师正在开发一种新型安全工具，专门设计用于用户和人工智能模型之间，不仅可以检查流量模式，还可以检查意图和上下文。
Akamai 在 RSA 2025 大会上展示了其 AI 防火墙，它就是其中一款工具，能够将早期客户平台上超过 10 万个请求中的 6% 标记为“有风险”。这些有风险的请求包括敏感数据泄露、恶意响应和快速注入尝试。
此次发布引发了人们对需要从传统的Web 应用程序防火墙(WAF) 和 API 网关转向LLM和代理 AI工作流专用安全控制的讨论。
传统安全工具难以跟上时代步伐，因为它们不断遭遇由 LLM和代理 AI 系统引入的威胁，而这些威胁是传统防御机制无法阻止的。从即时注入到模型提取，AI 应用程序的攻击面异常奇特。Gartner
杰出副总裁分析师 Avivah Litan 表示：“WAF 和 API 网关等传统安全工具在很大程度上不足以保护生成式 AI 系统，主要是因为它们无法指向、读取和与 AI 交互进行交互，也不知道如何解读这些交互。”
人工智能威胁可能是零日威胁
人工智能系统和应用程序虽然在自动化业务工作流程以及威胁检测和响应例程方面能力超群，但也带来了一些前所未有的问题。安全威胁已从SQL 注入或跨站脚本攻击演变为行为操纵，攻击者会诱骗模型泄露数据、绕过过滤器或采取不可预测的行为。
Gartner 的 Litan 表示，虽然像模型提取这样的人工智能威胁已经存在多年，但有些威胁却非常新，难以应对。“一些不遵守规则的国家和竞争对手多年来一直在对他人创建的最先进的人工智能模型进行逆向工程。”
她补充道：“针对 GenAI 的特定威胁，例如即时注入，是新的，据我们所知，还不常见。问题是，我们不知道自己不知道什么——如果企业不部署工具来寻找这些威胁，他们可能无法意识到这种新的威胁载体是如何被利用的。”
然而，企业战略集团 (ESG) 首席分析师约翰·格雷迪 (John Grady) 指出，这些威胁确实存在。“我们已经看到过针对 ChatGPT/OpenAI 等公共 GenAI 应用的此类攻击案例，所以这些攻击并非空穴来风，”他说道。“许多企业正在快速推进内部构建的 AI 应用，因此，随着这些应用的开发和向公众或整个组织内部开放，这将成为日益严重的问题。”
两者都强烈地感觉到需要一批针对生成式人工智能系统的单独安全工具，因为传统工具无法理解或过滤自然语言提示，或强制执行响应的护栏。
防火墙助力人工智能
为了响应人工智能安全对自适应、情境感知保护的需求，Akamai 的人工智能防火墙可以扫描并响应人工智能应用程序、LLM 和人工智能驱动 API 所面临的威胁。该解决方案声称具有实时人工智能威胁检测功能，以及风险缓解功能，例如过滤人工智能输出以防止有害内容、幻觉和未经授权的数据泄露。
Akamai 应用安全高级副总裁兼总经理 Rupesh Choksi 表示：“我们相信，所有全球企业都需要专门针对 LLM 和 AI 交互的安全工具。WAF 仍然是基础，但 AI 带来了一类新的威胁，需要专门的防护。”
据他介绍，Akamai 人工智能防火墙的一些早期采用者表示，他们的公司没有使用人工智能，他们在概念验证 (POC) 运行中发现对 LLM 进行了许多 API 调用。
Grady 在谈到该产品时表示：“这类解决方案的目标是将 GenAI 用于内部开发的应用程序。我认为，随着时间的推移，这些功能即使不能完全融入 WAF 等传统应用程序安全工具，也能紧密集成，这很自然。”
转向专用安全堆栈？
ESG 的 Grady 谈到人工智能安全的总体发展方向时表示：“人工智能领域发展如此迅速，差异如此巨大，既蕴含着巨大的机遇，也蕴含着巨大的风险。我们看到大量初创公司以及现有供应商推出的新产品来解决这个问题，这合情合理。但随着时间的推移，随着人工智能成为我们一切工作的基础，这些安全控制措施必须更好地集成到整个堆栈中——无论是用于安全访问、应用程序安全、数据安全、身份识别还是其他任何方面。”
Litan 也不认为这类产品会形成一个独立的安全市场。“我认为，这些功能只是一些渐进式的重要功能，现有的安全厂商必须构建或收购这些功能才能保持竞争力。”
除了 Akamai 之外，我们已经看到了一些专注于人工智能安全的战略举措，例如 Palo Alto收购 Protect-AI以解决特定于人工智能的安全风险，思科收购 Robust Intelligence以提高威胁防护和人工智能流量可见性。
最近， ZScaler和Securiti等供应商也原生添加了旨在保护 AI 工作流程的功能。
Grady 和 Litan 都一致认为，欧盟《人工智能法案》等人工智能监管改革预计将对此类工具的需求产生积极影响。Litan 补充道：“金融和医疗保健等受监管行业已经受到严格的数据隐私法（例如 CPRA、PCI DSS）的约束，我们将看到这些行业加速采用（此类工具），以避免法律和声誉风险。”
混合云安全性 AI防火墙 思科修补严重性漏洞 网络安全认证证书 AI安全现状 DDoS攻击者使用的工具 DDoS攻击的常见目标 如何快速抵御DDoS攻击 预防DDoS勒索攻击 勒索DDoS攻击如何运作 勒索DDoS攻击简史 勒索DDoS OSI网络模型与CP/IP网络模型 OSI网络模型的优势 OSI网络模型详细解释 OSI模型为何如此重要 什么是OSI模型 常见网络协议及其功能 什么是 CDN CC攻击是什么