未来，首席信息安全官 (CISO) 将面临更多 AI 挑战。以下是制定 AI 支持的网络防御策略时需要注意的一些关键问题。
在旧金山举行的RSA大会上，当你试图避开4.1万名参会者时，你会注意到街上那些Waymo的自动驾驶汽车总是会吸引人们的目光。没错，那辆车上根本就没有司机！
Waymo 汽车旨在通过完全自动驾驶技术彻底改变交通运输，从而提供更安全、更便捷、更可持续的出行方式。
在RSA大会上，几乎每家网络安全供应商都在宏观层面上大肆宣扬其产品和服务的AI功能，这在宏观层面上不难看出。他们的宣传语与Waymo的类似：这些AI赋能的网络工具将更安全、更便捷、更可持续。
事实上，我们在当前的产品和产品路线图中看到的是“更多”的人工智能——不仅在 RSA，而是在当今的整个行业。
这一前景对首席信息安全官 (CISO) 来说极具吸引力，尤其是在他们正面临网络资源严重短缺的现实背景下。许多公司已开始寻求人工智能 (AI) 来弥补其网络技能方面的差距。但人工智能安全的未来尚未成型。未来将如何发展以及如何影响组织，这应该是当今每位 CISO 最应该关注的问题。
RSA 提供了一些有趣的早期见解，CISO 在进一步制定实施 AI 防御和确保企业使用 AI 的策略时应该牢记这些见解。
塑造人工智能安全的未来
我参加了一个清晨的小组讨论， Paladin Capital 的风险合伙人兼战略顾问Jamil Jaffer 主持了一场热烈的讨论。与 Jaffer 一同登台的还有 Anthropic 的首席信息安全官 Jason Clinton、OpenAI 的首席信息安全官 Matt Knight 以及谷歌威胁情报副总裁 Sandra Joyce。
该小组探讨了产业界与政府之间的合作对于确保人工智能系统安全的重要性。此外，围绕如何利用人工智能工具抵御网络攻击和加强网络防御的讨论，也提供了超越讨论范畴的思考素材。
以下是我从本次讨论中收集到的有关人工智能在网络安全领域发展的关键见解，以及我自己对它们如何影响未来 CISO 和安全团队的快速评论。
1. 人工智能为网络安全带来了复杂的二重性，它可能为攻击者带来不公平的优势，同时也为防御者带来显著的利益。
目前看来，防守方占据优势。但这场战斗才刚刚开始。
2. 防御者看到了可以加速恶意软件分析和漏洞扫描的人工智能工具的发展，但恶意行为者可以利用相同的工具。
这是一把双刃剑，也可能对我们造成伤害。人工智能已经成为攻击性安全专家的强大工具，用于漏洞评估和渗透测试，但通过使漏洞搜寻更加民主化，生成式人工智能也降低了攻击者的进入门槛。
3. 随着人工智能模型变得越来越智能，复杂工程的成本不断降低，防御者可以在威胁形势可见性和自动化安全措施（如渗透测试和漏洞预防）方面获得优势。
这些功能持续不断地给首席信息安全官 (CISO) 和团队带来压力，难以有效管理。尽管生成式人工智能有助于加快或简化渗透测试，但它也使漏洞修复变得更加困难。
4. 尽管人们担心人工智能被用于高级社会工程和信息攻击，但目前的观察表明，人工智能驱动的攻击在复杂性和破坏性方面还没有超越人类的能力。
简单来说，得益于新一代人工智能 (gen AI)，网络钓鱼攻击现在可以拥有更精准的拼写和语法，因此更难被发现。然而，即使网络钓鱼不再是网络攻击者的初始攻击途径，生成式人工智能已经开始增强社会工程学攻击，它还能帮助模仿写作风格，避免传统的网络钓鱼危险信号，并基于公开数据提供更个性化的服务。
5. 即将出现的具体威胁包括可能被民族国家利用的自动漏洞发现，以及在网络内自主移动的多态性或自适应恶意软件的可能性。
这些新技术可能会被流氓民族国家利用，并构成重大风险，因为它们可以自主识别弱点并适应规避检测，从而削弱我们传统的网络安全防御机制。2023年，ChatGPT 刚一出现就发起了概念验证攻击，该攻击会生成多态代码来规避端点检测和响应系统。
6. 针对夺旗演习对人工智能模型的早期评估表明，它们可以快速学习基本的网络安全技能，但更复杂的现实世界攻击模拟仍然构成重大挑战。
这一差距凸显了人工智能在能够可靠地防御或模拟高级网络威胁之前仍需持续发展。现在还远不能超越安全运营中心的初级助理的水平。
7. 正在探索在威胁情报共享和在受控环境中测试的攻击性人工智能模型的开发方面的合作，以便更好地了解和应对未来的威胁。
这些主动方法有助于增强各部门的韧性，并确保防御策略与先进的人工智能驱动的威胁同步发展。但在这里，合作至关重要。美国特朗普政府最近削减了网络威胁信息共享政策，并将威胁防范工作转移到州和地方政府。
8. 人工智能正被用于快速处理大量情报数据，以增强安全分析师的工作，但人类的监督对于决策仍然至关重要。
虽然人工智能可以显著加快数据分析速度并帮助更快地检测威胁，但它仍然缺乏我们的模拟同事所拥有的人类判断力、情境意识和道德推理能力。
9. 自主代理正在兴起，它们可以在准备环境中执行典型的网络防御任务，甚至进攻行动。
这是安全工作流程迈向更高自动化的重要一步，而这些工作流程此前一直基于手动操作。Agentic AI承诺提供自主决策能力，这对安全团队来说可能是一个福音，但其自主性也可能弊大于利——而且它们在企业其他领域的存在也将成为首席信息安全官们需要解决的另一个难题。
10. 尽管不受约束的人工智能模型落入对手手中存在潜在风险，但安全社区强调负责任的开发、威胁情报共享以及基本安全实践对于保持防御优势的重要性。
这一点至关重要，因为它凸显了安全界积极主动地降低人工智能滥用风险的做法。我们必须携手合作，塑造一个造福所有人网络防御的人工智能未来。
展望未来
企业和政府部门一直在努力通过新的风险框架和政策来应对这些挑战。人们深切担忧，人工智能工具与内部威胁相结合可能会带来重大风险。
我们团队采用这些工具的能力仍然受到自身对如何使用人工智能缺乏理解的限制，这种趋势终将得到克服。但正如前文所述，人工智能的双重用途——既可用于防御，也可用于攻击——意味着等待将面临更大的风险。
如果我们等待，就等于接受攻击者获得时间和空间优势的风险。当然，攻击者不必担心“负责任的人工智能”使用政策。
因此，首席信息安全官需要找到一种方法来提高他们的团队对人工智能如何加强安全性以及如何使用它来填补空白的认识，不仅是在当前使用的安全工具方面，还包括充分利用这些工具的技能方面。
网络安全认证证书 AI安全现状 DDoS攻击者使用的工具 DDoS攻击的常见目标 如何快速抵御DDoS攻击 预防DDoS勒索攻击 勒索DDoS攻击如何运作 勒索DDoS攻击简史 勒索DDoS OSI网络模型与CP/IP网络模型 OSI网络模型的优势 OSI网络模型详细解释 OSI模型为何如此重要 什么是OSI模型 常见网络协议及其功能 什么是 CDN CC攻击是什么