大型语言模型与漏洞发现的双刃剑

关键要点

大型语言模型LLMs在发现零日漏洞、绕过检测和编写攻击代码方面的应用，降低了渗透测试人员和攻击者的入门门槛。这些工具正在改变漏洞猎人的技能，使其能更快速地发现软件漏洞和编写漏洞利用代码。LLMs不仅被攻击者使用，同时也被道德漏洞猎人和渗透测试人员用于更有效地报告漏洞。尽管LLMs展示了在漏洞发现中的强大潜力，但它们仍有局限性，包括生成错误信息的风险和对复杂问题处理能力的不足。

信用 Gorodenkoff / Shutterstock

LLM对漏洞猎人的影响

生成式AI正在显著影响各种商业流程，优化并加速工作流，某些情况下甚至降低了专业知识的基础要求。漏洞猎人也在这一过程中受益于LLMs这些工具。它们帮助黑客无论是“好黑客”还是“坏黑客”发现软件漏洞并更快编写攻击代码，同时填补了知识空白。

白鲸加速器最新版下载

这种漏洞猎取技能的普及可能重塑威胁环境，通过降低零日攻击的入门门槛，使更多攻击者能够开发并运用这些攻击零日攻击是针对先前未知和未修补的漏洞。

历史上，这些漏洞利用通常与资金充裕、技术娴熟的威胁行为者相关，例如国家级网络间谍组织及少数具有自我开发能力或财力在黑市购买漏洞利用的网络犯罪团伙。

专家观点

“LLMs和生成式AI可能对零日漏洞生态系统产生重大影响，”网络安全作家、HypaSec咨询公司的创始人Chris Kubecka表示。她在波黑的DefCamp大会上发表讲话后通过电子邮件对CSO表示：“这些工具可以协助进行代码分析、模式识别，甚至自动化部分漏洞开发过程。”

Kubecka补充道：“通过快速分析大量源代码或二进制文件并识别潜在漏洞，LLMs可以加速零日漏洞的发现。此外，提供自然语言解释和建议的能力降低了理解漏洞创建的门槛，可能使这些过程变得更容易被更广泛的受众接受。”

相对而言，这些LLM同样被道德漏洞猎人和渗透测试人员用于更快速地发现漏洞，并报告给相关供应商和使用受影响产品的组织。安全和开发团队也可以将LLMs与现有的代码分析工具集成，以识别、分类和修复漏洞，从而在生产环境中之前消除隐患。

LLM在漏洞发现中的效率与局限性

使用LLMs进行漏洞发现的成功程度因以下因素而异：

模型的定制化程度及其是否与传统分析工具结合使用模型中是否存在限制特定响应类型的安全协议被分析代码的大小与复杂性，以及其中漏洞的性质模型在单次提示中能够处理的输入大小限制生成虚假或不正确响应的可能性，即“幻觉”

尽管如此，专家们认为，即使是出厂设置的LLMs在处理如跨站脚本XSS和SQL注入等不太复杂的输入清洗漏洞时也能表现出色。这些模型已经在网络信息包括安全编码实践、开发人员支持论坛、漏洞列表、黑客技术和漏洞示例上经过了广泛训练。这种固有能力让它们能够成功发现不复杂的漏洞。

例如，Kubecka构建了一个名为Zero Day GPT的定制版ChatGPT。使用这个工具，她在两个月内识别出大约25个零日漏洞，而这个任务过去可能需要数年时间才能完成。其中一个漏洞是在Zimbra这个开源协