AutoSafeCoder：一个通过静态分析与模糊测试保障大语言模型代码生成安全的多智能体框架
论文信息
论文信息
- 作者：Ana Nunez, Nafis Tanveer Islam, S. Jha, Peyman Najafirad
- 发布：2024-09-16
- 原文：arXiv:2409.10737
摘要
近年来，利用大语言模型（LLM）进行自动代码生成的进展使我们离完全自动化的安全软件开发更近了一步。然而，现有方法通常依赖单一智能体进行代码生成，难以生成安全且无漏洞的代码。传统的基于LLM的程序合成主要关注功能性正确性，往往忽略了运行期间发生的关键动态安全影响。为应对这些挑战，我们提出了AutoSafeCoder，一个多智能体框架，利用由LLM驱动的智能体进行代码生成、漏洞分析以及通过持续协作进行安全增强。该框架包含三个智能体：负责代码生成的编码智能体、识别漏洞的静态分析智能体，以及通过基于变异的模糊测试方法进行动态测试以检测运行时错误的模糊测试智能体。我们的贡献在于，通过在LLM代码生成过程中将动态测试与静态测试迭代集成，从而提升安全性，确保多智能体代码生成的安全性。使用SecurityEval数据集的实验表明，与基线LLM相比，代码漏洞减少了13%，且功能未受影响。