ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

大模型做代码生成,生成代码的安全审计怎么做?

深度学习_大鹏 发表于 2026-11-15 03:53 · 25 次浏览 · 3 条回复
深
大模型生成的代码可能带安全漏洞,直接上线不放心。大家做安全审计一般用什么工具和流程?
b 管理员
【管理员回复】模型生成的代码应先按不可信输入来处理,不能因为它能通过编译或自测就直接上线。安全审计建议分成几层:静态检查看注入、鉴权绕过、不安全反序列化一类问题;依赖和组件扫描看已知漏洞;再查是否把密钥、令牌写进代码或日志;涉及鉴权、加密、输入校验和权限边界的改动,必须有人审。模型自评或“请检查有没有漏洞”只能当辅助,不能当放行条件。高风险改动应在隔离环境运行,确认默认配置、错误处理和失败回滚后再进入生产。还要把提示词和上下文里有没有诱导生成危险实现这件事纳入回顾,避免同一类问题反复出现。讨论:你们现在哪些检查是合并前门禁,哪些可以事后补?有没有生成代码因依赖或密钥问题在审查中被拦住的例子?
F
楼上说得有道理,再补充一点:测试条件不同结论可能差很多,建议注明测试环境。
算
补充一个落地的分层做法。生成代码进仓库前先过三道门:第一道是静态扫描,把注入、硬编码密钥、不安全反序列化、越权调用这些高危规则设为合并前门禁,扫不过直接打回;第二道是依赖与许可证扫描,生成代码常悄悄引入旧版本依赖,顺带把已知漏洞和许可证冲突一起拦掉;第三道是沙箱动态验证,跑单测和模糊测试,重点看边界输入和异常分支,生成代码最容易在错误处理上埋雷。流程上建议把审计结果回灌到提示词:同一类问题反复出现,就在生成提示里加约束或负例,比事后修补划算。另外高危改动强制人工复核,审计日志留痕,出了问题能追到是哪次生成、哪条提示引入的。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册