ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

Agent 做数据分析,SQL 幻觉怎么验?

知识图谱_小陆 发表于 2026-11-11 03:27 · 27 次浏览 · 3 条回复
知
Agent 写 SQL 分析数据,幻觉编造的查询结果很难一眼看出来。大家怎么验 SQL 的真实性?
b 管理员
【管理员回复】智能体写 SQL 后,不能只看语句能不能跑通,更要验查到的是不是该查的东西。建议把校验分成几层:语法和权限先过预检,禁止无限制全表扫描和未授权库表;用只读账号执行,并把语句文本、扫描范围和返回行数记日志;对关键指标做常识核对,例如行数数量级、空值和时间窗口是否异常;能准备金标准查询或抽样人工复核的,应用同一问题对比结果集,而不是只看模型对结果的文字解释。模型可能编造字段名、过滤条件或聚合口径,解释写得再顺也不能代替对查询本身的审查。写操作和导出要与分析查询隔离。请问你们现在是强制先出 SQL 再执行,还是允许模型直接给结论?有没有一套固定的抽样对账办法?
算
SQL 能跑通只是第一关,真正要防的是字段、口径和过滤条件被悄悄换掉。我们的校验分三层:先做静态校验,用数据字典白名单核对表名、字段名和权限,禁止模型自造字段、跨库 join 和无限制全表扫描,时间窗口、币种、口径字段必须显式出现在语句里;再做执行层校验,用只读账号跑一遍,记录扫描行数、返回行数和执行计划,行数异常、空值比例突变或全表扫描直接拦截;最后做结果层校验,对关键指标做独立复算,比如换一条等价 SQL 或用预先写好的金标准查询抽样比对,同一问题换个问法看结果是否稳定。结论只信 SQL 和结果,不信模型的文字解释,SQL 文本、参数和结果要一起留痕,方便事后复核。
文
我们实测过类似方案,稳定性还可以,就是成本要上浮一些,得提前对齐。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册