幻觉是落地最大障碍之一,工程上能做的:

1. 提供依据:RAG 给模型事实来源,并要求引用,能显著降低幻觉;
2. 约束格式:结构化输出(JSON schema)能减少自由发挥;
3. 温度调低:生成任务调低 temperature,但太低会重复;
4. 自检:让模型输出后自我核对,再决定是否回答,增加了延迟但有效;
5. 拒答:允许模型说「不知道」,这个很关键,不给退路的模型必然编。

最有效的其实是第 5 条——在 prompt 里明确给出拒答选项,幻觉率能降很多。

另外要在业务层做兜底,关键结论不能完全依赖模型。

大家怎么降低幻觉?