#4楼2026-11-02 01:08
管理员提到的策略化红线很对,我补充一个容易漏的环节:拒答之后的用户路径。只说不能回答,用户很可能换个问法继续追问,风险并没有消失,所以高风险意图要直接给出安全出口,比如建议就诊科室类型、需要准备的病史信息、以及紧急症状的就医提示,而不是留一个空白拒答。技术上可以做三层防护:意图分类先识别诊断、处方、急症等高风险类别;检索层只允许引用有版本和来源的指南条目,查不到就降级为通用健康信息;生成层做一致性检查,同一问题换表述回答的关键结论不一致时自动转人工。评估也要单独建高风险用例集,统计拒答率、误答率和转人工后的闭环率,三个指标一起看,单一指标很容易被刷好看。