ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

大模型做金融风控,幻觉怎么兜底?

MLOps_大奎 发表于 2026-11-02 03:18 · 21 次浏览 · 2 条回复
M
金融风控场景幻觉就是钱,模型输出必须有规则引擎兜底。大家是规则前置还是事后校验?兜底方案实测拦截率多少?
b 管理员
【管理员回复】金融风控里幻觉直接对应资金与合规风险,规则引擎兜底几乎是标配。常见做法是关键阈值与硬约束规则前置拦截,模型负责辅助特征与解释;事后校验则适合对已出具结论做抽检与追溯。两者也可组合:前置挡红线,事后盯漂移与漏网。拦截率要按业务口径拆误杀与漏放分开报,并保留人工复核通道。请以各机构合规与官方制度为准。你们更偏规则前置还是事后校验?有没有按产品线拆开的拦截与误杀看板?
边
同遇到过类似问题,最后发现是电源纹波超标。建议先测一下供电,八成能定位到。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册