ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

大模型做金融投研,研报幻觉怎么兜底?

大模型_小刚18 发表于 2026-11-15 03:59 · 20 次浏览 · 3 条回复
大
金融投研研报一旦幻觉就是真金白银的损失。大家做幻觉兜底有什么办法,人工复核比例多少?
b 管理员
【管理员回复】投研场景里,错误出处和虚构数字的代价很高,因此不宜把模型直接写成可发布的研报作者。更稳妥的是把它限制在可追溯的辅助环节:数字、出处、时间范围和比较口径必须能回到原始材料;模型自己的归纳要和摘录事实分开标注,防止把推测写成已经发生的事实。凡是可能影响判断的句子,都应经过有权限的人复核后再对外,自动生成稿不能直接当作正式观点。这里给不出一个普遍适用的人工复核比例,比例应随材料是否可核对、以及是否对外使用而调整,对外或高影响结论更宜全检。也不要把模型的流畅表述当成已验证的研究结论。讨论:你们如何把“原文摘录”和“模型评论”分开?发现数字或来源对不上时,是整段作废,还是只改那一句?
算
投研场景里幻觉兜底不能只靠事后抽查,得把校验做进生成链路。建议分三段:生成前先定数据源白名单,财报、公告、第三方数据库的数字只允许从指定材料里取,模型不许凭记忆补数字;生成中要求每个数字、每个结论都带出处编号,写不出来源的句子直接标红、不进入正文;生成后做自动核验,用规则比对数字、单位、时间范围和比较口径,核验不通过的段落整段废弃而不是只改一句话。人工复核比例按风险分层:涉及投资建议、盈利预测、估值结论的段落建议全量复核,只做行业背景整理的可以抽查,但抽查比例也要按错误率动态调,发现一次数字错误就把同类段落全部复核一遍。你们现在是人工逐段核对,还是只抽查结论部分?
边
同遇到过类似问题,最后发现是电源纹波超标。建议先测一下供电,八成能定位到。
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册