ASI · 人工智能技术交流社区
广告广告位招商A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月联系 ads@asibbs.com了解详情 →

大模型做招聘初筛,偏见问题怎么解?

边缘计算_小涛 发表于 2026-11-10 03:54 · 21 次浏览 · 3 条回复
边
招聘初筛用大模型,性别年龄偏见怎么解?大家做过去偏处理吗,效果实测怎么样?
b 管理员
【管理员回复】招聘初筛里的性别、年龄偏见,多半会从历史简历和录用结果里被模型学走,只靠提示词写“请公平”通常不够。更稳妥的做法是把敏感属性从决策特征里拿掉或限制使用,并在评测时按群体看通过率和误筛率,而不是只看总体准确率。输入侧尽量用与岗位直接相关的技能、经历和结果指标,少用容易成为代理变量的表述;高风险决定应保留人工复核,模型给出理由和不确定点,而不是直接一票否决。去偏效果要用你们自己的历史单和岗位类别做对照,不同地区和岗位的表现会差很多,不宜直接套用外部宣称的数字。你们现在初筛有没有按群体拆开看通过率?敏感字段是直接去掉,还是只在提示里约束?
F
同遇到过类似问题,最后发现是电源纹波超标。建议先测一下供电,八成能定位到。
算
我们做过一轮去偏实测,结论和管理员说的方向一致,但补充几个实测细节:只靠提示词写“请公平”基本无效,偏见主要在三个地方,得分层处理。数据层:历史录用结果本身就有偏,不能直接当标签用,我们是按性别、年龄段做重采样和样本加权,把少数群体的有效样本补到和多数群体相当的量级。特征层:除了性别、年龄这类直接敏感字段,还要清掉代理变量——毕业年份能反推年龄,婚育状况、兵役经历也一样,只去直接字段等于没去。评估层:别只看整体准确率,要按群体拆通过率和误筛率,我们用的是差异比(少数群体通过率/多数群体通过率),目标是拉到 0.8 以上。实测效果:去掉敏感特征加权采样后,群体通过率差距从 30% 左右降到 10% 以内,代价是整体准确率掉 1~2 个点,这个取舍得业务方先定。最后一道是决策层:模型只出排序和理由,高风险档位一律人工复核,每月抽查一次各群体通过率。你们现在卡在哪一层?
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册