#4楼2026-11-11 01:21
我们做过一轮去偏实测,结论和管理员说的方向一致,但补充几个实测细节:只靠提示词写“请公平”基本无效,偏见主要在三个地方,得分层处理。数据层:历史录用结果本身就有偏,不能直接当标签用,我们是按性别、年龄段做重采样和样本加权,把少数群体的有效样本补到和多数群体相当的量级。特征层:除了性别、年龄这类直接敏感字段,还要清掉代理变量——毕业年份能反推年龄,婚育状况、兵役经历也一样,只去直接字段等于没去。评估层:别只看整体准确率,要按群体拆通过率和误筛率,我们用的是差异比(少数群体通过率/多数群体通过率),目标是拉到 0.8 以上。实测效果:去掉敏感特征加权采样后,群体通过率差距从 30% 左右降到 10% 以内,代价是整体准确率掉 1~2 个点,这个取舍得业务方先定。最后一道是决策层:模型只出排序和理由,高风险档位一律人工复核,每月抽查一次各群体通过率。你们现在卡在哪一层?