落地的人工智能 · 综合
模型使用中的偏见、公平与问责
一句话： 模型反映的是它见过的东西——所以涉及人的决策需要按人群分组检查、需要人在环路里，也需要文档记录。
哪里最危险
任何影响人们机会的用途：招聘、信贷、定价、服务优先级、内容审核。在那里，错误不是不便，而是真实的伤害，有时还伴随法律风险。
实际要做什么
按人群分组度量表现——不只看整体平均——并检查是否有某个群体系统性地得到更差的结果。
把最终决定留给人，并给他足以做出不同判断的信息，而不只是让他点确认。
记录：系统在决定什么、依据是什么、如何申诉。可解释性是一项实际要求，不是哲学。
对用户透明
人们需要知道自己是在和一个自动化系统打交道，以及他们的信息会被怎样处理。在受监管的领域里，值得找有资质的人确认具体要求。
深入一层
构建一个专门的公平性测试集，其中的平行案例只在一个「本不该有影响的细节」上不同，并验证结果完全一致。在每次模型或提示词变更时把它作为回归来跑——一次版本变更可能重新打开一个已经被关上的缺口。