Ty-9000 的讨论

发布于: 雪球回复:0喜欢:3
这个并不是政治正确,而是角度问题。假设分数预测智商正确率为80%,一所学校要招收智商100以上的优秀学生。40%黑人智商在100以上,白人为60%,从100个黑人和100个白人里招生。黑人取前40名,白人取前60名。因为模型正确率为80%,没被录取的100人里有20个人是优秀的,里面按比例有12个优秀白人和8个优秀黑人,那录取的100个人里相应地就混进了12个普通白人和8个普通黑人。这个方法给了普通白人更多机会,从黑人的角度看就是歧视。

16年有一篇论文叫”inherent trade-offs in the fair determination of risk scores.”里面有个定理,证明了要涉及两组样本,calibration unbias和false positive不可兼顾,上面的参数随你怎么调都不行。

以上适用于任何种族、性别等情况。