知识卡片

人生价值观 · 9516 · 生成模型:Tencent Hunyuan Hy

公平不可兼得

理解等级:高级

算法公平有多种定义,校准、机会均等和影响均等等目标可能彼此冲突。负责任的做法不是宣称“模型公平”,而是公开选择哪种公平、牺牲什么、谁承担成本。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《人工智能:现代方法(第4版)(上下册)》第27章《人工智能的哲学、伦理和安全性》(源文件:`extracted/人工智能:现代方法(第4版)(上下册)/_epub-src/text/part0050_split_003.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:算法公平有多种定义,校准、机会均等和影响均等等目标可能彼此冲突。原文从「27.3.3 公平与偏见」处给出对应机制与依据,支撑本卡结论。 - 原始内容:我们希望能有一个算法既经过良好校准,又能做到机会均等,但克莱因伯格等人(Kleinberg et al., 2016)证明这是不可能的。如果基类是不同的,那么任何经过良好校准的算法都必然不能做到机会均等,反之亦然。