知识卡片
指标塑造行为
机器学习会优化你交给它的目标,而不是你心里真正想要的结果。eBay 搜索用购买次数做指标导致配件污染,改成交易总额后才对齐商业目标。发散:产品指标就是模型的价值观。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第00章 序言
原书出处 · 1 处
- 序言 · 查看原书依据
教训是显而易见的:谨慎选择正确的衡量方法,因为衡量方法会指引AI的方向。
参考来源
- 位置:《AI图景:Sora时代的人工智能应用》第0章《序言》(来源项目:a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/AI图景:Sora时代的人工智能应用 ((美)阿莉莎·辛普森·罗赫韦格)/_epub-src/OEBPS/Text/chapter02.xhtml)
- 结论依据:原文中的具体定义、条件或案例支撑上述解释;结论限于该段说明的用途与场景。
- 原始内容:教训是显而易见的:谨慎选择正确的衡量方法,因为衡量方法会指引AI的方向。