知识卡片
两个 YarnIt 反例:羊绒缺货与 User-Agent 隐私
例 1:YarnIt 一位 ML 开发者想对网店销售产生业务影响,建了识别销量不佳商品的模型并在特定场景推荐它们。模型确实可能成功——找到新买家,或提醒老买家复购——却在案例中挑中了供应极少的 prestige 商品羊绒线;由于模型没有利润率或库存特征(无法有效表示或理解),它把这批货全卖光了。羊绒线行业性紧缺、补货要数周甚至数月,而电商里顾客发现某件商品缺货时常把整笔订单转去别家,YarnIt 于是因这一个缺货丢了其它商品的销售。例 2:推荐与发现团队用浏览器 User-Agent 的有限信息判断浏览器与平台;网页设计团队为掌握配置分布,未与 ML 团队沟通就把完整浏览器信息记进日志,建模团队在不知情下开始用完整 User-Agent,而它加上模型也有的位置信息常能唯一定位一个人,模型因此具备定向到个人的能力,违反 YarnIt 的隐私治理政策与运营国家的合规要求。两个案例里各团队在自身语境都没做错,坏结果来自「信息不完整时行动」;作者据此论证领导者必须提供协调与全局监督,并给出结构思路:集中最需要监督控制的部分、解放最需要领域专长的部分、设一个集成点让两条工作流汇合,监督、掌舵与沟通都在那里发生。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- Integrating ML into Your Organization · 查看原书依据
But now there’s a problem in our case: it manages to find cashmere wool yarn, a prestige item that YarnIt has in very low supply. Since this model does not have features for (can’t effectively represent or understand) margin or inventory, it manages to sell all of it.