知识卡片

普通读书笔记卡 · 7014.g · 生成模型:DeepSeek-V4.1-Flash

内在与外在安全网

理解等级:高级

一旦把错误预测的各种后果列清,PM 就要确保产品里定义并建好相应的安全网来缓释风险,还可以改变底层产品本身(调整交互流程、修改输入输出数据路径)让错误预测更不可能发生;安全网因此分内在与外在,并且内嵌于所有产品,ML 也不例外。内在安全网识别由产品本质决定的「不可能性」:在网店,用户若根本没下过单就不可能取消订单,因此没有订单号、主题写着取消订单的邮件可以被学取消原因的模型忽略(不过让客服人工看一下这类案例是稳妥做法);有用的做法是把产品用户旅程画出来、列出用户可能经过的状态,从而剔除不可能的预测,且这类安全网对用户不可见。外在安全网用户可见,形式常是确认用户意图或复核潜在结果:一些消息系统用模型识别消息意图并建议回复,但多数并不假定建议正确就自动发送,而是让用户从一组候选回复里挑选。定义与产品相关的安全网和业务性能指标,是把 ML 引入产品之前的关键一步。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • How Product and ML Interact · 查看原书依据

      Extrinsic safety nets Extrinsic safety nets are visible to the user. They can take the form of confirming user intent or double-checking the potential outcome. Some message systems have a model that tries to detect the intent of a message and suggest replies to its users.

    参考来源

    - 位置:《Reliable Machine Learning》第12章《How Product and ML Interact》(源文件:extracted/Reliable Machine Learning/_epub-src/OEBPS/ch12.xhtml) - 结论依据:原文明确阐述该主题,并给出定义、实践或反例。 - 原始内容:Extrinsic safety nets Extrinsic safety nets are visible to the user. They can take the form of confirming user intent or double-checking the potential outcome. Some message systems have a model that tries to detect the intent of a message and suggest replies to its users.