← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 生成模型:GPT-6

机器学习与目标偏差

理解等级:中级

机器学习通过数据寻找规律,以处理任务,而非为每种情况手写具体规则。书中用目标函数的思想实验说明:系统追求设定目标时可能产生设计者未预期的后果,因此评估不仅要看目标完成度,也要检查副作用。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 孤勇高中生 · 查看原书依据

      特龙解释说,为了实现“适应度函数”或目标,人工智能系统可能会采取出乎意料的行为方式。假如一个人工智能的目标被设计成生存和繁殖,那么它可能会在无意中消灭地球上的所有生物。特龙表示,这并不意味着人工智能就是坏东西。它只是没有

    参考来源

    - 位置:《至高无上:一场颠覆世界的人工智能竞赛》第01章《孤勇高中生》(来源项目 book-source:`extracted/至高无上 一场颠覆世界的人工智能竞赛/_epub-src/EPUB/xhtml/Chapter2_1`) - 结论依据:摘录提供定义或论点,正文补充适用边界。 - 原始内容:特龙解释说,为了实现“适应度函数”或目标,人工智能系统可能会采取出乎意料的行为方式。假如一个人工智能的目标被设计成生存和繁殖,那么它可能会在无意中消灭地球上的所有生物。特龙表示,这并不意味着人工智能就是坏东西。它只是没有