知识卡片
模型是带参数的函数族
用信用卡审批的例子可以把”模型”具体化。假设能拿到用户的性别、年龄、学历、工作年限、负债情况,先把属性数值化(性别男/女记为 1/2,学历高中到博士记为 1/2/3/4),再把每个用户看成一个向量 xᵢ(i=1,…,M),它的每一维就是一个特征。
最朴素的判别方式是加权和加门限:给每一维特征配一个权重 wⱼ,算 Σⱼ wⱼxⱼ,超过门限值就准予办卡,低于就拒绝。把”是/否”记作 +1/−1 后,这个规则可以写成一个符号函数:
f(xᵢ) = sign(Σⱼ wⱼxⱼ + b)
其中 b 由门限吸收而来。这里的 f 就是模型。
两个要点:
- 模型是函数族,不是某个具体函数。w 和 b 未定时,f 代表一整族可能的判别规则;训练就是在族里挑一个成员。
- 参数必须从数据来。参数未知就算不出新用户的值,所以要用已知结果的训练集把 w、b 学出来——怎么学正是策略与算法要回答的问题,见 [[模型、策略、算法三要素]]。
这种线性加权加符号函数的做法,也是后面支持向量机与感知机的起点;它的局限同样明显:只能划出一条线性的分界,特征之间若有交互(年轻且高负债才危险),单靠加权和表达不出来,需要人为构造组合特征或换非线性模型。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第1章 机器学习概述 1.3 机器学习方法三要素 · 查看原书依据
如果将用户的各个特征属性数值化(比如性别的男女分别用1和2来代替,学历特征高中、本科、硕士、博士分别用1,2,3,4来代替)
参考来源
- 位置:《机器学习基础:从入门到求职》第1章《第1章 机器学习概述》(源文件:extracted/机器学习基础:从入门到求职/_epub-src/OEBPS/text00004.html)
- 结论依据:原文用信用卡审批例子把特征数值化为向量,先给加权和与门限的判别规则,再用符号函数统一表示,并指出参数未知需由训练集学习。
- 原始内容:如果将用户的各个特征属性数值化(比如性别的男女分别用1和2来代替,学历特征高中、本科、硕士、博士分别用1,2,3,4来代替)