知识卡片
Logistic梯度算法流程
以Logistic函数为核心的分类器训练分五步。先导入数据:用file2matrix读取testSet.txt,取最后一列为类别标签,得到样本数m与特征数n;再按标签绘制散点图,直观查看两类分布(样本并非总能被很好分隔)。接着构建b+x系数矩阵:第一列全置1对应偏置b,后接原特征并删除标签列。然后设步长alpha=0.001、迭代次数steps=500,把权重向量初始化为全1。主循环逐步执行:算梯度gradient=dataMat乘weights,经logistic映射成概率output,误差errors=target减output,再按weights=weights+alpha乘dataMat转置乘errors修正权重。训练完成后绘制由weights决定的分类超平面y=ax+b,并用概率是否大于0.5对新样本判别类别。整批样本用矩阵一次算完,正是矢量编程的体现。
结构图:
flowchart TD
A[导入数据并抽取标签列] --> B[按类别绘制散点图]
B --> C[构建b+x系数矩阵 首列置1]
C --> D[设步长alpha与迭代次数 初始化权重]
D --> E[计算梯度 dataMat乘weights]
E --> F[logistic映射为概率output]
F --> G[误差 errors=target减output]
G --> H[按alpha修正权重]
H -->|未达迭代次数| E
H -->|训练完成| I[绘制超平面并对新样本分类]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
- · 第5章 梯度寻优
原书出处 · 1 处
- 第5章 梯度寻优 · 查看原书依据
gradient = dataMat*mat(weights) # 计算梯度 output = logistic(gradient) # Logistic函数 errors = target-output # 计算误差 weights = weights+alpha*dataMat.T*errors
参考来源
- 位置:《机器学习算法原理与编程实践》第5章 梯度寻优(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00019.html)
- 结论依据:原文按导入、绘图、构建矩阵、设步长与初始化、主循环迭代、绘制超平面与分类逐步给出代码并说明每步作用,支撑该流程的完整性。
- 原始内容:gradient = dataMat*mat(weights) # 计算梯度 output = logistic(gradient) # Logistic函数 errors = target-output # 计算误差 weights = weights+alpha*dataMat.T*errors