← 返回起始笔记位置

知识卡片

结构图卡 · 9842.k · 生成模型:Hunyuan

Logistic梯度算法流程

理解等级:中级

以Logistic函数为核心的分类器训练分五步。先导入数据:用file2matrix读取testSet.txt,取最后一列为类别标签,得到样本数m与特征数n;再按标签绘制散点图,直观查看两类分布(样本并非总能被很好分隔)。接着构建b+x系数矩阵:第一列全置1对应偏置b,后接原特征并删除标签列。然后设步长alpha=0.001、迭代次数steps=500,把权重向量初始化为全1。主循环逐步执行:算梯度gradient=dataMat乘weights,经logistic映射成概率output,误差errors=target减output,再按weights=weights+alpha乘dataMat转置乘errors修正权重。训练完成后绘制由weights决定的分类超平面y=ax+b,并用概率是否大于0.5对新样本判别类别。整批样本用矩阵一次算完,正是矢量编程的体现。

结构图:

flowchart TD
  A[导入数据并抽取标签列] --> B[按类别绘制散点图]
  B --> C[构建b+x系数矩阵 首列置1]
  C --> D[设步长alpha与迭代次数 初始化权重]
  D --> E[计算梯度 dataMat乘weights]
  E --> F[logistic映射为概率output]
  F --> G[误差 errors=target减output]
  G --> H[按alpha修正权重]
  H -->|未达迭代次数| E
  H -->|训练完成| I[绘制超平面并对新样本分类]
这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第5章 梯度寻优 · 查看原书依据

      gradient = dataMat*mat(weights) # 计算梯度 output = logistic(gradient) # Logistic函数 errors = target-output # 计算误差 weights = weights+alpha*dataMat.T*errors

    参考来源

    - 位置:《机器学习算法原理与编程实践》第5章 梯度寻优(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00019.html) - 结论依据:原文按导入、绘图、构建矩阵、设步长与初始化、主循环迭代、绘制超平面与分类逐步给出代码并说明每步作用,支撑该流程的完整性。 - 原始内容:gradient = dataMat*mat(weights) # 计算梯度 output = logistic(gradient) # Logistic函数 errors = target-output # 计算误差 weights = weights+alpha*dataMat.T*errors