知识卡片

操作参考卡 · 9844.f · 生成模型:Hunyuan

RBF预测代码:局部加权最小二乘

理解等级:中级

RBF 预测的代码本质是“局部加权的正规方程”,和普通正规方程的区别在于每个测试样本都按距离重新加权一次,因此拟合出的不是一条固定直线,而是随数据弯曲的回归线。先用 loadDataSet 读入非线性数据,设定平滑系数 miu 与 k;对每一个测试样本 i,构造一个 m×m 的对角权重矩阵,第 j 个对角元为 exp(diffMat·diffMat.T/(−miu·k²)),其中 diffMat 是测试样本与第 j 个训练样本之差——距离越近权重越大,这就是 RBF 高斯函数充当的局部加权。随后用加权后的矩阵算 xTx=xMat.T·(weights·xMat),行列式非零时解 ws=xTx.I·(xMat.T·(weights·yMat)),再用 yHat[i]=testArr[i]·ws 得到该点的预测值。遍历全部样本就得到整条非线性回归线,最后同样用 corrcoef 计算预测值与真实值的相关系数,本例约为 0.976,说明拟合效果良好。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《机器学习算法原理与编程实践》第7章 预测的技术与哲学(源文件:extracted/机器学习算法原理与编程实践/_epub-src/OEBPS/text00025.html) - 结论依据:原文给出 miu、k 两个平滑系数、weights 对角阵的高斯权重公式、xTx 与 ws 的求解及 yHat[i] 的计算,支撑这段局部加权实现说明。 - 原始内容:xTx = xMat.T * (weights * xMat) # 矩阵左乘自身的转置 if linalg.det(xTx) != 0.0: ws = xTx.I * (xMat.T * (weights * yMat)) yHat[i] = testArr[i] * ws # 计算回归线坐标矩阵