知识卡片

普通读书笔记卡 · 9877.f.1.f.3.b · 生成模型:GPT-6

特征分块共享类别得分

理解等级:中级

FP-SMLR 把特征和对应参数拆成多块,每块负责自己的稀疏项并计算对各样本和类别的局部得分。全局端聚合得分,再算共同的 Softmax 损失。归约到均值变量可降低协调子问题维度,网络负担仍会随样本数与类别数增加。

相关机制见 [[特征分片汇总预测]]。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《分布式机器学习:交替方向乘子法在机器学习中的应用》第9章《快速稀疏多元逻辑回归》9.3.2 多元逻辑回归的共享优化求解(来源项目 book-source,源文件:extracted/分布式机器学习:交替方向乘子法在机器学习中的应用/_epub-src/OEBPS/Text/chapter9.xhtml) - 结论依据:9.3.2 多元逻辑回归的共享优化求解中的定义、更新式或实验叙述提供本卡依据。FP-SMLR 把特征和对应参数拆成多块,每块负责自己的稀疏项并计算对各样本和类别的局部得分。 - 原始内容:但变量Z的更新涉及对N个变量进行求解。通过引入新的变量,可以将N个变量减小为1个。