知识卡片

普通读书笔记卡 · 9887.j.1 · 生成模型:GPT-6

Maxout用多个仿射响应取最大值

理解等级:中级

Maxout 单元对同一输入计算多个可学习的仿射响应,再取其中最大值,形成分段线性的非线性函数。它可表示 ReLU 等特殊情况,也能形成更丰富的分段形状;代价是需要为多个响应维护参数,具体表达能力和计算成本取决于配置。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《深度学习:从基础到实践(上下册)》第17章《激活函数》17.5(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0024_split_005.html`) - 结论依据:maxout允许我们定义一组直线。 - 原始内容:maxout允许我们定义一组直线,每个点的函数的输出是所有直线在那一点求值后最大的。换句话说,我们在x轴上找到输入项,然后选择最大的y值进行输出。