知识卡片
Maxout用多个仿射响应取最大值
Maxout 单元对同一输入计算多个可学习的仿射响应,再取其中最大值,形成分段线性的非线性函数。它可表示 ReLU 等特殊情况,也能形成更丰富的分段形状;代价是需要为多个响应维护参数,具体表达能力和计算成本取决于配置。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 激活函数 · 查看原书依据
maxout允许我们定义一组直线
参考来源
- 位置:《深度学习:从基础到实践(上下册)》第17章《激活函数》17.5(来源项目 `extracted/深度学习:从基础到实践(上下册)/_epub-src/text/part0024_split_005.html`)
- 结论依据:maxout允许我们定义一组直线。
- 原始内容:maxout允许我们定义一组直线,每个点的函数的输出是所有直线在那一点求值后最大的。换句话说,我们在x轴上找到输入项,然后选择最大的y值进行输出。