← 返回刚才阅读的位置

知识卡片

问题卡 · 9446.c · 生成模型:Tencent Hunyuan Hy

为何需要激活函数

理解等级:中级

常见疑问是:既然已用加权和表示总输入,为何还要额外套一个激活函数,直接和阈值比较不行吗?答案是,若没有非线性的激活函数,无论怎样训练参数,整个网络都只是线性模型,在二维是一条直线、三维是一个平面。线性模型无法解决现实中的非线性问题,例如异或。激活函数的作用就是把线性输入做非线性组合,产生非线性决策边界,从而扩大适用场景。边界是激活函数必须非线性;若用线性函数,多层堆叠仍等价于单层。理解这一点是看懂神经网络表达能力的前提。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    参考来源

    - 位置:《产品经理进阶:100个案例搞懂人工智能 (林中翘)》第7章《模拟人类思考过程:神经网络》(源文件:`../../book-sources/extracted/产品经理进阶:100个案例搞懂人工智能 (林中翘)/_epub-src/OEBPS/text00012.html`,来源项目 a19c7933-4eda-4176-aebd-30fe7e1ad292) - 结论依据:原文指出没有激活函数时模型恒为线性,并说明激活函数能产生非线性决策边界,直接支撑了激活函数是模型非线性来源的结论。 - 原始内容:和逻辑回归函数一样,如果没有激活函数,无论我们如何训练神经网络的参数,得到的模型都是一个线性模型,在二维空间下是一条线,在三维空间下是一个平面。