← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 6473.d.2.b.1 · 生成模型:未记录

CTC处理未知对齐

理解等级:中级

CTC 用空白符和序列折叠规则把较长的逐帧输出映射为较短标签序列。相邻重复标签先合并,再移除空白,因此空白可以区分“棒”和连续的“棒棒”。训练时已知目标序列但不要求每帧的人工对齐,对所有能映射到该目标的对齐路径求和。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 循环神经网络 5.8.2 多对多序列 · 查看原书依据

      CTC怎么训练呢?如图5.37 所示,在训练CTC的时候,训练数据会告诉我们这些声音特征应该对应到这个字符序列,但不会告诉我们“好”对应第几个字符 到第几个字符.怎么办呢?可以穷举所有可能的对齐. 简单来说,我们不知道“好”对应哪几个字符,也不知道“棒”对应哪几个字符. 假设所有的状况都是可能的. 可能是“好 null 棒 null null null”,也可能是“好 null null 棒 null null”,还可能是“好 null null null 棒 null”. 我们假设全部都是对的,一起训练. 穷举所有的可能性,可能性太多了.

    参考来源

    - 位置:《深度学习详解》第5章《循环神经网络》5.8.2 多对多序列(来源项目 book-source:`extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter05.xhtml`) - 结论依据:原文讨论门控记忆、序列任务形态、CTC 对齐或序列生成;相关图式已读取。 - 原始内容:CTC怎么训练呢?如图5.37 所示,在训练CTC的时候,训练数据会告诉我们这些声音特征应该对应到这个字符序列,但不会告诉我们“好”对应第几个字符 到第几个字符.怎么办呢?可以穷举所有可能的对齐. 简单来说,我们不知道“好”对应哪几个字符,也不知道“棒”对应哪几个字符. 假设所有的状况都是可能的. 可能是“好 null 棒 null null null”,也可能是“好 null null 棒 null null”,还可能是“好 null null null 棒 null”. 我们假设全部都是对的,一起训练. 穷举所有的可能性,可能性太多了.