知识卡片
注意力成平台
Transformer 使用注意力机制建立输入中不同位置的关联。书中把它与按顺序处理文字的循环网络对比:这种架构可更好利用并行芯片,也能在翻译示例中利用上下文处理指代。能处理不同形式数据并不意味着所有应用自动共享同一个接口。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 歌利亚悖论 · 查看原书依据
究人工智能中的“注意力”概念,即计算机从数据集中挑出最重要信息的情况。他们仨一边吃着沙拉和三明治,一边想知道是否可以利用同样的技术更快、更准确地翻译文字。
参考来源
- 位置:《至高无上:一场颠覆世界的人工智能竞赛》第09章《歌利亚悖论》(来源项目 book-source:`extracted/至高无上 一场颠覆世界的人工智能竞赛/_epub-src/EPUB/xhtml/Chapter3_3`)
- 结论依据:以上原文说明本卡的机制或取舍;正文中的边界判断为读者归纳。
- 原始内容:究人工智能中的“注意力”概念,即计算机从数据集中挑出最重要信息的情况。他们仨一边吃着沙拉和三明治,一边想知道是否可以利用同样的技术更快、更准确地翻译文字。