知识卡片
MIMN超长序列记忆UIC
MIMN(Multi-channel user Interest Memory Network,阿里妈妈)面向“超长行为序列”(如长度1000)的工程难题:序列越长离线 AUC 越高,但 DIEN 类模型只能处理约150长,再长就有严重时延和内存压力。MIMN 的创新主要在工程方案,核心是 UIC(User Interest Center)模块,由 NTM 与 MIU 组成:
- NTM(Neural Turing Machine):用外部记忆矩阵 + 控制器做特定寻址的读写,理论上可记很长序列;读时用 read key 与记忆做 Cosine 相似得权重再加权求和,写时先得权重再擦除/添加。为解决热门活动占内存,还加记忆利用正则。
- MIU(Memory Inducation Unit):把每个记忆槽当兴趣频道,用共享参数的 GRU 对每个选中频道做兴趣演化。
在线推理时,用户行为序列不再存原始日志,而是存 NTM 的记忆矩阵 M 与兴趣演化矩阵 S;新行为发生才由 MIU/NTM 更新并写回。实测长度1000、QPS500 时,DIEN 平均200ms,MIMN 仅19ms,存储也从6TB 降到2.7TB,但上线工程难度高。可与 [[SIM两阶段长序列检索]] 对照看更长序列的另一种解法。
结构图:
flowchart LR
A[超长行为序列] --> B[UIC: NTM 记忆矩阵读写]
B --> C[MIU: 多通道 GRU 兴趣演化]
C --> D[在线: 直接读 M,S 矩阵]
D --> E[Attention + MLP → CTR]
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 精排层的样本选择和模型选择 8.6 序列建模 · 查看原书依据
8.6.3 MIMN MIMN(Multi-channel user Interest Memory Network,多通道用户兴趣记忆网络)是阿里妈妈提出的针对超长序列的模型
参考来源
- 位置:《推荐系统全链路设计:原理解读与业务实践》第8章《精排层的样本选择和模型选择》(来源项目book-sources;extracted/推荐系统全链路设计:原理解读与业务实践/_epub-src/converter-master/example/312287/109.html;src-053)
- 结论依据:原文说明 MIMN 以 UIC(NTM+MIU) 处理超长序列,用外部记忆矩阵降低存储与时延,并给出与 DIEN 的耗时/存储对比。
- 原始内容:8.6.3 MIMN MIMN(Multi-channel user Interest Memory Network,多通道用户兴趣记忆网络)是阿里妈妈提出的针对超长序列的模型