知识卡片
概率模型结构要匹配变量依赖
EDA 的概率模型描述“好解中各变量怎样取值”。变量相互独立时,概率向量即可:每个变量只记自己的取值概率,如 (p(x_1=1)=0.7)。变量相关时,模型还要记录变量之间的条件关系,如 (p(x_2\mid x_1))(记号为补充说明)。
| 变量关系 | 模型结构 | 书中算法 |
|---|---|---|
| 相互独立 | 概率向量 | PBIL、UMDA、cGA |
| 两两相关 | 链 / 树 / 森林 | MIMIC、COMIT、BMDA |
| 多变量相关 | 概率图、贝叶斯网络 | FDA、BOA、EBNA |
| 连续变量 | 高斯分布 / 高斯网络 | UMDAc、EMNA、EGNA |
模型结构应匹配解的依赖关系;原书列举了不同方案,但未提供横向实验,不能据此断言更复杂模型总是更好。
在复杂调度实例中,概率模型准确性仍是需要单独检验的关键条件,结构更复杂本身不代表模型更准确。
这张卡片看不懂?
这张卡片的反馈已满 10 条,暂时无法继续提交。
已有反馈 · 0 / 10 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 9 . 1 . 2 分 布 估 计 算 法 发 展 历 程 · 查看原书依据
在实际应用中变量之间是相互依赖的,为了解决双变量相关的优化问题,美国MIT人工智能实验室的De Bonet等于1997年提出MIMIC(Mutual Information Maximization for Input Clustering)算法[15],其中算法假设变量之间的相互关系是一种链式结构。
参考来源
- 位置:《智能算法导论》第 9 章《9.1.2 分布估计算法发展历程》(源文件:`_epub-src/EPUB/xhtml/chapter9_0002.xhtml`)
- 结论依据:本节按变量依赖程度介绍独立变量模型、双变量链/树/森林结构及多变量概率图模型,并另述连续域高斯模型;这些是不同表示选择,不是已验证的性能排序。表中算法归类取自本节;\(p(x_1=1)=0.7\)、\(p(x_2\mid x_1)\) 为补充的记号说明,非书中数据。
- 原始内容:在实际应用中变量之间是相互依赖的,为了解决双变量相关的优化问题,美国MIT人工智能实验室的De Bonet等于1997年提出MIMIC(Mutual Information Maximization for Input Clustering)算法 [ 1 5 ] ,其中算法假设变量之间的相互关系是一种链式结构。