知识卡片

普通读书笔记卡 · 3756.a

概率模型结构要匹配变量依赖

理解等级:中级

EDA 的概率模型描述“好解中各变量怎样取值”。变量相互独立时,概率向量即可:每个变量只记自己的取值概率,如 (p(x_1=1)=0.7)。变量相关时,模型还要记录变量之间的条件关系,如 (p(x_2\mid x_1))(记号为补充说明)。

变量关系 模型结构 书中算法
相互独立 概率向量 PBIL、UMDA、cGA
两两相关 链 / 树 / 森林 MIMIC、COMIT、BMDA
多变量相关 概率图、贝叶斯网络 FDA、BOA、EBNA
连续变量 高斯分布 / 高斯网络 UMDAc、EMNA、EGNA

模型结构应匹配解的依赖关系;原书列举了不同方案,但未提供横向实验,不能据此断言更复杂模型总是更好。

在复杂调度实例中,概率模型准确性仍是需要单独检验的关键条件,结构更复杂本身不代表模型更准确。

这张卡片看不懂?

已有反馈 · 0 / 10 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 9 . 1 . 2 分 布 估 计 算 法 发 展 历 程 · 查看原书依据

      在实际应用中变量之间是相互依赖的,为了解决双变量相关的优化问题,美国MIT人工智能实验室的De Bonet等于1997年提出MIMIC(Mutual Information Maximization for Input Clustering)算法[15],其中算法假设变量之间的相互关系是一种链式结构。

    参考来源

    - 位置:《智能算法导论》第 9 章《9.1.2 分布估计算法发展历程》(源文件:`_epub-src/EPUB/xhtml/chapter9_0002.xhtml`) - 结论依据:本节按变量依赖程度介绍独立变量模型、双变量链/树/森林结构及多变量概率图模型,并另述连续域高斯模型;这些是不同表示选择,不是已验证的性能排序。表中算法归类取自本节;\(p(x_1=1)=0.7\)、\(p(x_2\mid x_1)\) 为补充的记号说明,非书中数据。 - 原始内容:在实际应用中变量之间是相互依赖的,为了解决双变量相关的优化问题,美国MIT人工智能实验室的De Bonet等于1997年提出MIMIC(Mutual Information Maximization for Input Clustering)算法 [ 1 5 ] ,其中算法假设变量之间的相互关系是一种链式结构。