知识卡片
量化区间宽度应该按后续熵编码代价来设计
内容
Lloyd-Max量化器只优化失真,把量化输出值当作等长编码;但如果输出值之后要经过变长熵编码,最优设计目标应该变成”给定平均码长约束下失真最小”,而不是”给定重建值数量下失真最小”。这时最优区间边界会在Lloyd-Max的基础上,向着取值概率较小的重建值方向偏移——概率大的重建值对应更宽的量化区间,因为它出现频率高,编码它的比特数本就更省,扩大它的势力范围能进一步降低平均码长。视频编码里DCT系数集中在0附近(近似拉普拉斯分布),因此量化器会主动加宽0附近的区间形成”量化死区”。这说明流水线中相邻两个模块(这里是量化和熵编码)不能割裂优化,下游代价函数会反过来改变上游模块的最优设计。
参考来源
《新一代高效视频编码H.265/HEVC:原理、标准与实现》第6章《量化》