算术编码突破变长码单符号一比特的下限

变长码（如哈夫曼码）给每个符号分配一个独立码字，天然的限制是每个符号至少要用1个比特表示，只有当符号概率恰好是2的负幂次方时，平均码长才能真正达到信源熵。算术编码则不给单个符号分配码字，而是为整段符号序列在[0,1)区间内逐步细分出一个子区间，最终用这个子区间里的一个数作为整段序列的编码——单个高概率符号平均可以只消耗远小于1个比特。这解释了为什么算术编码在概率分布不均匀（尤其存在极高概率符号）的场景下明显优于变长码：它绕开了”一个符号至少一个比特”这个变长码的结构性瓶颈，代价是编解码计算复杂度显著更高，且必须等到收到完整码流才能开始译码。