有损压缩的取舍

图像、音频可容忍微小失真以换取更高压缩。率失真理论刻画「在允许失真 $D$ 下，最少需要多少比特」：
$R(D)=\min_{,\mathbb E[d(X,\hat X)]\le D} I(X;\hat X)$
$R(D)$ 随允许失真增大而下降：失真容忍越多，码率越低。

高斯源的率失真

对方差 $\sigma^2$ 的高斯源、均方失真 $D$：
$R(D)=\tfrac12\log_2\frac{\sigma^2}{D}\quad(0<D\le\sigma^2)$

量化与变换编码

有损压缩三步：变换（DCT/小波，能量集中到少数系数）→ 量化（丢弃不敏感的高频细节）→ 熵编码（无损压缩剩余信息）。

例题

例　JPEG 把图像分块做 DCT，量化表对高频系数粗量化（人眼不敏感），再霍夫曼编码——质量因子越低、失真越大、文件越小，正是沿 $R(D)$ 曲线滑动。

应用

率失真是 JPEG/JPEG2000、MP3/AAC、H.264/H.265 视频、视频流媒体的理论基础；它把「画质 vs 码率」「音质 vs 体积」变成可优化的工程取舍。