[数学]第 2 章 信源与信息熵

[数学]第 2 章 信源与信息熵第 2 章 信源与信息熵2.1 信源的描述与分类 2.2 离散信源熵和互信息 2.3 离散序列信源的熵 2.4 连续信源的熵和互信息2.5 冗余度概率论基础无条件概率、条件概率、联合概率的性质和关系(1) 0 ≤ p( x i )， p( y j )， p( y j | x i )， p( x i | y j )， p( x i y j )≤1(2)p p ( x i ) = 1 , ∑ 1 ( y j..