§4.6 基于Karhunen-Loeve变换的特征提取
4.6.1 Karhunen-Loeve变换
4.6.2 K-L变换的性质
4.6.3 使用K-L变换进行特征提取
　　4.6.3.1 利用类均值向量提取特征
　　此节不作基本要求
　　在讨论欧氏距离度量进行特征提取时，曾提到一些判据是从使类内尽可能密集，类间尽可能分开的设计思想出发的，可见类内离散程度与类间离散程度要结合起来考虑。如何在K-L变换方法中体现对这两者的兼顾可用不同的做法。一种做法是先按S_W，即类内离散度矩阵提供的信息(作为产生矩阵)产生相应的K-L坐标系统，从而把包含在原向量中各分量的相关性消除，并得到在新坐标系中各分量离散的程度。然后对均值向量在这些坐标中分离的程度作出判断，决定在各坐标轴分量均值向量所能提供的相对可分性信息。
　　4.6.3.2 包含在类平均向量中判别信息的最优压缩
　　此节不作基本要求
　　从上面所讨论的方法看出，为了兼顾类内离散度与类间离散度，包含在类均值向量内的分类信息并没有全部利用。换句话说，类平均向量的判别信息在K-L坐标系的各个分量中都有反映，并没有得到最优压缩。就拿图4.3的例子来说，如仅从类均值向量所包含的分类判别信息全部被利用这一点出发，应选择包含这两均值向量连线方向在内的坐标系。但是简单地从类均值向量来确定特征子空间，虽然实现很容易，但一般不能满足各分量间互不相关的要求。