发布时间 : 星期六 文章SVD与KFDA相结合人脸识别-matlab-毕业论文更新完毕开始阅读9730b90d79563c1ec5da7197
XXXXxx毕业设计（论文）
然后在高维特征空间中进行对应的线性操作。从本质上讲，核方法实现了数据空间、特征空间和类别空间之间的非线性变换。
核方法区别于普通非线性方法的优势在于，它借助于核函数，不需要对输入空间进行任何直接的非线性映射，从而使数学上的处理变得相对容易。
2.4.1 核Fishe判别分析（KFDA）
KFDA方法［16］［17］［18］就是将核方法应用到Fihser线性鉴别分析中，其基本思想是通过一个非线性映射函数把非线性可分的原始输入空间映射到一个线性可分的高维特征空间，然后在高维特征空间中进行Fisher线性鉴别分析。
设原始输入空间有c个模式类，第i类中的样本数为N，总样本数为M。经过非线性映射
nm?:R?R，x??(x)后，特征空间H上的训练样本?(x1),?(x2),...,?(xM)的类内离散度矩
?阵Sw，类间离散度矩阵Sb?分别定义为:
cSw??nii(i)j?P(c)?(?(x)i?1j?1??i)(?(x)j??i)?(i)?T (19)
CSb?Ni??P(c)(?iI?1?i??)(?i??)cNi???T (20)
其中?i??1Ni??(x)，?j?1(i)j??1M(i)???(x)，P(c)为第i类样本的先验概率，?(x)j表示
(i)jii?1j?1第i类的第j个样本，?i?是第i类样本的平均图像向量，??是总样本的平均图像向量。
在特征空间H上Fihser鉴别准则函数定义如下:
J(W)??WSbWWSwWTT?? (21)
W为特征空间中任意非零矢量
根据再生核理论，任何一个最优化准则函数式(21)的解矢量W一定位于由 高维特征空间H中的所有训练样本?(x1),?(x2),...,?(xM)张成的空间内，即:
M[19]
W????(x)??? (22)
iii?1其中??[?(x1),?(x2),...,?(xM)],??[?1,...,?M]T?RN。不妨称式(22)中的a为对应于特征空间H中最优鉴别矢量W的最优核鉴别矢量。根据文献20］的推导，可得，
WSbW??Kb?
T?T (23)
10
XXXXxx毕业设计（论文）
WSwW??Kw?T?T (24)
式中，Kb和Kw分别称为核类间散布矩阵、核类内散布矩阵。将式(23)和式(24)带入式(21)中，可得到特征空间H上的Fihser。 鉴别准则函数的等价形式为，
J(W)??WSbWWSwWTT????Kb??Kw?TT?J(?) (25)
?其中，a为特征空间中任意非零矢量，式(25)即为核Fisher线性鉴别准则函数。由广义Ryaleigh商的极值性质[2]，得到准则极大化的最优解向量为广义特征方程
Kb???Kw?, （26）
前d个最大特征值所对应的特征向量?1,?2,...,?d.下面只需在高维特征空间H中进行Fihser线性鉴别分析，而相对于原空间来说，就是进行非线性的鉴别分析。
2.4.2 SVD与KFDA的融合
尽管核方法在图像等模式识别领域取得成功的应用, 但也存在如下一些问题: （1） 构造特征空间H 的核矩阵K 所耗费的计算量非常大. 例如特征空间中最简单的核矩阵K?k(xi,xj), i,j = 1,2,?,N ,N 为训练样本的总数. 由于核函数k(xi,xj)需要计算两个向量间的内积, 当向量的维数很高时(如人脸识别中训练样本的维数高达上万维) , 计算K 所需的计算量为nN2 , 而人脸等图像识别通常都是典型的小样本问题, 训练样本的数目比它的维数小得多, 即N??n。
（2） 当训练样本数N 很大时, 一方面会使核矩阵的存储空间急剧增加, 因为核矩阵的维数为N × N ; 另一方面会造成核矩阵的不可逆。
SVD 把图像看成一个矩阵，是一种代数特征提取方法。用奇异值描述的图像特征是稳定的，具有转置不变性、旋转不变性、平移不变性以及镜像不变性等优点。但是，仅用奇异值包含的信息不足以有效的识别人脸。
本文提出SVD同KFDA相结合的方法，样本通过奇异值分解提取图像的代数特征然后 利用KFDA算法对这些特征进行二次提取得到最终的识别特征。主要步骤如下： 训练阶段：
（1）求所有样本的平均图像A，利用式（1）对其进行奇异值分解，得正交矩阵U和V; （2）利用式（2）把所有训练样本Aij投影 到U和V构成的基空间中，得到Dij；
?11
XXXXxx毕业设计（论文）
（3） 设定区域m，提取Dij左上角m?m区域的数据，并拉直成一维向量xij； （4）将xij构成 的集作为KFDA的输入空间，利用核函数映射 到特征空间H，
nm?:R?R，x??(x)；
（5）利用式（19）、（20）计算类内、类间散布矩阵，通过 式（23）、（24）计算核类内、类间散布矩阵 ，利用式（26）得到投影矢量?1,?2,...,?d；
（6）把所有的训练样本投影 到?1,?2,...,?d，得到训练 样本的识别特征Zij测试阶段：
（1）利用式（2）把所有测试样本A投影 到U和V构成的基空间中，得到D； （2）提取D左上角m?m区域的数据，并拉直成一维向量X； （3）通过核函数把X映射到高维特征空间H，得到?；
（4）把测试样本?本投影 到?1,?2,...,?d，得到训练 样本的识别特征Z； （5）采用最近邻法进行识别。
；
12
XXXXxx毕业设计（论文）
3 实验结果与分析
在Pentium(R) Dual E2160 CPU 1.8GHz,2G内存，Windows XP操作系统，Matlab7.0环境下进行了仿真实验 。采用最近邻分类，距离为欧氏距离。分别在ORL、CAS-PEAL人脸库上对SVD、LDA、PCA、KFDA以及SVD+LDA和SVD+KFDA方法进行测试。
3.1 ORL人脸库实验
ORL人脸库包含了40个人，每人10幅，共400幅人脸图像，每幅大小为112*92，该库包含了不同时间，不同视角，不同表情(闭眼、睁眼、微笑、吃惊、生气、愤怒、高兴)和不同脸部细节（戴眼镜、没戴眼镜、有胡子、没胡子、不同发型）的条件下拍摄的。数据库部分人脸图像 如图1所示
图1 ORL部分人脸图像
表1 ORL人脸库SVD测试结果(1)
特征维数 识别率/% 识别时间/S
36 90.50 3.093
81 91.00 3.015
121 91.00 3.157
169 90.50 3.266
225 91.00 3.266
400 92.00 3.531
900 91.50 4.156
在ORL人脸库每类训练样本取5，对应的测试样本分别取5，利用SVD方法，在不同的特征维数下的识别率及识别时间如表1所示，SVD方法识别速度比较快，随着特征维数的增加，识别率有所提高但不显著，当抽取特征高达20*20=400时，识别率达到92%。当抽取的特征维数保持为400，随着训练样本个数的增加，识别率的改善较为明显，如表2所示。
表2 ORL人脸库SVD测试结果(2)
训练样本数 识别率/% 识别时间/S
2 83.13 3.266
3 85.00 3.469
4 88.75 3.531
5 92.00 3.531
6 96.25 3.563
7 96.67 3.468
8 96.25 3.328
表3 ORL人脸库LDA测试结果(1)
特征维数 识别率/% 识别时间/S
10 79.50 14.578
15 82.50 18.360
20 83.00 20.563
25 87.00 23.484
30 85.00 28.359
35 87.00 29.484
39 88.00 31.531
在ORL人脸库每类训练样本取5，对应的测试样本分别取5，利用LDA方法进行识别。先通过PCA降维，降维后为110维，在不同的特征维数下的识别率如表3所示。相对于SVD，LDA的识别速度较低，由于类别数为40，所以LDA有效特征数为39，此时识别率
13