基于稀疏化双向二维主成分分析的人脸识别

常 响，鲁棒性差, 取的 向 非稀疏的。丰不足，提出基于D1范数的稀疏双向二维主成分分析方法(2D))PCA-L1 = $在(2D))PCA目标函数中加入D1范

的抗干扰能力，同时 入弹性网 ,通过Dasso与Ridge 数实现稀疏性$在Feret和进行基于最 的人脸分类、人重构和基 群 SVM参数的人脸识别实验， 表明，相2DPCA、(2D))PCA、(2D)2PCA71等主分分析方法，该方能 取人脸主要信息，人识别和人脸重效果较好$关键词：双向二维主成分分析；稀疏化；粒子群优化；支持向量机；人脸识别中文引用格式：张裕平，龚晓峰，雒瑞森.基于稀疏化双向二维主成分分析的人脸识别[J].计算机工程，2019，

45(12) ：232-236.英文引用格式：ZHANG Yuping，GONG Xiaofeng，LUO Ruisen. Face recognition based on sparss two-diection two­dimensional principle component analysis[ J +. Compute Engineering，2019，45 (12) ：232-236.Face Recognition Based on Sparse Two-Direction Two-Dimensional

Principle Component AnalysitZHANG Yuping，GONG Xiaofeng，LUO Ruisen(College of Electric el Engineering，Sichuan University，Chengdu 610065，China)[Abstract] Two-Direction Two-Dimensional Principle Component Analysis (( 2D)2PCA) is an improved method of Principle Component Analysis( PCA) in the two-dimensionae space. Howcvcs，just like PCA，the ( 2D )2PCA issusceptible to abnormae values，its robustness is week and the extracted featui vectors ai non-sparss. So this pape

proposes a sparss (2D)2PCA method based on L1 norm，the (2D)2PCA-L1S，to tackle thess problems. First，this papci

adds the L1 norm constraint to the (2D)2PCA objective function to improve the anti-mWrferencc ability. Then，this paper introduces the elastic network constraint into the objective function，so the sparsity is reelized by the Lasso and Ridge

penalty functions. The following experimeni are cerried out on the Feret and Yale datasets : the face classificetion and face reconstruction based on neerest neighbors，and the face recognition based on Particle Swarm Optimizetion ( PSO)- SVM Parameters. The resultt show that compared with other PCA method，such as the 2DPCA，( 2D )2PCA and (2D)2PCA-L1，the proposed method can accurately extract the main face information，and it has better effectt on face ,ecognition and face ,econst uction.[Key words] Two-Direction Two-Dimensionae Principle Component Analysis ( ( 2D)2PCA) ； sparsity ； Particle Swarm Optimizetion( PSO) ； Support Vector Machine( SVM) ； face recognitionDOI： 10. 19678/j. issn. 1000-3428.00531080概述人脸识别作为人工智能研究的

检测［4+、身份鉴定［5-+等方面被广泛应用$

基金项目：中国博士后科学基金(2017 M612958 )$在人脸取是人脸识别的基础，其经典方法主成分分析(Principle Component Analysis，PCA)［7］将高维空间数据向样本 方差最大的方向投 空间， 实降维的目的$然 样本协方差矩阵较大时，PCA求 ：作者简介：张裕平(1994%)，女，硕士研究生，主研方向为图像处理、机器学习；龚晓峰，教授、博士；雒瑞森，讲师、博士收稿日期：2018-11-09

修回日期：2019-01-10 E-mail：2537951@ qq.com第45卷第12期张裕平，龚晓峰，雒瑞森:基于稀疏化双向二维主成分分析的人脸识别233和 向 为 $为，文献* 8 ］提岀二 维主成 分分析(Two - Dimensional Principle Component Analysis&2DPCA)法，其样本协方差矩阵只与图片尺寸，故应的协方差矩阵较小，更易求 和特现不稳定，而基于L1范数的(2 D)2 PCA对异常值不

敏感，具有较好的鲁棒性。假设&ehP是行方向协

方差矩阵G； elT3\"第一大特征值对应的特征向量,找到最优&&使得目标函数值最大$目标函数的数 学 下：g(&) = %! 11(*111 ,s. t. II&2 = 1 1(4)向量$进一步地，文献*9］岀向二维主成分分析

(Two-Direction Two-Dimensiona# Principle Component Analysis, (2D)2PCA)法,在图片的行列方向同时进行 降维，得的协方差矩阵更小，求投影矩阵的速度 更快。PCA方 易 常样本的影响，因 研究人员采用D范式对其约束， 的鲁棒性，代表方法有 PCA-L1*10］、2DPCA-L1*11］、R1-PCA*12］。但上 方 取岀的 仍然是密集的 ，而研究人员希望从大 选岀最 最突岀的 ，以进一步 模型。因此，文献*13］岀的稀疏建模 广泛的 ，并研究人员尝试将稀疏 论运用于PCA，例如文献* 14 +提出稀疏的主成分分析方法(Sparse Principle Component Analysis，SPCA)，文献 * 15 + 出结 构化SPCA,文献*16 +证明 在L$范式 下SPCA

的鲁棒性$本文将基于L1范数的SPCA推广到(2D)2PCA

中，提岀(2D)2PCA-L1S方法，采用L1范数约束提高鲁

棒性,并在目标函数中加入弹性网*14］ 实现稀疏化。1鲁棒稀疏的(2D)&PCA方法1.1

(2D)2PCA 方法(2D)2PCA可以直接对二维图像行和列2个方

向同时进行降维，其协方差矩阵只与图片的尺寸有， 故协方差 数 小， 求 投 矩阵 为 易$

设样本图片集x= 2(1，(2，…,心4，每张图片的 尺寸为m 3!, 样本行方向的协方差矩阵为：G1 '；=+! ((%T(() (1)%1其中,(— =(-(—,(— ..=—1 !'(%求取协方差矩阵o;的

%1P 最大 应的特征向量， 方向最佳投影方向X°pt = * +1, +2，…,Xp ］$同理，列方向的

协方差矩阵为:1 'Gt %-1(兀)(()T (2)将协方差矩阵G；的 g个最大

应的特征向量， 方向的最佳投影方向Z°pt = * Z1,Z2，…,Z」$获得 片在行和 的投影矩阵之后, 将尺寸为m3!的图片向这2个方向投影,得到q 3 P 的 矩阵:6 =ZT(.■+,% = 1,2 ,•••,'

(3 )1.2 基于-范数的(2D)2PCA方法基于L2范数的(2D)2PCA在遇到异常值时表

令兮e展\"表示(%的第/行向量,将I (&)改

写为：N mI(&) = %! 1 @! 1 T%

(5)使用迭代算法寻得最优& & ：Nm! ! & + 1 =^=B(；( ；) =Nm----------------- (6)! !1 B(;)(2B(；) =sign(&(；)(”)J =1,2,…,m；i =1,2,…,N(7)

迭代直至I(&)收敛最大值。行方向投影矩阵中其

余＞-1 向和列方向投影矩阵的 向量也用同样的迭代方法求得$1.3基于Li 的 (2D) 2PCA方法基于L1范数的(2D)2PCA方法,

目标函数中没有权 项,求得投影矩阵的权重往往是非零且密集的,因

取岀的

样本

的线性 ， 冗余性

义 性差。弹性网正数Lasso与Ridge的线性 ，在这2项正

下求得的投影矩阵是稀疏的，能将高的

一并选出，去除冗余成分*17］ $因,本文提出基于L1范数的稀疏化(2 D)2 PCA方法

((2 D)2 PCA-L1S)，在目标函数中引入弹性网来实

稀疏性, 目 标 数的表 式 下：1(&) =!!丨&(% -训&2 -!&

8)i = 1j - 1 2(用迭代算法寻找最优的投影矩阵&&，使1 (&)达

最大值。迭代

方向投影矩阵为例,列方向投影矩阵寻优方法与行方向一致$Nm)(；=%=1! !=1s”(；(%

(9)(;)/

R(; ___________________\\TW

人+.1 R(；|，!+.| R(；|，，!+. R(； 丿(10)R(；是特征向量&的第#个值：R； + 1) =)(； °w(；

(11)其中，

符。表示2个向的 $ 代1(&)收 最大值，行方向投影矩阵中其余P -1 向 用 样的 代方 求得$23 4计算机工程2019年12月15日2基于粒子群优化的SVM参数优化文献［18 ］提出的粒子群优化(Particle Swarm

Optimizetion,PSO)算法求解参数少，收敛速度快，已

广泛应用于模式识

。PSO 随：生一定数量的 群,每 的位置都由适应度函数进行打分,根据分数选出每一种群里最优的粒 , 生

群里最优的

，然后

的位置根据这2种最

进行位置的迭代更新,目的是找 最优的位置。因为SVM

数和核函数参数的取值对模型识别性能有着决定性的影响，

本文利用PSOSVM模型参数进行寻优$ SVM 数选择

径向基函数(Radial Basis Function, RBF),用粒子的

(、)坐标值分别代表SVM惩罚参数 < 和 数参数 I,评

位置的适应 数由!折交 下验的平均识 表示,每一轮迭代在 的 ：群 选 出 最 和 最 , 然 后 的 位置根据这2个最 进 代更新， 设置的期望适应 最大迭代次数时停止迭代，这时 最

的坐标 最 数 < 和I的，数寻优流 1

$图1利用PSO优化SVM参数的流程3实验与结果分析3.1图像分类实验采用Feret人脸库，该人脸库包含200人, 每人7

1 400 $本文采用最 分 ，随机选取每人4 为 ，剩余3 为测试集,分别利用(2 D)2 PCA-1S、PCA、2 DPCA、

(2D)2PCA和(2D)2PCA-1方法提取人脸特征并

进行人脸识别，实 2 $图2 5种方法分类准确率对比从图2可以看出，当特征数持续增加时,PCA方

法的人脸识别率最低,其 2DPCA、(2D)2PCA和 (2 D)2 PCA-1方, 的识别曲线几乎重叠，而 识 最高的是(2D)2PCA-1S方法。这说明在

5 方 ，本文方法能更加 地提取 主要 信息$得注意的是,在稀疏化的过 ，可调参数

B—g (.-) 的性能影响较大$为 可调参数对识别性能的影响,实 测(2D)2PCA-1S

方法在b二-3 , - 1,0,1,3时的人脸识别效果，结果3所示$

: b二-3和B--1时,分随着

数的增加

的趋势；而当B-1和B二3时,分

随着

数的增加呈现下降的趋势$在实际应用中,可 根据需求来选择

不同的S值以满足稀疏化和识

的要求$0.600.55 「憾el\" t WAHSF二M °-40 f 035

小 0.300.250.200」50.100 5 10 15 20 25 30提取的基向量数目图3不同稀疏化参数对本文方法识别效果的影响3.2 图像重构实 选择 Yaee 人 , 人 15 人, 每人11

165 ,每 大小为100像素3100像素$随机在20%的 加矩阵噪声，添加了噪声的异常 4 $第45卷第12期张裕平，龚晓峰，雒瑞森:基于稀疏化双向二维主成分分析的人脸识别235图4包含噪声的图像对噪声污染的Yale数据集,分 采用PCA、2 DPCA、( 2 D)2 PCA' ( 2 D)2 PCA-L1 和(2 D)2 PCA-L1S方进 重建,

重建的平均误差,5

$2 2002 000\\\\---PCA-----方法1 800-\\\\-——

……2DPCA方法(1 600-\\ '、、-一一 (2D)2D) 2PCAPCA-L1方法 方法(2D)2PCA-L1S方法驱 1 400-\\會 1 200-\\......--…虫 1 000-\\性800600-400■J••二■-- 200o1 1 ------------510

15 20 25 30提取的基向量数目图5 5种方法重构图像的平均误差曲线5可看出,随着 数的增加,各 的

平均误差均 下降,(2D)2PCA-L1S 的平均重构误差明显小于其他方法的平均重构误差$

(2D)2PCA-L1曲线数值明

(2D)2PCA曲线,明基于L1范数的方法能 的鲁棒性,抗噪声干扰能力增强；(2 D)2 PCA-L1S 线数 无于

(2D)2PCA-L1曲线，说明引入稀疏化能增强特征选择 的能力$实验还给出了 (2D)2PCA-L1S方法中不同 的稀疏6 $ 数随着s取 B 的 加重构效果的影响 , 重 的 均误，结 差下降趋势，当b=3时 重构效果最好$提取的基向量数目6不同稀疏化参数下本文方法的平均重构误差3.3 基于PSO算法SVM

的人脸识别实验选择Yale人 ，人 15人&每人11 165

,每

大小为100 素3100 素$PSO

的

数 < 和RBF参数I均设置为(0,100 ](经 < 为2,1为1 /#, #为数据样本维数)，搜索参数<1 =1.6 , <2 = 1 - 5 ,权重系数w二 1,群数量为50 ,最大迭代数为50 , PSO的适应度 数由5折交 下 识 的平均值表$实随机选取每人6 为 ，剩余5 为测 $在每 代过 始 最佳适应度和平均适应度进行比较， 得 的参数优化最优的。图7为本文方法在双向 降30 3 30时,经过PSO SVM参数得到的最 佳 适 应 和 群的 均 适 应 $7可以看出，当PSO进 4代时，适应最 佳 $ 均 适 应 始 最 佳 适 应,

明经PSO

后的参数更佳，避数取值陷入 最优$表1为经PSO

数 < 和I后的SVM模型识 ,表2为依据经验选取参数 < 和I的SVM模

型识 。对比表1和表2 ,经过PSO 数的SVM 模型识 明 数 经 取 的 SVM 模型识 ，表明经PSO 地模型泛化能力更好$表1基于PSO优化SVM参数的人脸图像识别性能训练集测维数1识/%P%5 355.065 500 . 233 575 . 5688 . 0010 3 103.537 200 . 014 882.2293.3315 3 155 t653 300. 005 886 . 6794 . 6720 3 202 . 031 000. 016 990 . 0092 . 0025 3 250.1 2212.395 382.2293.3330 3 304.443 607 . 631 288 . 94.67表2SVM取

值的脸图 别能数/%5 3521 /2574 . 6710 3 1021 /10084 . 0015 31521 /25584 . 0020 32021 /400 . 3325 32521 P62582.6730 3 3021 P90086 . 6723 6计算机工程2019年12月15日4结束语针对(2D)2PCA算法对异常值敏感、抗干扰性差 以及特征向量不具有稀疏性的问题，本文提出一种基

[ 8 ] YANG Jian, ZHANG D, FRANGL A F, +t ae.Two-

dimensional PCA：a new approach to appearance-based face

rpr+s+ntation and r+cognition [ J] .LEEE Transactionson

Patrn Anaeysisand Machin+ Lnt eig+nc+, 2004 , 26 ( 1) ：

131 -137.[ 9 ] ZHANG Daoqiang , ZHOU Zhihua. ( 2D ) 2 PCA： two-

于L]范数的稀疏(2D)2PCA方法，不仅提高了算法的 鲁棒性，而且使稀疏化后的特征具有较好的语释 性。人脸图像的识别和重构以及基于PSO算法优化 SVM参数的识别实验结果，均验证了本文算法的有效 性。由于本文实验所采用的人脸数据集规模较小，因

dir+ctionae two-dim+nsionae PCA for +ficint fac+

r+pr+s+ntation and r+cognition [ J ] . N+urocomputing,

2005,69(1 /2 /3) ：224-231.[10 + KE Qifa,KANADE T. Robust L1 -norm factorizetion in

此下一步将扩大实验数据集，同时改进PSO算法优化 SVM参数的过程，以加强粒子搜寻空间能力$参考文献[1 ] ZHAO W, CHELLAPPA R, PHILLIPS P J, et aL Face

recognition： a literature survey [ J + . ACM Computing Surveys,2003 ,35 (4) ：399-458.[2 + YU Qiang, WANG Rong, YANG Xiaojun, et aL

Diagonae principae component analysis with non-greedy L1 -norm maximizetion for face recognition [ J +. Neurocomputing ,2016,171 ：57-62.[3 + WANG Haixian. Block principae component analysis withL1-norm for image analysis [ J +. Pattern Recognition LeterF,2012,33(5) ：537-542.the presence of outliers and missing data by alternative

convex programming [ C] //Proceedingsof 2005 LEEE

ComputerSociety Conferenceon ComputerVision and Patern Recognition. Washington D.C. , USA： LEEE

Press,2005：739-746.[ 11] LLXueeong, PANG Yanwei, YUAN Yuan. L1-norm-

based 2DPCA[ J]. ILEE Transactions on Systems ,2009 , 40(4) ：1170-1175.[12] DLNG C, ZHOU Ding, HE Xiaofeng, et ae.R1-PCA：

rotationaeinvariantL1-norm principaecomponentanaeysis

for robust subspace factorization [ C + ///roceedings of ie

23rd Lnternationae Conference on Machine Learning. New York,USA：ACM Pres,2006：281-288.[4 + ZENG Dingheng, ZHONG Huicei. An incremental

leerning face detection algorithm oriented to wireless vid+o browsing [ J ] .Journae of Chin+s+ Computr Syst ms,2014,35(6) ：1357-1357. ( in Chin+s+)曾定衡，钟汇才•面向无线视频浏览的增量学习人脸

检测算法研究[J].小型微型计算机系统,2014 , 35(6) ：1357-1357.[ 5 ] ZHANG Jianming, LLU Yangchun, WU Hong ein. Fac+

r+cognition aegorithm bas+d on +xtr+m+earning machin+ and subspac+pursuit[ J] . Comput r Engin++ring, 2016, 42(1) ：168-173. ( in Chin+s+)[ 13 ] WRLGHTJ, MAYi, MALRALJ, etae.Sparserepresentation

for computer vision and patern recognition [ J ] .

ProceedingsoftheLEEE,2010,98(6) ：1031-1044.[ 14] ZOU Hui, HASTLET, TLBSHLRANLR.Sparseprincipae

componentanaeysis [ J] .JournaeofComputationaeand GraphicaeStatistics,2006,15(2) ：265-286.[15 + JENATTON R, OBOZINSKI G, BACH F. Structured

sparse principa e component anaeysis [ J] $Journa e of

Machine Leerning ,2009 ,9 (2) ：131 -160.[ 16 ] MENG Deyu, ZHAO Qian, XU Zhongben$Lmprove

张建明，刘阳春,吴宏林，等•基于极限学习机与子空间追

踪的人脸识别算法* J] •计算机工程,2016,42 (1\": 168-173.[ 6 ] ZHANGCaixia, HU Hongping, BALYanping.Fac+rcognition

meiod based on sparse subspace clustering [ J]. Faa ConWol and Command Contro e,2017 ,42( 4) ：29-32. (in Chin+s+)

robustnessofsparsePCA by L1 -norm patern recogni- tion[ J] $Patern Recognition,2012,45( 1 ) ：487-497$[ 17 ] ZOU Hui, HASTLE T$ Reguearieation and variabee

seeection via the eeastic net [ J] $Journa eof the Roya e StatisticaeSociety,2005,67(2) ：301-320$[ 18 ] KENEDY J, EBERHARTR$Particeeswarm optimieation[ C] //

张彩霞，胡红萍，白艳萍•基于稀疏子空间聚类的人脸

识别方法* J] •火力与指挥控制,2017 ,42(4) ：29-32.[ 7 ] JOLLLFFELT.Principae compon+nt anaeysis [ M ] .Procedings of LEEE Lnternationae Conference on Neurae Networks$Washington D$C$, USA： LEEE Pres, 1995 ：

1942-1948$B+rein, G+rmany： Spring+r,1986.编辑刘盛龄(上接第231页)[26] STURM J,ENGELHARD N,ENDRESF,+tae.A b+nchmark

[ 28] KOHLBRECHER S,VON STRYK O, MEYER J, etaeA feexibeeand scaeabeeSLAM system with fu e3D motion estimation [ C] //Proceedingsof 2011 LEEE Lnternationae Symposium on Safety, Security, and Rescue Robotics$ Washington D.C,USA：ILEE Press,2011 ：155-160.[29] SANTOSJM,PORTUGALD,ROCHA R P$An evaeuation of

2D SLAM techniquesavaieabeein robotoperating system[ C] // Proceedingsof 2013 LEEELnternationaeSymposium on Safety, Security, and RescueRobotics$Washington D$C$, USA： LEEE Pres,2013：1-6$for tie evaluation of RGB-D SLAM systems [ C + //

Proc++dingsof 2012 LEEEjRSJLntrnationaeConf+rnc+on

Lnteig+ntRobotsand Systms.Washington D.C. , USA： LEEEPr s,2012：573-580.[ 27] ENDRESF, HESS J, ENGELHARD N, +t ae.An

+vaeuation ofth+RGB-D SLAM systm[ J] .Proc++dings of LEEE Lntrnationae Conf+r+nc+ on Robotics and Automation.Washington D.C. ,USA： LEEEPr+ss,2012：

1691-1696.辑