基于Lp范数的非负矩阵分解并行优化算法

h t t p ：∥w w w ．j s j k x ．c o r n 基于L p 范数的非负矩阵分解并行优化算法 黄路路1唐舒字2张伟3 代祥光3 1 重庆三峡学院电子与信息工程学院重庆4 0 4 1 0 0 2 重庆三峡学院计算机科学与工程学院重庆4 0 4 1 0 0 3 重庆三峡学院智能信息处理与控制重庆高校市级重点实验室重庆4 0 4 1 0 0 ( h u a n g l l u 0 @ 1 6 3 ．c o r n ) 摘要 非负矩阵分解算法可以从高维数据中提取出低维和稀疏的有用信息，是处理图像聚类、数据压缩和特征提取等问题的 重要手段。传统非负矩阵分解算法大多采用欧几里得距离来度量重构误差，尽管其在许多任务中已经显示出有效性，但在解决 实际应用问题时仍面临着聚类效果欠佳、收敛速度慢、稳定性较差等问题。为解决这些问题，文中采用L p 范数作为非负矩阵 分解的损失函数，通过调节系数P 来获得更好的聚类结果。基于协同优化理论和M a j o r i z a t i o nM i n i m i z a t i o n 算法，使用粒子群 优化算法来并行求解基于L p 范数的非负矩阵分解问题，并在多个真实数据集上验证了所提方法的可行性和有效性。实验结 果表明所提算法明显提升了程序的执行效率且一系列评价指标均优于传统非负矩阵分解算法。 关键词：非负矩阵分解；L p 范数；聚类；并行优化；收敛速度 中图分类号T P 3 9 1 N o n —n e g a t i v eM a t r i xF a c t o r i z a t i o nP a r a l l e lO p t i m i z a t i o nA l g o r i t h mB a s e do nL p - n o r m H U A N GL u l u l ．T A N GS h u y u 2 ．Z H A N GW e i 3a n dD A IX i a n g g u a n 9 3 1S c h o o lo fE l e c t r o n i c sa n dI n f o r m a t i o nE n g i n e e r i n g ，C h o n g q i n gT h r e eG o r g e sU n i v e r s i t y ，C h o n g q i n g4 0 4 1 0 0 ，C h i n a 2S c h o o lo fC o m p u t e rS c i e n c ea n dE n g i n e e r i n g ，C h o n g q i n gT h r e eG o r g e sU n i v e r s i t y ，C h o n g q i n g4 0 4 1 0 0 ，C h i n a 3K e yL a b o r a t o r yo fI n t e l l i g e n tI n f o r m a t i o nP r o c e s s i n ga n dC o n t r o l ，C h o n g q i n gT h r e eG o r g e sU n i v e r s i t y ，W a n z h o u ，C h o n g q i n g4 0 4 1 0 0 ，C h i n a A b s t r a c tN o nn e g a t i v em a t r i xf a c t o r i z a t i o na l g o r i t h mi sa ni m p o r t a n tt o o lf o ri m a g ec l u s t e r i n g ，d a t ac o m p r e s s i o na n df e a t u r ee x t r a c t i o n ．T r a d i t i o n a ln o nn e g a t i v em a t r i x { a c t o r i z a t i o na l g o r i t h m sm o s t l yuseE u c l i d e a nd i s t a n c et om e a s u r er e c o n s t r u c t i o ne r r o r ， w h i c hh a ss h o w ni t se f f e c t i v e n e s si nm a n yt a s k s ，b u ts t i l lh a st h ep r o b l e m so fs u b o p t i m a lc l u s t e r i n gr e s u l t sa n ds l o wc o n v e r — g e n c e ．T os o l v et h e s ep r o b l e m s ，t h el o s sf u n c t i o no fn o n —n e g a t i v em a t r i xf a c t o r i z a t i o ni sr e c o n s t r u c t e db yL p —n o r mt oo b t a i nb e t t e r c l u s t e r i n gr e s u l t sb ya d j u s t i n gt h ec o e f f i c i e n tP ．B a s e do nt h ec o l l a b o r a t i v eo p t i m i z a t i o nt h e o r ya n dM a j o r i z a t i o nM i n i m i z a t i o na l g o r i t h m ，t h i sp a p e ru s e st h ep a r t i c l es w a r mo p t i m i z a t i o nt os o l v et h en o nn e g a t i v em a t r i xf a c t o r i z a t i o np r o b l e mo fr e c o n s t r u c t i o n i np a r a l l e l ．T h ef e a s i b i l i t ya n de f f e c t i v e n e s so ft h ep r o p o s e dm e t h o di sv e r i f i e di nr e a ld a t a s e t s ，a n dt h ee x p e r i m e n t a lr e s u l t ss h o w t h a tt h ep r o p o s e da l g o r i t h ms i g n i f i c a n t l yi m p r o v e sp r o g r a me x e c u t i o ne f f i c i e n