黄庆明模式识别与机器学习作业
· 在一个 10 类的模式识别问题中， 有 3 类单独满足多类情况1， 其余的类别满足多类情况2。 问该模式识别问题所需判别函数的最少数目是多少？ 应该是31C 7 4 2 7*6 421 25 2 其中加一是分别 3 类 和 7 类 ·一个三类问题，其判别函数如下： d1(x)=-x1, d2(x)=x1+x2-1, d3(x)=x1-x2-1 (1)设这些函数是在多类情况1 条件下确定的，绘出其判别界面和每一个模式类别的区域。 (2)设为多类情况 2，并使：d12(x)= d1(x), d13(x)= d2(x), d23(x)= d3(x)。绘出其判别界面和多类 情况 2 的区域。 (3)设 d1(x), d2(x)和 d3(x)是在多类情况 3 的条件下确定的，绘出其判别界面和每类的区域。 ·两类模式，每类包括5 个 3 维不同的模式，且良好分布。如果它们是线性可分的，问权向 量至少需要几个系数分量？假如要建立二次的多项式判别函数， 又至少需要几个系数分量？ （设模式的良好分布不因模式变化而改变。 ） 如果线性可分，则 4 个 2 建立二次的多项式判别函数，则C 5 10个 ·(1)用感知器算法求下列模式分类的解向量w: ω1: {(0 0 0)T, (1 0 0)T, (1 0 1)T, (1 1 0)T} ω2: {(0 0 1)T, (0 1 1)T, (0 1 0)T, (1 1 1)T} 将属于ω2的训练样本乘以（-1） ，并写成增广向量的形式。 TTTT x①=(0 0 0 1) , x②=(1 0 0 1) , x③=(1 0 1 1) , x④=(1 1 0 1) TTTT x⑤=(0 0 -1 -1) , x⑥=(0 -1 -1 -1) , x⑦=(0 -1 0 -1) , x⑧=(-1 -1 -1 -1) T 第一轮迭代：取 C=1，w(1)=(0 0 0 0) T T 因 w (1) x①=(0 0 0 0)(0 0 0 1) =0 ≯0，故 w(2)=w(1)+ x①=(0 0 0 1) T TT 因 w (2) x②=(0 0 0 1)(1 0 0 1) =10，故 w(3)=w(2)=(0 0 0 1) TTT 因 w (3)x③=(0 0 0 1)(1 0 1 1)=10，故 w(4)=w(3) =(0 0 0 1) TTT 因 w (4)x④=(0 0 0 1)(1 1 0 1)=10，故 w(5)=w(4)=(0 0 0 1) TTT 因 w (5)x⑤=(0 0 0 1)(0 0 -1 -1)=-1≯0，故 w(6)=w(5)+ x⑤=(0 0 -1 0) TTT 因 w (6)x⑥=(0 0 -1 0)(0 -1 -1 -1)=10，故 w(7)=w(6)=(0 0 -1 0) TTT 因 w (7)x⑦=(0 0 -1 0)(0 -1 0 -1)=0≯0，故 w(8)=w(7)+ x⑦=(0 -1 -1 -1) TTT 因 w (8)x⑧=(0 -1 -1 -1)(-1 -1 -1 -1)=30，故 w(9)=w(8) =(0 -1 -1 -1) 因为只有对全部模式都能正确判别的权向量才是正确的解，因此需进行第二轮迭代。 第二轮迭代： TTT 因 w (9)x①=(0 -1 -1 -1)(0 0 0 1)=-1≯0，故 w(10)=w(9)+ x① =(0 -1 -1 0) 因 w (10)x②=(0 -1 -1 0)( 1 0 0 1)=0≯0，故 w(11)=w(10)+ x② =(1 -1 -1 1) TTT 因 w (11)x③=(1 -1 -1 1)( 1 0 1 1)=10，故 w(12)=w(11) =(1 -1 -1 1) TTT 因 w (12)x④=(1 -1 -1 1)( 1 1 0 1)=10，故 w(13)=w(12) =(1 -1 -1 1) TTT 因 w (13)x⑤=(1 -1 -1 1)(0 0 -1 -1)=0≯0，故 w(14)=w(13)+ x⑤ =(1 -1 -2 0) TTT 因 w (14)x⑥=(1 -1 -2 0)( 0 -1 -1 -1)=30，故 w(15)=w(14) =(1 -1 -2 0) TTT 因 w (15)x⑧=(1 -1 -2 0)( 0 -1 0 -1)=10，故 w(16)=w(15) =(1 -1 -2 0) TTT 因 w (16)x⑦=(1 -1 -2 0)( -1 -1 -1 -1)=20，故 w(17)=w(16) =(1 -1 -2 0) 因为只有对全部模式都能正确判别的权向量才是正确的解，因此需进行第三轮迭代。 第三轮迭代： w(25)=(2 -2 -2 0); 因为只有对全部模式都能正确判别的权向量才是正确的解，因此需进行第四轮迭代。 第四轮迭代： w(33)=(2 -2 -2 1) 因为只有对全部模式都能正确判别的权向量才是正确的解，因此需进行第五轮迭代。 第五轮迭代： w(41)=(2 -2 -2 1) 因为该轮迭代的权向量对全部模式都能正确判别。所以权向量即为(2 -2 -2 1),相应的判别 函数为d(x) 2x 1 2x 2 2x 3 1 (2)编写求解上述问题的感知器算法程序。 见附件 ·用多类感知器算法求下列模式的判别函数： ω1: (-1 -1)T ω2: (0 0)T ω3: (1 1)T 将模式样本写成增广形式： TTT x①=(-1 -1 1) , x②=(0 0 1) , x③=(1 1 1) T 取初始值 w1(1)=w2(1)=w3(1)=(0 0 0) ，C=1。 T 第一轮迭代（k=1） ：以 x①=(-1 -1 1) 作为训练样本。 T d1(1)=w 1 (1)x ①=(0 0 0)(-1 -1 1) =0 TTT T d2(1)=w2(1)x①=(0 0 0)(-1 -1 1) =0 T T T T d3(1)=w3(1)x①=(0 0 0)(-1 -1 1) =0 因 d1(1)≯d2(1)，d1(1)≯d3(1)，故 T w1(2)=w1(1)+x①=(-1 -1 1) T w2(2)=w2(1)-x①=(1 1 -1) T w3(2)=w3(1)-x①=(1 1 -1) T 第二轮迭代（k=2） ：以 x②=(0 0 1) 作为训练样本 T d1(2)=w 1 (2)x ②=(-1 -1 1)(0 0 1) =1 T d2(2)=w2(2)x②=(1 1 -1)(0 0 1) =-1 T T T d3(2)=w3(2)x②=(1 1 -1)(0 0 1) =-1 T 因 d2(2)≯d1(2)，d2(2)≯d3(2)，故 T w1(3)=w1(2)-x②=(-1 -1 0) T w2(3)=w2(2)+x②=(1 1 0) T w3(3)=w3(2)-x②=(1 1 -2) T 第三轮迭代（k=3） ：以 x③=(1 1 1) 作为训练样本 d1(3)=w 1(3)x③=(-1 -1 0)(1 1 1) =-2 T T d2(3)=w2(3)x③=(1 1 0)(1 1 1) =
蚂蚁文库