①由于BA=0,且A非零和r(B)>1,
因此r(A)+r(B)<3
∴r(A)<3-r(B)=1
∴A三行是对应成比例的
∴
=1 a
=?1 1
,2 c
=1 b
?1 ?2
解得:a=-1,b=2,c=-2.
②由于A=
,因而A的特征多项式为
1
?1
2
?1
1
?2
2
?2
4
|λE?A|=
=λ2(λ-6)=0
λ?1
1
?2
1
λ?1
2
?2
2
λ?4
解得,特征值为:0(2重),6(1重).
③当λ=0时,解AX=0,得基础解系:p1=(1,1,0)T,p2=(?2,0,1)T
当λ=6时,解(6E-A)X=0,得基础解系:p3=(1,?1,2)T
∴存在可逆矩阵P=
1
?2
1
1
0
?1
0
1
2