摘自：http://blog.csdn.net/masibuaa/article/details/8119032

有齐次线性方程AX=0,且rank(A)=r<n时,该方程有无穷多个解，

可以用matlab 中的命令 x=null(A, r)求其基础解系.其中:r=rank(A)

例：

A=[    1       1       1       1      -3      -1       1
       1       0       0       0       1       1       0
      -2       0       0      -1       0      -1      -2]

用matlab 求Ax=0的基础解析的解程序为:

A=[1 1 1 1 -3 -1 1;1 0 0 0 1 1 0;-2 0 0 -1 0 -1 -2];
r=rank(A);
y=null(A, ‘r’ )

得到解为:
 y=[    0      -1      -1       0
       -1       2       1       1
        1       0       0       0
        0       2       1      -2
        0       1       0       0
        0       0       1       0
        0       0       0       1]

其列向量构成Ax=0的一个基础解系。