二、 稳定性问题的解法
[常系数齐次线性微分方程组平衡点的稳定性问题] 为了简便起见，只研究含两个未知函数的方程组
式中a11,a12,a21,a22都为实数，且
从特征方程
算出特征根λ1，λ2，依次代入下面方程组：
分别确定出两组解
和
.
这时线性方程组的平衡点x≡0,y≡0的稳定性可分下列几种情况讨论.
1° 特征根是实数：
通解的形式是
式中c1,c2为任意常数.
(i) 
1<0,2<0
零解是渐近稳定的.轨道形状如图13.1(a)（箭头表示t增大的方向，下同）.这种类型的平衡点(0,0)称为稳定结点.
(ii)1>0,2>0
零解是不稳定的.轨道形状如图13.1(b).这种类型的平衡点(0,0)称为不稳定结点.
(iii) 1>0,2<0
零解是不稳定的.轨道形状如图13.1(c).这种类型的平衡点(0,0)称为鞍点.
(a) (b) (c)图13.1
2° 特征根是复数：
通解的形式是
式中c1,c2是任意常数，c1*,c2*是c1,c2的线性组合.
(i) 1,2=p
iq, p<0, q
0.
零解是稳定的.轨道形状如图13.2(a).这种类型的平衡点(0,0)称为稳定的焦点.
(ii)1,2=piq, p>0, q0.
零解是不稳定的.轨道形状如图13.2(b).这种类型的平衡点(0,0)称为不稳定的焦点.
(iii) 1,2=iq, q0.
零解是稳定的.轨道形状如图13.2(c).这种类型的平衡点(0,0)称为中心，中心是稳定的.
图13.2
3° 特征方程有重根：
通解的形式是
(i) 1=2<0
零解是渐近稳定的.轨道形状如图13.3(a).这种类型的平衡点(0,0)称为稳定的退化结点.
如果
.零解是稳定的结点，称为临界结点.轨道形状如图13.3 (b).
图13.3
(ii) 1=2>0
零解是不稳定的.轨道形状如图13.3(a)与(b),但箭头的方向相反.这种类型的平衡点(0,0)称为不稳定的退化结点与不稳定的临界结点.
综合上述各种情况可得如下结论：如果特征方程的根都有负的实部，那末零解是稳定的，而且是渐近稳定的；如果特征方程有一个具有正实部的根，那末零解是不稳定的.
这个结论，对一般的常系数齐次线性微分方程组
也是成立的.
定理 如果常系数齐次线性微分方程组的特征方程
所有的根的实部都是负的，则零解是渐近稳定的；如果特征方程的所有根中至少有一个实部为正的根，则零解是不稳定的.
[按一次近似判定稳定性] 考虑方程组
式中aij (i,j=1,2,…,n)是常数，Ri(x1,x2,…,xn) (i=1,2,…,n)对
来说是不低于二阶.
其一次近似方程组为
研究一次近似方程组的特征根i (i=1,2,…,n)的各种情况可以判定稳定性.有两个基本定理：
第一定理 如果一次近似方程组的所有特征根都具有负的实部，那末原方程组的零解是渐近稳定的.
第二定理 如果一次近似方程组的特征根至少有一个具有正实部，那末原方程组的零解是不稳定的.
这两个定理包括了所有可以用一次近似方程组来研究原方程组零解的稳定情况（称为非临界情况）.至于至少有一个实部为零的根，而其他各根都有负的实部的临界情况，方程组右边的高阶项对于零解的稳定性起着重要的作用，因而一般不可能借一次近似方程组来研究稳定性问题.
[胡尔威茨判别法] 它是直接利用特征方程的系数所构成的行列式的某些性质来判别常系数线性微分方程组零解稳定性的方法.
设常系数线性微分方程组的特征方程为
那末常系数线性微分方程组零解是渐近稳定的充分必要条件是：a0>0，且所有的胡尔威茨行列式
都是正的（最后的Δn>0可用条件an>0代替）.
如果Δn=0，那末由于Δn=anΔn-1=0，必有an=0或Δn-1=0.若an=0，则特征方程有零根；若Δn-1=0，则特征方程有纯虚根，在这两种情况下，零解可能是稳定的也可能是不稳定的.
特征方程是二次、三次和四次时的胡尔威茨判别条件（为作图方便，以下都取a0=1）：
(i) 特征方程：
胡尔威茨条件为 a1>0, a2>0
稳定区域见图13.4(a).
(ii) 特征方程：
胡尔威茨条件为 
稳定区域见图13.4(b).
图13.4
(iii) 特征方程：
胡尔威茨条件为 
.
[李雅普诺夫第二方法（直接方法）] 研究微分方程组
(1)
的平衡点的稳定性有一个比较一般的方法，即所谓李雅普诺夫方法.
1° 李雅普诺夫稳定性定理 对于方程组(1)，如果可以找到一个在原点邻域满足下列条件的可微函数V(x1,x2,…,xn)（称为李雅普诺夫函数）：
(i) V(x1,x2,…,xn) ≥0（或≤0），且只在xi=0 (i=1,2,…,n)时，V=0.
(ii) 当t≥t0时，V沿方程组(1)的积分曲线的全导数
(或
)
那末方程组(1)的平衡点xi=0 (i=1,2,…,n)是稳定的.
2° 李雅普诺夫渐近稳定性定理 对于方程组(1)，如果可以找到一个在原点的邻域内满足下列条件的可微函数V(x1,x2,…,xn)（称为李雅普诺夫函数）：
(i) V(x1,x2,…,xn)≥0（或≤0），且只在xi=0 (i=1,2,…,n)时，V=0.
(ii) 沿方程组(1)的积分曲线的全导数
(或
)
而在原点某适当小的δ邻域外部（即
），t≥t0时，
（或
）那末方程组(1)的平衡点xi=0 (i=1,2,…,n)是渐近稳定的.
例 研究微分方程组
在平衡点x=0,y=0 的稳定性.
解 这个方程组的一次近似方程的特征方程有两个纯虚根，因此是一临界情况，不能用一次近似方法研究.现用李雅普诺夫方法.取
因为
(i) 
(ii) 
对于任意的δ>0，当
,t>t0时，
.所以，平衡点(0,0)是渐近稳定的.