考虑如下方程的特征值问题，设$ q(x) \in C(\bar \varOmega ), {\lambda _1}(q(x))$是下面边值问题的主特征值

λ₁(q(x))关于q(x)递增.记λ₁(0)=λ₁，对应的主特征函数记作ψ₁ (ψ₁＞0，x∈Ω).

考虑非线性边值问题

若a＜λ₁，则u=0是(3)式的唯一非负解；若a＞λ₁，则(3)式有唯一正解，记为θ_a，θ_a关于a单调递增.

同理，考虑非线性边值问题

若b＜λ₁，则v=0是(4)式的唯一非负解；若b＞λ₁，则(4)式有唯一正解，记为θ_b，θ_b关于b单调递增.以上结论可参考文献[13].

令

由于

因此在$ \mathbb{R}_ + ^2 = \{ u \ge 0, v \ge 0\} $上，映射(u，v)→(U，V)是可逆且连续的，(u，v)是(U，V)的函数，且(u，v)和(U，V)之间存在一一对应关系，则系统(1)的平衡态方程等价于如下椭圆系统

显然方程(5)存在平凡解(0，0)，此外，当a＞λ₁时方程(5)存在平凡解(θ_a，0)；当b＞λ₁时方程(5)存在平凡解(0，kθ_b).令${C_0}(\bar \varOmega ) = \left\{ {U \in {C_0}(\bar \varOmega ):U = 0, x \in \partial \varOmega } \right\} $，并定义算子$ {L_a}w = - \Delta w - \left( {a - 2{\theta _a}} \right)w$，$w \in {C^2}(\varOmega ) \cap {C_0}(\bar \varOmega ) $.易知，算子L_a的所有特征值都是正的，这说明L_a可逆.

引理1  若a≤λ₁或者b≤λ₁，则方程(5)没有正解.

证  假设方程(5)有正解(U，V)，由方程(5)关于U的方程可得

两边同乘U，在Ω上积分，结合Green公式得

由Poincaré不等式知${\lambda _1}\left\| U \right\|_2^2 < \left\| {\nabla U} \right\|_2^2 $.从而a＞λ₁，同理可得b＞λ₁.因此当a≤λ₁或b≤λ₁时，方程(5)没有正解.

引理2  若a，b＞λ₁，(U，V)是方程(5)的任一正解，则对于任意的x∈Ω，有

证  设存在${{x_0} \in \bar \varOmega } $，使得

由于

从而有

进而有v(x₀)＜au(x₀)＜a²，因此有

同理可得

从而定理得证.

由于分歧正解的存在性与特征值问题密切相关，因此在讨论分歧正解的存在性之前给出两个与分歧正解存在性相关的特征值引理.

引理3^[7]  设b＞λ₁，则存在唯一的a=a_*(b)∈(λ₁，+∞)，满足${\lambda _1}\left( {\frac{{ - b}}{{1 + \beta {\theta _a}}}} \right) = 0 $，且a=a_*(b)关于b严格单调递增.

引理4^[7]  设b＞λ₁，则存在唯一的a=a^*(b)∈(λ₁，+∞)，满足${\lambda _1}\left( {\frac{{ - a}}{{1 + \alpha k{\theta _b}}}} \right) = 0 $，且a=a^*(b)关于b严格单调递增.

设$C_0^1(\bar \varOmega ) = \left\{ {U \in {C^1}(\bar \varOmega ):U\mid \partial \varOmega = 0} \right\} $.定义$ C_0^1(\bar \varOmega )$中的范数为通常的Banach空间${{C^1}(\bar \varOmega )}$中的范数.令$X = C_0^1(\bar \varOmega ) \times C_0^1(\bar \varOmega ) $.则X是Banach空间.固定b＞λ₁，以a为分歧参数，讨论系统(5)发自半平凡解曲线$\left\{ {\left( {a;{U_*}, {v_*}} \right) = \left( {a;{\theta _a}, 0} \right), a > {\lambda _1}} \right\} $和$\left\{ {\left( {a;{U^*}, {v^*}} \right) = \left( {a;0, k{\theta _b}} \right), b > {\lambda _1}} \right\} $上的分歧正解.

令

其中(u，v)是(U，V)的函数，将(3)式在(U，V)=(θ_a，0)处Taylor展开得

其中(6)式中偏导数均为(θ_a，0)处的导数值，Qⁱ(a; U-θ_a，V)满足Qⁱ(a; U-θ_a，V)(0，0)=0，i=1，2，且有

定理1  设a＞λ₁，b＞λ₁，则$\left( {{a_*};{\theta _a}, 0} \right) \in {\mathbb{R} ^ + } \times X$为系统(5)的分歧点，且在(a_*；θ_a*，0)的邻域内存在正解，即

其中，ϕ∈C₀¹(Ω)，σ＞0充分小，(a(s)；ϕ₁(s)，ψ₁(s))是C¹连续函数，且满足a(0)=a_*，ϕ₁(0)=0，ψ₁(0)=0，$ \int_\varOmega {{\psi _1}} {\psi _ * } = 0$.且

证  在(6)式中，令$\bar U = U - {\theta _a} $，则有

显然G(a；0，0)=0.记G(a；U，V)关于(U，V)在(a_*；0，0)处的Fréchet导数为L(a_*；0，0).经计算L(a_*；0，0)(ϕ，ψ)=0等价于

如果ψ=0，则由算子L_a*可逆知ϕ=0，则ϕ不恒为0.又${\lambda _1}\left( { - \frac{b}{{1 + \beta {\theta _a}}}} \right) = 0 $，故有

因此算子L(a_*；0，0)的核空间N(L(a_*；0，0))=span{(ϕ_*，ψ_*)^T}.令L^*(a_*；0，0)为L(a_*；0，0)的自伴算子，经计算L^*(a_*；0，0)(ϕ，ψ)=0等价于

显然ϕ≡0.由$ {\lambda _1}\left( { - \frac{b}{{1 + \beta {\theta _a}}}} \right) = 0$得ψ=ψ_*.所以得N(L(a_*；0，0))=span{0，ψ_*}.由Fredholm选择定理知

因此得

令${L_1}\left( {{a_*};0, 0} \right) = D_{a(\bar U, v)}^2G\left( {{a_*};0, 0} \right) $.接着用反证法说明L₁(a_*；0，0)(ϕ_*，ψ_*)∉R(L(a_*；0，0)).假设存在(w₀，x₀)∈X，使得L₁(a_*；0，0)(ϕ_*，ψ_*)=L(a_*；0，0)(w₀，x₀).经过计算

那么有

两边同时乘ψ_*，然后在Ω上积分，结合Green公式得

由于

所以有

由于θ_a关于a严格单调递增，则(11)式左边大于0.从而矛盾，即L₁(a_*；0，0)(ϕ_*，ψ_*)∉R(L(a_*；0，0)).

至此，由Grandall-Rabinowitz简单特征值局部分歧定理^[12]知，存在充分小的σ＞0和C¹连续曲线$\left( {a(s);{\phi _1}(s), {\psi _1}(s)} \right):( - \sigma , \sigma ) \to \mathbb{R} \times X $，使得$a(0) = {a_*}, {\phi _1}(0) = {\psi _1}(0) = 0, {\phi _1}(s), {\psi _1}(s) \in \mathbb{Z} $，其中$X = \mathbb{Z} \oplus N\left( {L\left( {{a_*};0, 0} \right)} \right), (a(s);\bar U(x) $，v(x))=(a(s)；s(ϕ_*+ϕ₁(s))，s(ψ_*+ψ₁(s)))，满足$G(a(s);\bar U, V) = 0 $.因此$(a(s);\bar U(s), V(s)), (|s| < \sigma ) $是方程(5)的分歧解.其中$\bar U(s) = {\theta _a}, + s\left( {{\phi _*} + {\phi _1}(s)} \right) $，V(s)=s(ψ_*+ψ₁(s)).

同理可得发自半平凡解分支(a_*；0，kθ_b)的局部分歧正解.

定理2  设a，b＞λ₁，则$\left( {{a_*};0, k{\theta _b}} \right) \in {\mathbb{R} ^ + } \times X $为系统(5)的分歧点，且在(a_*；0，kθ_b)的邻域内存在正解，即

其中：${\psi ^*} \in {C_0}^1(\bar \varOmega ), \sigma > 0 $充分小，(a(s)；ϕ₂(s)，ψ₂(s))是C¹连续函数，满足a(0)=a^*，ϕ₂(0)=0，ψ₂(0)=0，$\int_\varOmega {{\phi _2}} {\phi ^*} = 0 $，且

本节主要参照文献[11-12]中的方法，将局部分支延拓为整体分支.这里取$ {P_1} = \left\{ {u \in C_0^1(\bar \varOmega ):u(x) > 0, x \in \varOmega , \frac{{\partial u}}{{\partial n}} < 0, x \in \partial \varOmega } \right\}$；$P = \left\{ {(a, U, V) \in {\mathbb{R}^ + } \times X:U, V \in {P_1}} \right\} $.

定理3  若a，b＞λ₁，则由定理1给出的分歧正解Γ^*在正锥P内可延拓为全局分歧，并且存在常数a_∞充分大，使得当a＞a_∞时，全局分歧曲线随参数a延伸到无穷.

证  (7)式等价于

定义算子$K:{\mathbb{R} ^ + } \times X \to X $为

$K(a;\bar U, V) $为X的紧可微算子.

令${K^\prime }(a) = {D_{(\bar U, V)}}K(a;0, 0) $.设μ≥1是K(a)的一个特征值，相应的特征值函数设为(ξ，η)且不恒为0，经计算(ξ，η)满足

若η≡0，由算子(-μΔ-a+2θ_a)可逆知ξ≡0，矛盾，则η≠0.令

则一定存在某个i(i=1，2，…)，使得λ_i(μ，h_a)=0.对任意i，λ_i(μ，h_a)关于μ≥1和a≥λ₁均严格单调递增，即λ₁(μ，h_a)＜λ₂(μ，h_a)≤λ₃(μ，h_a)≤…→∞.特别地，λ₁(μ，h_a)=0.另外，若存在某个i(i=1，2，…)，使得λ_i(μ，h_a)=0，则μ≥1一定为K′(a)的特征值.换言之，当且仅当有i存在使λ_i(μ，h_a)=0时，μ≥1是K′(a)的一个特征值.

令a＞a_*，∀μ≥1，i≥0有λ_i(μ，h_a*)≥λ₂(μ，h_a*)＞λ₁(1，h_a*).因此，K′(a)没有大于或等于1的特征值.此时有i(K(a；·)，0)=1.

设存在充分小的γ使得a_*-γ＜a＜a_*且λ₂(μ，a_*-γ)≥λ₁(μ，h_a*)，则对于∀μ≥1，i≥2有λ_i(μ，h_a)≥λ₂(μ，h_a)＞λ₂(μ，h_a*-γ)≥λ₁(μ，h_a*)＞λ₁(1，h_a*)=0.因λ₁(1，h_a)＜λ₁(1，h_a*)=0，$\mathop {\lim }\limits_{\mu \to \infty } {\lambda _1}\left( {\mu , {h_{{a_*}}}} \right) = + \infty $且λ₁(μ， h_a*)关于μ单调递增，则存在唯一的μ₁＞1，使λ₁(μ，h_a*)=0，从而有

其中$\bar \eta $＞0为下列方程特征值问题的主特征函数

其中

下面证μ₁的代数重数为1.只需证

若不然，为了不失一般性，设$ (\bar \xi , \bar \eta ) \in R\left( {{\mu _1}I - {K^\prime }(a)} \right)$，则存在(ξ，η)∈X，使得

即

在(16)式的两端同乘以$\bar \eta $，利用Green公式在Ω上积分得

另外，结合(16)式可得

与h_a＜0矛盾.故μ₁的代数重数为1.因此当a_*-γ＜a＜a_*时i(K(a；·)，0)=-1.

由全局分歧定理知，在${\mathbb{R} ^ + } \times P $内存在从(a_*； θ_a，0)出发的连通分支C₀满足G(a；ξ，η)=0且在(a_*；θ_a，0)附近. G(a；U，V)=0的所有零点都在定理1给出的那条分支曲线上.记

则C为系统(5)由(a_*；θ_a*，0)的解曲线，在(a_*；θ_a*，0)的小邻域内有C∈P，而且分支C-{(a_*；θ_a*，0)}满足下列条件之一：

1) C连接了分歧点(a_*；θ_a*，0)和$\left( {\tilde a;{\theta _{\tilde a}}, 0} \right) $，其中$I - {K^\prime }(\tilde a){\rm{ }} $不可逆且${a_*} \ne \tilde a $；

2) C在${\mathbb{R} ^ + } \times P $内由(a_*；θ_a*，0)延伸到∞.

下面证明C-{(a_*；θ_a*，0)}⊆P.假设$C - \left\{ {\left( {{a_*};{\theta _{{a_*}}} , 0} \right)} \right\} \not\subseteq P $，则存在点$\{ (\tilde a, {\rm{ }}\tilde U, \tilde V)\} \in C - \left\{ {\left( {{a_*};{\theta _{{a_*}}}, 0} \right)} \right\} \cap \partial P $和序列{a_n，U_n，V_n}⊆C∩P，U_n＞0，V_n＞0，使得n→∞时，$ \left( {{a_n}, {U_n}, {V_n}} \right) \to (\tilde a, {\rm{ }}\tilde U, \tilde V)$.由于(u_n，v_n)和(U_n，V_n)之间存在一一对应的关系知(u_n，v_n)→(θ_a，0).因此$\tilde U \in \partial {P_1} $或$ \tilde V \in \partial {P_1}$.

假设$\tilde U \in \partial {P_1} $，那么$\tilde U \ge 0, x \in \bar \varOmega $.则要么存在x₀∈Ω，使得$\tilde U\left( {{x_0}} \right) = 0 $；要么存在${x_0} \in \partial \varOmega $，使得${\left. {\frac{{\partial \tilde U}}{{\partial n}}} \right|_{{x_0}}} = 0 $.显然由最大值原理知$\tilde U \equiv 0 $.同理，假设$\tilde V \in \partial {P_1} $，则$\tilde V \equiv 0 $.因此$ (\tilde U, \tilde V)$有下面3种可能：

1) $(\tilde U, \tilde V) \equiv \left( {0, 0} \right) $；

2) $(\tilde U, \tilde V) \equiv \left( {{\theta _a}, 0} \right) $；

3) $(\tilde U, \tilde V) \equiv \left( {0, k{\theta _b}} \right) $.

首先利用反证法证明1)不成立.假设存在序列${\alpha _n} \to \infty , {a_n} \to \tilde a, \left( {{U_n}, {V_n}} \right) $在[L^∞(Ω)]²中收敛到(0，kθ_b)，由于(u_n，v_n)和(U_n，V_n)之间存在一一对应的关系知(u_n，v_n)→(0，kθ_b).令$ {{\tilde U}_n} = \frac{{{U_n}}}{{{{\left\| {{U_n}} \right\|}_\infty }}}$，则${{\tilde U}_n} $满足下面方程

由L^P估计和Sobolev嵌入定理知$\vec{U}_{n} \rightarrow u_{n} $(在C¹范数意义下)，且满足

所以$\tilde U = 0 $与${\left\| {{U_n}} \right\|_\infty } = 1 $矛盾.

接着证明2)不成立，假设$(\tilde U, \tilde V) \equiv \left( {{\theta _a}, 0} \right) $，则当n→∞时$\left( {{a_n};{U_n}, {V_n}} \right) \to \left( {\tilde a;{\theta _a}, 0} \right) $.令${{\tilde V}_n} = \frac{{{V_n}}}{{{{\left\| {{V_n}} \right\|}_\infty }}} $，则${{\tilde V}_n} $满足下面方程

由极大值原理知${\tilde V} $＞0，因此${\lambda _1}\left( { - \frac{b}{{1 + \beta {\theta _a}}}} \right) = 0 $与$\tilde a \ne {a_ * } $矛盾.

通过以上讨论知3)成立，即C-{(a_*；θ_a*，0)}⊆P.因为${\left\| {{U_n}} \right\|_\infty }, {\left\| {{V_n}} \right\|_\infty } $有界.则全局分歧曲线只能沿参数a延伸到∞.

注1  注意到$u(x) = \frac{U}{{1 + \alpha v}} < U, v(x) = \frac{V}{{1 + \beta u}} < V $，由引理2知u，v有界.

注2  注意到(u，v)≥(0，0)和(U，V)≥(0，0)之间存在一一对应的关系，由定理1和定理2知模型(5)存在分歧正解.

本节参考文献[14]的方法主要分析了系统(5)的平凡解和半平凡解的稳定性.显然系统(5)的平凡解是(0，0)，半平凡解是(θ_a，0)(a＞λ₁)，(0，kθ_b)(b＞λ₁).

定理4  1)若a＜λ₁且b＜λ₁，则平凡解(0，0)是渐近稳定的；相反地，若a＞λ₁或者b＞λ₁，则平凡解(0，0)是不稳定的.

2) 假设a＞λ₁.若$\lambda_{1}\left(-\frac{b}{1+\beta \theta_{a}}\right)>0 $，则(θ_a，0)是渐近稳定的；若$ {\lambda _1}\left( { - \frac{b}{{1 + \beta {\theta _a}}}} \right) < 0$，则(θ_a，0)是不稳定的.

3) 假设b＞λ₁.若$\lambda_{1}\left(-\frac{a}{1+\alpha k \theta_{b}}\right)>0 $，则(0，kθ_b)是渐近稳定的；若${\lambda _1}\left( { - \frac{a}{{1 + \alpha k{\theta _b}}}} \right) < 0 $，则(0，kθ_b)是不稳定的.

证  因为3种情况的证明过程相似，所以在此只证定理4中的情况(2).由线性化原理知，(θ_a，0)的稳定性由下面特征值问题决定

由于(18)中的方程不是完全对称的，需要考虑下面两个特征值问题

和

由文献[14]知(18)式的特征值是(19)式和(20)式的组合.分别记(19)式和(20)式的特征值为λ_*和λ^*，则有

为了研究λ^*，因V=(1+βu)v，则由主特征值的变分原理得

则有${\lambda _*} > {\lambda _1}\left( { - \frac{b}{{1 + \beta {\theta _a}}}} \right) $，此时$\lambda_{1}\left(-\frac{b}{1+\beta \theta_{a}}\right)>0 ; \lambda_{*}<\lambda_{1}\left(-\frac{b}{1+\beta \theta_{a}}\right) $，此时$ {\lambda _1}\left( { - \frac{b}{{1 + \beta {\theta _a}}}} \right) < 0$.

若${\lambda _1}\left( { - \frac{b}{{1 + \beta {\theta _a}}}} \right) > 0 $，则系统(5)所有的特征值都是正的，因此(θ_a，0)是渐近稳定的；另一方面，若${\lambda _1}\left( { - \frac{b}{{1 + \beta {\theta _a}}}} \right) < 0 $，则系统(5)有一个负的特征值，这说明(θ_a，0)是不稳定的.