讨论一类Kirchhoff型椭圆系统正解的存在性问题：

其中$ \mathscr{L}(\cdot )=a+b\left[\int_{\mathit{\Omega}}\left(|\nabla \cdot|^{2}-\mu|\cdot|^{2}|x|^{-2}\right) \mathrm{d} x\right]^{\frac{2-s}{2}}, \mathit{\Omega} \subset \mathbb{R}^{3} $是包含原点的有界光滑区域，$ {{\mu }_{1}}, {{\mu }_{2}}>0, 0\le \mu <\frac{1}{4}, 0\le s, l <2, 1 <r <2, a\ge r(3-s){{(2-s)}^{-1}}, b>0, \alpha , \beta >1, \alpha +\beta ={{2}^{*}}(s)=\frac{2(N-s)}{N-2} $是Sobolev-Hardy临界指数，当N=3时，α+β=6-2s.

文献[1]最早提出了相关的数学模型，文献[2]引入泛函分析框架之后，越来越多的学者研究Kirchhoff型方程.近年来，人们对Kirchhoff问题的研究已经获得了非常丰富的成果^[3-11].文献[12]应用变分方法研究了一类含Sobolev-Hardy临界指数项的奇异椭圆系统，证明了系统正解的多重性.文献[13]研究了更一般的情形，应用类似的变分方法，获得了两个正解的存在性.文献[3]研究了方程

其中a，b>0，μ∈0，14，α，β∈[0，2)，1 < q < 2和2^*(α)=6-2α.文献[3]运用Nehari流形和纤维映射等方法证明了方程(2)在适当条件下至少存在两个正解，并通过山路定理和Ekeland变分原理获得了解的一些收敛性质.

受上述文献的启发，我们考虑：对于奇异Kirchhoff型椭圆耦合系统，系统(1)是否也存在正解? 据我们所知，该问题目前尚未有人研究过.本文的主要困难在于：系统(1)含有Sobolev-Hardy临界指数项，其所对应的能量泛函不再满足(PS)条件，从而不能使用通常的变分方法和有关技巧.本文应用Nehari流形和纤维映射^[14]等方法克服了上述困难.

首先，定义W₀^1，2(Ω)中的范数为$ {{\left( \int_{\mathit{\Omega} }{|\nabla \cdot {{|}^{2}}}\text{d}x \right)}^{\frac{1}{2}}} $.依据Hardy不等式

可在W₀^1，2(Ω)中定义新的范数

由(3)式可知，上述范数与通常范数$ {{\left( \int_{\mathit{\Omega} }{|\nabla u{{|}^{2}}}\text{d}x \right)}^{\frac{1}{2}}} $等价.同时，定义乘积Sobolev空间E=W₀^1，2(Ω)×W₀^1，2(Ω)，赋以范数

并定义Sobolev-Hardy最佳临界常数

现定义系统(1)在E中对应的能量泛函$ \mathscr{J}:E\to \mathbb{R} $为

其中

容易验证$ {{\mathscr{J}}_{{{\mu }_{1}}, {{\mu }_{2}}}}\left( u, v \right)\in {{C}^{1}} $，且对任意(φ₁，φ₂)∈E，有

特别地，由(7)式和(8)式可得

由于系统(1)的弱解对应于$ {{\mathscr{J}}_{{{\mu }_{1}}, {{\mu }_{2}}}}\left( u, v \right) $的临界点.因此，为了获得本文结果，我们设：

定理1  存在Λ^*>0，使得当$ 0 <\left(\mu_{1}|f|_{\infty}\right)^{\frac{2}{2-r}}+\left(\mu_{2}|g|_{\infty}\right)^{\frac{2}{2-r}}<\mathit{\Lambda}^{*} $，且f，g，h满足条件(M)时，系统(1)至少存在一个正解.

注1  文献[3]研究的是方程，本文考虑的是方程组，本文的结果是对文献[3]的补充.文献[4]考虑的是μ，s，l=0，h(x)≡2，f(x)≡g(x)≡1，因此相对于文献[4]，本文考虑了更一般的情形.

为了证明定理1，我们需要引入Nehari流形和纤维映射.由$ {\mathscr{{J}}_{{{\mu }_{1}}, {{\mu }_{2}}}}\left( u, v \right) $的定义可知，其在空间E上没有下界，因此引入Nehari流形

易知，(u，v)∈N_μ1，μ2当且仅当

因此，N_μ1，μ2包含了系统(1)的所有非平凡解.同时，如果(u，v)∈N_μ1，μ2，则由(6)式和(9)式可得

对任意的(u，v)∈E，定义

于是任给(u，v)∈N_μ1，μ2，有

现在，我们将N_μ1，μ2分成3部分：

引理1   $ {{\mathscr{J}}_{{{\mu }_{1}}, {{\mu }_{2}}}}\left( u, v \right)在 {{N}_{{{\mu }_{1}}, {{\mu }_{2}}}} $上强制且有下界.

证  由于f(x)∈L^∞(Ω)，故存在R₀>0，使得suppf⊂B_R0(0).应用Hölder不等式与(4)式可得

其中$ {{C}_{1}}={{\left( \frac{3{{\omega }_{3}}R_{0}^{3-l}}{3-l} \right)}^{\frac{{{2}^{*}}(1)-r}{{{2}^{*}}(l)}}}, {{\omega }_{3}}=\frac{2{{\text{ }\!\!\pi\!\!\text{ }}^{\frac{3}{2}}}}{3\Gamma \left( \frac{3}{2} \right)}为 \mathbb{R}^{3} $中的单位球的体积.同理可得

结合(7)式可知

从而结合(10)式和(14)式，可推出

依据1 < r < 2，0≤s < 2，可得$ {{\mathscr{J}}_{{{\mu }_{1}}, {{\mu }_{2}}}}\left( u, v \right) $在N_μ1，μ2上强制且有下界.

引理2  存在Λ₀>0，使得当0 < e_μ1，μ2 < Λ₀时，有$ N_{{{\mu }_{1}}, {{\mu }_{2}}}^{0}=\varnothing $.

证  先设

下面用反证法证明引理2，假设结论不成立，即$ N_{{{\mu }_{1}}, {{\mu }_{2}}}^{0}\ne \varnothing $.那么对任意的$ \left( u, v \right)\in N_{{{\mu }_{1}}, {{\mu }_{2}}}^{0} $，由(5)，(12)式及(13)式可得

所以

再由(12)-(14)式得

所以

从而结合(17)式和(18)式，可得

这与条件0 < e_μ1，μ2 < Λ₀矛盾.

引理3  设(u₁，v₁)是$ {{\mathscr{J}}_{{{\mu }_{1}}, {{\mu }_{2}}}}\left( u, v \right) $在N_μ1，μ2上的局部极小值点，并且$ \left( {{u}_{1}}, {{v}_{1}} \right)\notin N_{{{\mu }_{1}}, {{\mu }_{2}}}^{0} $，那么(u₁，v₁)是$ {{\mathscr{J}}_{{{\mu }_{1}}, {{\mu }_{2}}}}\left( u, v \right) $的临界点.

证  由文献[4]，我们可类似得证.

由引理2，对于0 < e_μ1，μ2 < Λ₀，有$ N_{\mu_{1}, \mu_{2}}=N_{\mu_{1}, \mu_{2}}^{+} \cup N_{\mu_{1}, \mu_{2}}^{-} $，现作如下定义：

则有如下的引理：

引理4  若0 < e_μ1，μ2 < Λ^*，其中$ \mathit{\Lambda}^{*}=\left(\frac{r}{2}\right)^{\frac{2}{2-r}} \mathit{\Lambda}_{0} $，则：

(ⅰ) $ \delta_{\mu_{1}, \mu_{2}} \leqslant \delta_{\mu_{1}, \mu_{2}}^{+}<0 $；

(ⅱ) 存在常数k₀>0，有$ \delta _{{{\mu }_{1}}, {{\mu }_{2}}}^{-}>{{k}_{0}} $.

证  (ⅰ) 对任意的$ \left( u, v \right)\in N_{{{\mu }_{1}}, {{\mu }_{2}}}^{+} $，由(12)式和(13)式可知

从而由(10)式与(19)式可推出

再依据δ_μ1，μ2和δ⁺_μ1，μ2的定义可得$ \delta_{\mu_{1}, \mu_{2}} \leqslant \delta_{\mu_{1}, \mu_{2}}^{+}<0 $.故(ⅰ)成立.

(ⅱ) 对任意的$ \left( u, v \right)\in N_{{{\mu }_{1}}, {{\mu }_{2}}}^{-} $，类似(17)式有

从而结合(15)式和(20)式以及0 < e_μ1，μ2 < Λ^*，得出

引理5  对任意的(u，v)∈E\{(0，0)}，当$ \int_{\mathit{\Omega} }{h}(x)|u{{|}^{\alpha }}|v{{|}^{\beta }}|x{{|}^{-s}}~\text{d}x>0, {{K}_{{{\mu }_{1}}, {{\mu }_{2}}}}(u, v)>0 $时，存在唯一的t⁺以及t^-，满足0 < t⁺ < T₀ < t^-，使得$ \left(t^{+} u, t^{+} v\right) \in N_{\mu_{1}, \mu_{2}}^{+}, \left(t^{-} u, t^{-} v\right) \in N_{\mu_{1}, \mu_{2}}^{-} $，且

证  设

和

则由(21)式和(23)式可推出

依据(24)式有$ \mathop {\lim }\limits_{t \to {0^ + }} m(t) = 0, \mathop {\lim }\limits_{t \to + \infty } m(t) = - \infty $和

令

容易得出g′(t) < 0，又因

所以存在唯一的T₀>0，使得g(T₀)=0.故当t∈(0，T₀)时，m′(t)>0；当t∈(T₀，+∞)时，m′(t) < 0.因此m(t)在T₀处取得最大值.

特别地，当b=0时，设

易知g₀(t)有唯一解，设t₀为g₀(t)的唯一解，则

可知t₀，T₀分别满足

可知$ t_0^{4 - 2s} < T_0^{4 - 2s} $.从而由(24)式和(26)式可得

再依据(14)式及(27)式和0 < e_μ1，μ2 < Λ^*可推出

因此，由(25)式可知，存在唯一的t⁺和t^-使得0 < t⁺ < T₀ < t^-和m(t⁺)=m(t^-)=K_μ1，μ2(u，v)，由此可得(t⁺u，t⁺v)∈N_μ1，μ2，(t^-u，t^-v)∈N_μ1，μ2.再由(22)式可以推出

则$ \left( {{t^ + }u, {t^ + }v} \right) \in N_{{\mu _1}, {\mu _2}}^ + $，以及$ \left( {{t^ - }u, {t^ - }v} \right) \in N_{{\mu _1}, {\mu _2}}^ - $.又结合(23)式及(24)式可得到

从而当t∈[0，t⁺]和t∈[t^-，+∞)时，$ \varphi_{2}^{\prime}(t)<0 ; \text { 当 } t \in\left[t^{+}, t^{-}\right] $时，$ {{\varphi '}_2}(t) > 0.又因 \left( {{t^ - }u, {t^ - }v} \right) \in N_{{\mu _1}, {\mu _2}}^ - $，由引理4可知φ₂(t^-)>0，因此

下面给出系统(1)正解存在性的详细证明.应用Ekeland变分原理和文献[5]中的引理5.2，有如下的结果：

引理6  存在Λ^*>0，使得当$ 0 < {\left( {{\mu _1}|f{|_\infty }} \right)^{\frac{2}{{2 - r}}}} + {\left( {{\mu _2}|g{|_\infty }} \right)^{\frac{2}{{2 - r}}}} < {\mathit{\Lambda} ^*} $时，$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) $在N_μ1，μ2上存在$ {({\rm{PS}})_{{\delta _{{\mu _1}, {\mu _2}}}}} $序列{(u_n，v_n)}.

引理7  若{(u_n，v_n)}是$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) $的(PS)_c序列，且在$ W_0^{1, 2}(\mathit{\Omega} ) 上 {u_n} \rightharpoonup u, {v_n} \rightharpoonup v $，则有$ {J_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) = 0 和 {J_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) > - {C_0}\left[ {{{\left( {{\mu _1}|f{|_\infty }} \right)}^{\frac{2}{{2 - r}}}} + {{\left( {{\mu _2}|g{|_\infty }} \right)}^{\frac{2}{{2 - r}}}}} \right] $.

证  因为{(u_n，v_n)}是$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) $的(PS)_c序列，且在$ W_0^{1, 2}(\mathit{\Omega} ) 上 {u_n} \rightharpoonup u, {v_n} \rightharpoonup v $，容易验证$ {{\mathscr{J}'}_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) = 0 $.再结合(10)，(14)式和Young不等式，当a≥r(3-s)(2-s)^-1时，可得

其中$ C_{0}=\frac{2-r}{2}\left[\frac{6-2 s-r}{r(6-2 s)} C_{1} A_{l}^{-\frac{r}{2}}\right]^{\frac{2}{2-r}} $.

引理8  若

成立，那么$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) $满足(PS)_c条件.

证设{(u_n，v_n)}⊂E是$ {{\mathscr{J'}}_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) $的(PS)_c序列，且满足

首先证明{(u_n，v_n)}在E中有界，由(14)式和(29)式可得

因为1 < r < 2，则{(u_n，v_n)}在E中有界，故存在子列(仍记为{(u_n，v_n)})及(u，v)∈E，使得

因此

设$ \left(\bar{u}_{n}, \bar{v}_{n}\right)=\left(u_{n}-u, v_{n}-v\right) $，通过Brezis-Lieb引理^[15]和文献[16]中的引理2.1，有

从而结合(29)-(33)式，可得

不失一般性，设

于是由(35)式可知

如果m=0，则结论成立.与之相反，若m>0，由(6)式得出

所以

因此，由(34)，(35)式及引理7，有

这与(28)式矛盾，从而可得m=0，即当n→∞时，在E中(u_n，v_n)(u，v).

引理9  存在Λ^*>0，使得当0 < e_μ1，μ2 < Λ^*时，$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) $存在极小值点$ \left( {u_0^ + , v_0^ + } \right) \in N_{{\mu _1}, {\mu _2}}^ + $，则：

(ⅰ) $ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u_0^ + , v_0^ + } \right) = {\delta _{{\mu _1}, {\mu _2}}} = \delta _{{\mu _1}, {\mu _2}}^ + < 0 $；

(ⅱ) $ \left( {u_0^ + , v_0^ + } \right) $是系统(1)的一个正解；

(ⅲ) 当(μ₁，μ₂)→(0⁺，0⁺)时，有$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u_0^ + , v_0^ + } \right) \to 0 $.

证  由引理6可知，$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) $在N_μ1，μ2上存在极小化序列{(u_n，v_n)}，使得

因为$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u, v} \right) $在N_μ1，μ2上强制且有下界，则存在子序列(仍记为{(u_n，v_n)}⊂N_μ1，μ2)且(u₀⁺，v₀⁺)∈E，使得当n→∞时有

这意味着

由{(u_n，v_n)}⊂N_μ1，μ2和(10)式，可以得出

从而当n→∞时，依据引理4(ⅰ)，可得

因此，(u₀⁺，v₀⁺)是系统(1)的非平凡解.

下证在$ W_{0}^{1, 2}(\mathit{\Omega}) 上 u_{n} \rightarrow u_{0}^{+}, v_{n} \rightarrow v_{0}^{+} $，且$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u_0^ + , v_0^ + } \right) = {\delta _{{\mu _1}, {\mu _2}}} < 0 $.应用Fatou引理，当$ \left( {u_0^ + , v_0^ + } \right) \in {N_{{\mu _1}, {\mu _2}}} $时，由(10)式可得

这意味着$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u_0^ + , v_0^ + } \right) = {\delta _{{\mu _1}, {\mu _2}}} $以及

设$ \left(\tilde{u}_{n}, \tilde{v}_{n}\right)=\left(u_{n}, v_{n}\right)-\left(u_{0}^{+}, v_{0}^{+}\right) $，则由引理8的证明可知，在$ W_{0}^{1, 2}(\Omega) 上 u_{n} \rightarrow u_{0}^{+}, v_{n} \rightarrow v_{0}^{+} $.

进一步证明$ \left(u_{0}^{+}, v_{0}^{+}\right) \in N_{\mu_{1}, \alpha_{2}}^{+} \text {和 } \mathscr{J}_{\mu_{1}, \mu_{2}}\left(u_{0}^{+}, v_{0}^{+}\right)=\delta_{\mu_{1}, \mu_{2}}^{+} $.反之，若$ \left( {u_0^ + , v_0^ + } \right) \in N_{{\mu _1}, {\mu _2}}^ - $，由引理5可知，存在唯一的t⁺和t^-，使得$ \left(t^{+} u_{0}^{+}, t^{+} v_{0}^{+}\right) \in N_{\mu_{1}, \mu_{2}}^{+}, \left(t^{-} u_{0}^{+}, t^{-} v_{0}^{+}\right) \in N_{\mu_{1}, \mu_{2}}^{-} $.特别地，有t⁺ < t^-=1.当t∈(t⁺，t^-)时，有$ \frac{\mathrm{d}}{\mathrm{d} t} \mathscr{J}_{\mu_{1}, \mu_{2}}(t u, t v)>0 $，则存在t∈(t⁺，t^-)，使得

矛盾.从而可得$ \left(u_{0}^{+}, v_{0}^{+}\right) \in N_{\mu_{1}, \alpha_{2}}^{+} \text {和 } \mathscr{J}_{\mu_{1}, \mu_{2}}\left(u_{0}^{+}, v_{0}^{+}\right)=\delta_{\mu_{1}, \mu_{2}}^{+} $.又由于$ \mathscr{J}_{\mu_{1}, \mu_{2}}\left(u_{0}^{+}, v_{0}^{+}\right)=\mathscr{J}_{\mu_{1}, \mu_{2}}\left(\left|u_{0}^{+}\right|, \left|v_{0}^{+}\right|\right) $，那么由引理3和强极大值原理，可得(u₀⁺，v₀⁺)是系统(1)的一个正解.

最后，由(15)式和引理4(ⅰ)，有

因此，当(μ₁，μ₂)→(0⁺，0⁺)时，有$ {\mathscr{J}_{{\mu _1}, {\mu _2}}}\left( {u_0^ + , v_0^ + } \right) \to 0 $.

定理1的证明  由引理9，存在Λ^*>0，使得当$ 0 <\left(\mu_{1}|f|_{\infty}\right)^{\frac{2}{2-r}}+\left(\mu_{2}|g|_{\infty}\right)^{\frac{2}{2-r}}<\mathit{\Lambda}^{*} $，且f，g，h满足条件(M)时，系统(1)至少存在一个正解$ \left( {u_0^ + , v_0^ + } \right) \in N_{{\mu _1}, {\mu _2}}^ + $.