从现在起,我们约定Lebesgue空间L^s($\mathbb{R}^3$) (1≤s≤∞)带有标准范数|·|_s,Hilbert空间H¹($\mathbb{R}^3$)带有范数

以及D^1,2($\mathbb{R}^3$)是C₀^∞($\mathbb{R}^3$)关于范数

的完备化空间. H^*表示Banach空间H的共轭空间.由文献[9]可知Sobolev嵌入D^1,2($\mathbb{R}^3$)⤿L⁶($\mathbb{R}^3$)的最佳常数

由函数u_ε(x)=$\frac{{{3^{\frac{1}{4}}}{\varepsilon ^{\frac{1}{2}}}}}{{{{\left( {{\varepsilon ^2} + {{\left| x \right|}^2}} \right)}^{\frac{1}{2}}}}}$达到,其中ε＞0.令o(1)表示无穷小量,C_i (i∈$\mathbb{N}_+$)表示不同的正数.

对每个u∈H¹($\mathbb{R}^3$),由Hölder不等式以及Sobolev不等式可得,对任意的v∈D^1,2($\mathbb{R}^3$),有

即对任意的u∈H¹($\mathbb{R}^3$),线性泛函L_u∈[D^1,2($\mathbb{R}^3$)^*].从而,由Lax-Milgram定理,我们知道Poisson方程-Δϕ=|u|⁵有唯一的正解ϕ_u∈D^1,2($\mathbb{R}^3$),并且

由此,系统(1)可以简化为

由文献[2],u是方程(3)的弱解当且仅当(u,ϕ_u)是系统(1)的弱解,当且仅当u是能量泛函

的临界点.不难证明,对任意的2＜p＜6以及λ＞0,I_λ,p∈C¹H¹($\mathbb{R}^3$),$\mathbb{R}$,且对任意的u,v∈H¹($\mathbb{R}^3$),有

因此,证明系统(1)有非平凡弱解等价于证明泛函I_λ,p有非平凡临界点.

由椭圆方程的正则性理论我们不难证明：系统(1)的每个弱解(u,ϕ_u)满足u,ϕ_u∈C²($\mathbb{R}^3$).从而,类似于文献[1, 3, 6]的讨论,我们可以证明下面的引理：

引理1  如果(u,ϕ_u)是系统(1)的弱解,则(u,ϕ_u)满足下面的Pohožaev等式：

如果序列{u_n}⊂H¹($\mathbb{R}^3$)满足${{I}_{\lambda , p}}\left( {{u}_{n}} \right)\xrightarrow{n}c, {{\mathscr{P}}_{\lambda , p}}\left( {{u}_{n}} \right)\xrightarrow{n}0$且${{{I}'}_{\lambda , p}}\left( {{u}_{n}} \right)\xrightarrow{n}0$,则我们称它为泛函I_λ,p在水平c∈$\mathbb{R}$处的一个Pohožaev-Cerami序列(简称(PC)_c序列).进而,如果泛函I_λ,p的每个(PC)_c序列均有收敛子列,则我们称I_λ,p满足(PC)_c条件.首先,我们证明泛函I_λ,p满足山路引理^[7]的几何假设条件.

引理2  (ⅰ)存在ρ₀,α₀＞0,使得当‖u‖_H=ρ₀时,有I_λ,p(u)≥α₀；

(ⅱ)存在某个函数e∈H¹($\mathbb{R}^3$),满足‖e‖_H＞ρ₀且I_λ,p(e)＜0.

证  (ⅰ)由文献[3]的引理2.1-(ⅴ)、Sobolev嵌入H¹($\mathbb{R}^3$)⤿L^p($\mathbb{R}^3$)以及(2)式,对任意的λ＞0,我们有

由于p＞2,于是我们可以选取ρ₀＞0充分小,使得${\alpha _0} = \frac{1}{2}\rho _0^2 - \frac{1}{{10{S^6}}}\rho _0^{10} - \frac{{{C_1}\lambda }}{p}\rho _0^p > 0$满足(ⅰ)的要求.

(ⅱ)任取u∈H¹($\mathbb{R}^3$)\{0},定义${{u}_{t}}\left( \cdot \right)=u\left( \frac{\cdot }{t} \right)$,其中t＞0.由文献[3]的引理2.1-(ⅱ),(ⅳ),我们推断出：当t→+∞时,

于是,可以取t₀＞0充分大,使得‖u_t0‖_H＞ρ₀且I_λ,p(u_t0)＜0,则e=u_t0满足(ⅱ)的要求.

结合引理2与山路引理^[7],我们得知泛函I_λ,p有一个山路几何结构,且山路值为

其中

进一步,我们证明I_λ,p有一个(PC)_c序列.

引理3  对任意的2＜p＜6以及λ＞0,泛函I_λ,p有一个(PC)_cλ,p序列{u_n}⊂H¹($\mathbb{R}^3$),即：

证  根据文献[8],定义映射Φ：$\mathbb{R}$×H¹($\mathbb{R}^3$)→H¹($\mathbb{R}^3$)为Φ(τ,u)(x)=u(e^-τx),我们可知泛函

满足I_λ,p∘Φ∈C¹$\mathbb{R}$×H¹($\mathbb{R}^3$),$\mathbb{R}$.重复引理2的证明,必存在ρ₁,ρ₂,α＞0,使得当‖(τ,u)‖_{$\mathbb{R}$×H}=(τ²+‖u‖_H²)$^{\frac{1}{2}}$=ρ₂且‖u‖_H=ρ₁时,有I_λ,p∘Φ(τ,u)≥α＞0.此外,任取u∈H¹($\mathbb{R}^3$)\{0},必存在充分大的t₁＞0,使得‖u_t1‖_H＞ρ₂且I_λ,p∘Φ(0,u_t1)＜0.于是,泛函I_λ,p∘Φ有一个山路几何结构,且山路值为

其中

注意到Φ(Γ_λ,p)⊂${{\mathit{\tilde{\Gamma }}}_{\lambda ,p}}$且{0}×${{\mathit{\tilde{\Gamma }}}_{\lambda ,p}}$⊂Γ_λ,p,我们推断出c_λ,p=${\tilde c_{\lambda , p}}$.令M=[0, 1]且M₀={0,1},我们有

从而,由文献[7]的定理2.9我们得知：存在序列{(τ_n,v_n)}⊂$\mathbb{R}$×H¹($\mathbb{R}^3$),满足：对任意的γ∈Γ_λ,p,

现在,取u_n=Φ(τ_n,v_n),由(8)式可知I_λ,p(u_n)$\xrightarrow{n}$c_λ,p,且对任意的(h,φ)∈$\mathbb{R}$×H¹($\mathbb{R}^3$),有

于是,取(h,φ)=(1,0),我们从(9)式推断出${{\mathscr{P}}_{\lambda , p}}$(u_n)$\xrightarrow{n}$0.如果取(h,φ)=0,Φ(-τ_n,φ),则(8)式的第3个极限式蕴含

从而

因此,{u_n}={Φ(τ_n,v_n)}是泛函I_λ,p的(PC)_cλ,p序列.

引理4  对于泛函I_λ,p的每个(PC)_cλ,p序列{u_n},其中

如果u_n⇀0于H¹($\mathbb{R}^3$),则存在常数r,η＞0以及序列{y_n}⊂$\mathbb{R}^3$,满足|y_n|$\xrightarrow{n}$∞且

证  假设结论不成立,根据Lions引理^[7],当2＜p＜6时,有$\int_{{{\mathbb{R}}^{3}}}{{{\left| {{u}_{n}} \right|}^{p}}\text{d}x}\xrightarrow{n}0$.从而,由(6)式可得

以及

于是,由(12)式,文献[3]的引理2.1-(ⅴ)以及(2)式,我们有

进一步,假设在{u_n}的子列意义下,$\left| {{u}_{n}} \right|_{6}^{6}\xrightarrow{n}\kappa $且$\left| {{u}_{n}} \right|_{H}^{2}\xrightarrow{n}l$,则由(13)式我们得出${{S}^{-1}}{{\kappa }^{\frac{5}{3}}}-\kappa -S{{\kappa }^{\frac{1}{3}}}\ge 0$.解得κ=0或者$\kappa \ge {{\left( \frac{\sqrt{5}+1}{2} \right)}^{\frac{3}{2}}}{{S}^{\frac{3}{2}}}$.如果κ=0,则(12)式与文献[3]的引理2.1-(ⅴ)蕴含l=0,这与c_λ,p＞0相矛盾；如果$\kappa \ge {{\left( \frac{\sqrt{5}+1}{2} \right)}^{\frac{3}{2}}}{{S}^{\frac{3}{2}}}$,由(2)式可得$l\ge {{\left( \frac{\sqrt{5}+1}{2} \right)}^{\frac{1}{2}}}{{S}^{\frac{3}{2}}}$,则将(12)式代入(11)式,我们得到

这与已知条件相矛盾.因此(10)式成立.

下面,我们证明山路值c_λ,p满足引理4的假设条件.定义ψ(x)∈C₀^∞($\mathbb{R}^3$,[0, 1])满足：ψ(x)≡1 (x∈B₁(0)),且ψ(x)≡0 (x∈$\mathbb{R}^3$\B₂(0)).令v_ε(x)=ψ(x)u_ε(x),根据文献[7, 9],当ε→0⁺时,有：

以及

引理5  对任意的λ＞0以及4＜p＜6,或对充分大的λ＞0以及2＜p≤4,均有c_λ,p∈(0,c_*),其中

证  显然,c_λ,p＞0.我们只需证明c_λ,p＜c_*.对任意的u∈H¹($\mathbb{R}^3$),由Young-不等式可得

由此,我们推断出

于是,为了证明c_λ,p＜c_*,我们只需找到某个函数v∈H¹($\mathbb{R}^3$),使得

为此,取tv_ε为泛函J_λ,p的测试函数,其中t≥0,ε＞0.注意到0是J_λ,p(tv_ε)在t=0处的局部极小值,并且当t→+∞时,J_λ,p(tv_ε)→-∞,所以存在某个t_ε＞0,满足

进一步,我们不难证明t_ε是唯一的,并且存在ε₁＞0以及T₁,T₂＞0,使得对任意的0＜ε＜ε₁,均有T₁≤t_ε≤T₂.于是,由(14)式我们推断出

其中

下面,我们分3种情形来证明：对充分小的ε＞0,均有h_λ,p(ε)＞0.

情形1  4＜p＜6.由(15)式可得,对充分小的0＜ε＜min{1,ε₁}以及任意的λ＞0,有

注意到0＜3-$\frac{p}{2}$＜1,于是我们推断出,对充分小的ε＞0,有h_λ,p(ε)＞0.

情形2  3＜p≤4.取λ=ε$^{-\frac{1}{2}}$,由(15)式,对充分小的0＜ε＜ε₁,我们有

注意到$\frac{1}{2}\le \frac{5-p}{2} < 1$,于是我们推断出,对充分小的ε＞0,有h_λ,p(ε)＞0.

情形3  重复情形2的讨论,取λ=ε$^{\frac{1}{2}}$,利用(15)式我们可以证明：当2＜p＜3或者p=3时,对充分小的ε＞0,均有h_λ,p(ε)＞0.于是,引理5得证.

为了证明基态解的存在性,我们定义如下的Pohožaev流形以及相应的基态能量：

引理6  对任意的2＜p＜6以及任意的λ＞0,均有m_λ,p≥c_λ,p,其中c_λ,p由(7)式定义.

证  任取u∈$\mathscr{M}$_λ,p,定义$u\left( \cdot \right)=u\left( \frac{\cdot }{t} \right)$,t＞0且u₀(·)=0,我们有

显然,t=1是函数I_λ,p(u_t)在[0,+∞)上唯一的最大值点.注意到当t→+∞时,I_λ,p(u_t)→-∞,则必存在充分大的正数t_∞,使得I_λ,p(u_t∞)＜0.令γ₀(t)=u_tt∞,则γ₀∈${{\widetilde{\mathit{\Gamma }}}_{\lambda , p}}$.于是,由(5)式及c_λ,p=${{\widetilde{c}}_{\lambda , p}}$可知

因此,由u在$\mathscr{M}$_λ,p中的任意取法,我们推断出m_λ,p≥c_λ,p.

定理1的证明  结合引理2、引理3以及引理5,对任意的λ＞0及4＜p＜6,或者对充分大的λ＞0及2＜p≤4,泛函I_λ,p均有(PC)_cλ,p序列{u_n}⊂H¹($\mathbb{R}^3$),其中c_λ,p＜c_*.首先,我们证明{u_n}在H¹($\mathbb{R}^3$)中有界.事实上,由(6)式我们有

以及

结合(16),(17)式以及(2)式,由〈I_λ,p^′(u_n),u_n〉=o(1)可得

因此,{u_n}在H¹($\mathbb{R}^3$)中有界,则必存在函数u∈H¹($\mathbb{R}^3$),使得在{u_n}的子列意义下,u_n⇀u.接下来,我们分2步完成定理1的证明：

步骤1  证明存在函数v∈H¹($\mathbb{R}^3$)\{0},满足v≥0且I_λ,p^′(v)=0.

如果u=0,根据引理4与引理5,存在常数r,η＞0以及序列{y_n}⊂$\mathbb{R}^3$,使得|y_n|$\xrightarrow{n}$∞且(10)式成立.令v_n(·)=u_n(·+y_n),因为‖v_n‖_H=‖u_n‖_H,则由Rellich嵌入定理^[7],必存在函数v∈H¹($\mathbb{R}^3$),使得：在{v_n}的子列意义下,当n→∞时：

显然,(10)式与(18)式蕴含v≠0.为了证明I_λ,p^′(v)=0,注意到C₀^∞($\mathbb{R}^3$)在H¹($\mathbb{R}^3$)中稠密,我们只需证明,对任意的φ∈C₀^∞($\mathbb{R}^3$),有〈I_λ,p^′(v),φ〉=0.为此,由(18)式我们知道,存在函数ω∈L⁵(supp φ),满足

于是,由(18)式以及Lebesgue控制收敛定理,我们有

注意到{|v_n|⁴v_n}在${{L}^{\frac{6}{5}}}$($\mathbb{R}^3$)中有界,由(18)式得知,在{v_n}的子列意义下,|v_n|⁴v_n⇀|v|⁴v于L⁶⁵($\mathbb{R}^3$).因此

由Hölder不等式、(2)式以及文献[3]的引理2.1-(ⅴ)可得

于是,结合(18)式我们得知,在{v_n}的子列意义下,ϕ_vn(|v_n|³v_n-|v|³v)⇀0于${{L}^{\frac{6}{5}}}$($\mathbb{R}^3$).从而,有

此外,注意到|v|³vφ∈${{L}^{\frac{6}{5}}}$($\mathbb{R}^3$),由(18)式、文献[3]的引理2.1-(ⅶ)以及嵌入D^1,2($\mathbb{R}^3$)⤿L⁶($\mathbb{R}^3$)可得

结合(19)-(22)式,由‖φ(·-y_n)‖_H=‖φ‖_H可得

即v是泛函I_λ,p的非平凡临界点.进一步,由于泛函I_λ,p是对称的,我们可以保证v≠0满足v≥0.

如果u≠0,重复(23)式的证明,我们可以证得u≥0且I_λ,p^′(u)=0.此时,我们令v_n(·)=u_n(·+0)且v=u.

步骤2  证明在步骤1中得到的非负非平凡临界点v满足I_λ,p(v)=m_λ,p=c_λ,p且(v,ϕ_v)＞0.

由引理1可得${{\mathscr{P}}_{\lambda , p}}$(v)=0.由此,结合引理6、(4)式、‖·‖_D²的弱下半连续性及文献[6]的引理2.1-(ⅰ),我们有

因此,(v,ϕ_v)是系统(1)的非负非平凡基态解.进一步,我们证明(v,ϕ_v)＞0.令

由椭圆方程的正则性理论可知v,ϕ_v∈C²($\mathbb{R}^3$),于是D是开集.反设∂D≠ Ø,取x₀∈∂D满足v(x₀)=0,则必存在δ＞0,使得U^∘(x₀；δ)∩D≠Ø.不妨假设x₁∈U^∘(x₀；δ)∩D,在球B={x∈$\mathbb{R}^3$：|x-x₁|＜|x₁-x₀|+δ}上由强极大值原理可知,对任意的x∈B,有v(x)＞0,这与x₀∈B且v(x₀)=0相矛盾.于是∂D=Ø,即对任意的x∈$\mathbb{R}^3$,有v(x)＞0.注意到v≠0蕴含ϕ_v＞0(x∈$\mathbb{R}^3$),因此(v,ϕ_v)是系统(1)的正基态解.定理1得证.