考虑如下带有临界非线性项的Schrödinger-Poisson系统：

其中η>0，λ为一个非负的实参数，且f(x)和λ满足以下条件(H)：

(H_f1) f∈ ${L^{\frac{3}{2}}} $ ($\mathbb{R} $³)，f≥0，且f 0；

(H_f2) 存在δ，ρ>0，1＜β＜2，x₀∈$\mathbb{R} $³，使得对∀x，|x-x₀| < ρ，都有f(x)≥δ|x-x₀|^-β；

(H_l) l∈L²($\mathbb{R} $³)∩L^∞($\mathbb{R} $³)，l≥0且l 0；

(H_λ) 0 < λ < λ^*，其中λ^*定义为

近年来，许多学者对临界问题进行了广泛的研究，如文献[1-10]. 特别地，文献[9]研究了如下带凹凸非线性项和临界指数的Schrödinger-Poisson系统多解的存在性：

其中1 < q < 2，η∈$\mathbb{R} $\{0}，λ>0，f∈ ${L^{\frac{6}{{6 - q}}}} $($\mathbb{R} $³)为非零非负函数. 利用变分法，文献[9]证明了系统(2)至少存在两个正解.

文献[3]证明了如下系统的正解和变号解的存在性：

其中，λ>0，l，f，k均为非负函数，且满足条件(H_f1)，(H_f2)，(H_λ)，(H_l)以及下面的条件：

(H_k1) 对∀x∈$\mathbb{R} $³，k(x)≥0；

(H_k2) 存在x₀∈$\mathbb{R} $³，δ₁>0和ρ₁>0，使得$k({x_0}) = \mathop {\max }\limits_{x \in {\mathbb{R}^3}} \;k(x) $，以及对∀|x-x₀| < ρ₁和1≤α < 3，有|k(x)-k(x₀)|≤δ₁|x-x₀|^α.

注意到以上的结果中，系统(1)的正解的存在性还未曾被研究过. 受文献[3]的启发，本文将利用变分方法和山路引理研究系统(1)正解的存在性问题. 本文的主要结果如下：

定理1  假设条件(H)成立，则系统(1)至少有一个正解(u，ϕ_u)∈H¹($\mathbb{R} $³)×D^1，2($\mathbb{R} $³).

注1  在本文中，我们将文献[3]中非局部项的系数由正号变为负号，故本文的结论补充了文献[3]中定理1.1的结论.

Hilbert空间H¹($\mathbb{R} $³)带有范数

D^1，2($\mathbb{R} $³)是C₀^∞($\mathbb{R} $³)关于范数‖u‖_D= $\int {_{{\mathbb{R}^3}}} {({\left| {\nabla u} \right|^2}{\rm{d}}x)^{\frac{1}{2}}} $的完备化空间. H^*表示Banach空间H¹($\mathbb{R} $³)的共轭空间. |·|_p表示Lebesgue空间L^p($\mathbb{R} $³)的标准范数. 由文献[11]可知，Sobolev嵌入D^1，2($\mathbb{R} $³) L⁶($\mathbb{R} $³) 的最佳常数为

令o(1)表示无穷小量，C表示不同的正实数.

由Lax-Milgram定理，对∀u∈H¹($\mathbb{R} $³)，系统(1)中第二个方程有唯一解ϕ_u∈D^1，2($\mathbb{R} $³)与之对应，将ϕ_u代入系统(1)的第一个方程，则系统(1)可变换成如下方程：

其能量泛函I为

显然，I∈C¹(H¹($\mathbb{R} $³)，$\mathbb{R} $). 众所周知，方程(4)的弱解与能量泛函I的临界点是一一对应的. 对∀u，v∈H¹($\mathbb{R} $³)，有

由文献[2]可知，u是方程(4)的弱解当且仅当(u，ϕ_u)是系统(1)的弱解. 因此，证明系统(1)有正弱解等价于证明泛函I有正临界点.

首先，我们给出一些重要的引理.

引理1^[4]  对于每个u∈H¹($\mathbb{R} $³)，都存在如下方程的唯一解ϕ_u∈D^1，2($\mathbb{R} $³)：

且ϕ_u满足性质：

(a)‖ϕ_u‖_D²= $\int {_{{\mathbb{R}^3}}} l(x){\phi _u}{u^2}{\rm{d}}x $；

(b) ϕ_u≥0，且当u≠0时，有ϕ_u>0；

(c) $ \int {_{{\mathbb{R}^3}}} l(x){\phi _u}{u^2}{\rm{d}}x = \int {_{{\mathbb{R}^3}}} {\left| {\nabla {\phi _u}} \right|^2}{\rm{d}}x \le C\left| u \right|_{\frac{{12}}{5}}^4 \le C{\left\| u \right\|^4}$；

(d) 如果在H¹($\mathbb{R} $³)空间中有u_n u，那么$\int {_{{\mathbb{R}^3}}} l(x){\phi _{{u_n}}}u_n^2{\rm{d}}x \to \int {_{{\mathbb{R}^3}}} l(x){\phi _u}{u^2}{\rm{d}}x $；

(e) λ^*是可达的，其中λ^*为条件(H_λ)中所定义.

引理2^[10]  若条件(H_f1)成立，则泛函ψ_f：u∈H¹($\mathbb{R} $³)↦ $\int {_{{\mathbb{R}^3}}} f(x){u^2}{\rm{d}}x $是弱连续的，故对∀v∈H¹($\mathbb{R} $³)，ψ_f：u∈H¹($\mathbb{R} $³)↦ $\int {_{{\mathbb{R}^3}}} f(x)uv{\rm{d}}x $也是弱连续的.

引理3  若条件(H_λ)，(H_f1)，(H_l)成立，且I(0)=0，则：

(a) 存在ρ，α₀>0，使得当‖u‖=ρ时，有I(u)≥α₀；

(b) 存在某个函数v∈H¹($\mathbb{R} $³)，满足‖v‖>ρ且I(v) < 0.

证 (a) 显然I(0)=0，根据Sobolev不等式和引理1，可得

令‖u‖²=ρ充分小，有

即可得

取${\alpha _0} = \frac{1}{4}(1 - \frac{\lambda }{{{\lambda ^ * }}})\rho $，故(a)得证.

(b) 固定u₀∈H¹($\mathbb{R} $³)，且满足u₀≠0，则有

我们可推断出，当t→+∞时，I(tu₀)→-∞. 选取一个t₀>0，使得‖t₀u₀‖>ρ并且I(t₀u₀) < 0. 令v=t₀u₀∈H¹($\mathbb{R} $³)且‖v‖>ρ，即有I(v) < 0，因此(b)也得证.

结合引理1与山路引理^[11]，可知泛函I(u)有一个山路几何结构，即存在{u_n}⊂H¹($\mathbb{R} $³)，使得

引理4  若条件(H)成立，则对任意$c < \frac{1}{3}{S^{\frac{3}{2}}} $，泛函I满足局部(PS)_c条件.

证  假设{u_n}为(PS)_c序列，即

当n充分大时，由(6)式和条件(H_λ)，可推导出

故{u_n}在H¹($\mathbb{R} $³)中有界. 因此，{u_n}存在弱收敛子列(不妨仍记为{u_n})以及u∈H¹($\mathbb{R} $³)，当n充分大时，有

令w_n=u_n-u，如果‖w_n‖→0，则结论成立. 否则，$\mathop {\lim }\limits_{n \to \infty } \left\| {{w_n}} \right\| $=l>0. 当n→∞时，对∀φ∈H¹($\mathbb{R} $³)，

由(6)式和(7)式，可得

由Brézis-Lieb’s引理^[12]可得

令(8)式中φ=u，我们有

由(6)式和(9)式，可得

由(10)式和(11)式，我们有

根据Sobolev不等式，结合|w_n|₆²≤S^-1‖w_n‖²和(12)式，可简单计算出l≥ ${S^{\frac{3}{2}}} $.

一方面，由(10)式和条件(H_λ)，可推得

另一方面，由(6)式、(9)式和(12)式，可得

这与(13)式矛盾，即l=0.

引理5  在条件(H)的假设下，若1 < β < 2，可得$c < \frac{1}{3}{S^{\frac{3}{2}}} $，其中c为(5)式中所定义.

证  众所周知，函数

是(3)式的达到函数. 这也意味着，U(x)是方程-Δu=u⁵(∀x∈$\mathbb{R} $³)的解. 此外，|▽u|₂²=|U|₆⁶= ${S^{\frac{3}{2}}} $. 定义截断函数ζ∈C₀^∞($\mathbb{R} $³)，它满足：0≤ζ(x)≤1，|▽ζ|≤C(x∈$\mathbb{R} $³)，且对于任意|x| < 2r₀，ζ(x)=1；对于任意|x|>3r₀，ζ(x)=0. 其中r₀>0. 定义u_ε(x)=ζ(x)U(x). 由文献[11]可知

由引理3可得，存在t₁>0，t₂>0，使得t₁≤t_ε≤t₂. 令I(t_εu_ε)=A(ε)+B(ε)，其中

首先，证明A(ε)≤ $\frac{1}{3}{S^{\frac{3}{2}}} + C\varepsilon $. 令

容易推断出，当${T_\varepsilon } = {\left( {\frac{{\int {_{{\mathbb{R}^3}}{{\left| {\nabla {u_\varepsilon }} \right|}^2}{\rm{d}}x} }}{{\int {_{{\mathbb{R}^3}}{{\left| {{u_\varepsilon }} \right|}^6}{\rm{d}}x} }}} \right)^{\frac{1}{4}}} $时，g(T_ε)取得最大值. 再根据(14)式，可得

故A(ε)≤ $\frac{1}{3}{S^{\frac{3}{2}}} + C\varepsilon $成立.

接下来，证明B(ε)≤Cε-Cε²-λCε^2-β. 由u_ε的定义、条件(H_f2)，以及对任意的ε满足0 < ε≤ρ，我们有

由0 < t₁≤t_ε≤t₂和引理1，可得

由条件1 < β < 2，易推导出0 < 2-β < 1. 所以，当ε→0⁺时，

故引理5得证.

最后，我们给出定理1的证明.

证明定理1  由引理3知，I(u)具有山路结构. 通过引理5，有c < $\frac{1}{3}{S^{\frac{3}{2}}} $，再由引理4知，{u_n}⊂H¹($\mathbb{R} $³)有强收敛子列. 此时，不妨设子列仍记为{u_n}，有u_n→u(x∈H¹($\mathbb{R} $³)). 即u是方程(4)的解. 由〈I′(u)，u^-〉=0可推出‖u^-‖=0，即u^-=0. 所以，u≥0且u≠0. 应用强极大值原理可得u>0. 因此，(u，ϕ_u)是系统(1)的一个正解.