考虑如下Schrödinger方程：

其中Ω⊂$\mathbb{R}^3$是有界开集,p∈(2,4),且k满足以下条件：

(k₁) k∈${{L}^{\frac{6}{6-p}}}$(Ω),并且k(x)≥0；

(k₂)存在x₀∈Ω,使得

近年来,许多学者对方程(1)进行了广泛的研究.当k≡0且Ω=$\mathbb{R}^N$时,文献[1-2]得到了方程(1)正解的唯一性.文献[3]在全空间里考虑了方程(1),假设p=2,k∈${{L}^{\frac{N}{2}}}$($\mathbb{R}^N$),且在正测度集上k(x)＜0,得到了方程(1)正解的存在性.文献[4]考虑k(x)=λ,运用约束极小化方法,证明了当4≤p＜6且λ＞0时,或者2＜p＜4且λ足够大时,方程(1)有正解.相关问题的进一步结果可以参见文献[5-8].受上述文献的启发,我们将考虑当2＜p＜4并且k∈${{L}^{\frac{6}{6-p}}}$(Ω)时,方程(1)的正基态解的存在性.本文的主要结果是：

定理1  假设条件(k₁)-(k₂)成立.若$\beta \in \left( 2-\frac{p}{2}, 2-\frac{p}{6} \right]$,则方程(1)至少有1个正的基态解.

注1  为了方便,我们不妨假设x₀=0.本文将文献[4]中的常数λ替换成一般的函数k(x),得到了与文献[4]相似的结果.由k(x)的一般性,满足条件的函数更多.例如：

定义$\mathscr{I}$：H₀¹(Ω)→$\mathbb{R}$为方程(1)对应的能量泛函,即

如果u∈H₀¹(Ω),对任意的v∈H₀¹(Ω),满足

则称u是方程(1)的弱解.形式上,泛函$\mathscr{I}$的临界点都是方程(1)的弱解. Nehari流形定义为

引理1  假设条件(k₁)-(k₂)成立.若$\beta \in \left( 2-\frac{p}{2}, 2-\frac{p}{6} \right]$,则：

(ⅰ)对任意的u∈H₀¹(Ω)\{0},存在唯一的t_u＞0,使得t_u u∈$\mathscr{N}$且$\mathscr{I}$(t_uu)=$\mathop {\max }\limits_{t \in \left( {0, + \infty } \right)} {\mkern 1mu} $ $\mathscr{I}$(tu)；

(ⅱ) $\mathscr{I}$限制在Nehari流形$\mathscr{N}$上的下界大于一个正数.

证  (ⅰ)对任意的t∈(0,+∞)和u∈H₀¹(Ω)\{0},设

可得

由函数的单调性可证(ⅰ).

(ⅱ)由u∈$\mathscr{N}$,可得

由$\mathscr{N}$的定义,可知u≠0.因此存在不依赖u的σ,满足‖u‖≥σ＞0,同时有

因而对任意的u∈$\mathscr{N}$,都有$\mathscr{I}$(u)≥$\left( {\frac{1}{2} - \frac{1}{p}} \right){\sigma ^2}$＞0.

由引理1,易得$m = \mathop {\inf }\limits_{u \in \mathscr{N}} \mathscr{I}\left( u \right)$＞0.定义S为

由文献[1-4, 7],S可由函数

达到,这里C是固定的正数,ε＞0.定义一个截断函数ψ∈C₀^∞($\mathbb{R}^3$,[0, 1]),它满足ψ(x)=1,x∈${B_{\overline \rho }}$(0)且ψ(x)=0,x∈$\mathbb{R}^3$\${B_{2\overline \rho }}$(0),这里的ρ是一个正数.令u_ε=ψU_ε,定义测试函数

当ε足够小时,根据文献[4, 7]可知：

引理2  假设条件(k₁)-(k₂)成立.若$\beta \in \left( 2-\frac{p}{2}, 2-\frac{p}{6} \right]$,则

证  事实上,当|x|＜${\varepsilon ^{\frac{1}{2}}}$时,有

由条件(k₂),可得

因$\beta \in \left( 2-\frac{p}{2}, 2-\frac{p}{6} \right]$,所以4-2β-p＜0,故

引理3  假设条件(k₁)-(k₂)成立.若$\beta \in \left( 2-\frac{p}{2}, 2-\frac{p}{6} \right]$,则存在正数t_ε,ε₀,T^*,满足t_εv_ε∈$\mathscr{N}$,且ε₀≥ε时t_ε≥T^*＞0.

证  由引理1的(ⅰ)知t_ε存在.事实上,只需要讨论t_ε＜1的情况.由〈$\mathscr{I}$ ′(t_εv_ε),t_εv_ε〉=0,可得

根据Sobolev不等式,有

易知存在ε₀＞0,当ε₀≥ε时有O(${\varepsilon ^{\frac{1}{2}}}$)≤S.故ε₀≥ε时,有

引理4  假设条件(k₁)-(k₂)成立.若$\beta \in \left( 2-\frac{p}{2}, 2-\frac{p}{6} \right]$,则$m < \frac{1}{3}{S^{\frac{3}{2}}}$.

证  对任意的t∈(0,+∞),设

则${t^*} = {\left| {\int_\mathit{\Omega } {{{\left| {\nabla {v_\varepsilon }} \right|}^2}{\rm{d}}x} } \right|^{\frac{1}{4}}}$时,有

由m的定义和$\int_{\Omega \backslash \left\{ {\left| x \right| < {\varepsilon ^{\frac{1}{2}}}} \right\}} {k\left( x \right){{\left| {{v_\varepsilon }} \right|}^p}{\rm{d}}x} \ge 0$,可知

根据引理2-3,可得ε足够小时m＜$\frac{1}{3}{S^{\frac{3}{2}}}$.

定理1的证明  由文献[7]的定理8.5,可得到(PS)_m序列{u_n},即：

不妨假设u_n(x)≥0 (a.e. x∈Ω).序列{u_n}显然是有界的,则存在u∈H₀¹(Ω),满足u_n⇀u(x∈H₀¹(Ω)).假设u=0,那么根据条件(k₁),可得

由〈${\mathscr I}'$ (u_n),u_n〉=0,当n→∞时,有

由Sobolev不等式,可知

可得

或者

如果

那么由引理1(ⅱ)的证明过程可得

这与引理1(ⅱ)矛盾.如果

那么由(3)式可得

这与引理4矛盾.故假设不成立,即u≠0.由${\mathscr I}'$(·)的弱连续性得,u是方程(1)的非平凡解.因

故$\mathscr {I}$(u)=m.结合强极大值原理可得u是正的.再由m的定义,即证u是方程(1)的正基态解.