考虑如下拟线性Schrödinger方程：

其中N≥3，V∈C¹(${{\mathbb{R}}^{N}}$，$\mathbb{R}$)，h∈C($\mathbb{R}$，$\mathbb{R}$)，μ>0是一个参数，C为正常数，空间H¹(${{\mathbb{R}}^{N}}$)和空间L^s(${{\mathbb{R}}^{N}}$)的范数分别为

其中s∈[1，+∞).

方程(1)源于如下模型：

其中z：$\mathbb{R}$×${{\mathbb{R}}^{N}}$→$\mathbb{C}$，W：${{\mathbb{R}}^{N}}$→$\mathbb{R}$是给定的势能，h，ℓ：$\mathbb{R}$→$\mathbb{R}$是适当的函数.

当ℓ(s)=s时，模型(2)用于描述超流体薄膜中凝聚波函数的时间演化过程；当ℓ(s)=(1+s)¹²时，模型(2)用于描述高能极短激光在物质中的自引导现象.关于模型(2)的更多物理背景可参阅文献[1-2].

近年来，椭圆方程得到广泛的研究(见文献[3-5]及其参考文献).函数ℓ(s)=s的情形亦是如此，学者们利用微分法(如极小化法、变量替换法、Nehari流行法和扰动法等)得到了方程非平凡解的存在性和多重性(见文献[6-10]及其参考文献).对ℓ(s)=(1+s)¹²的情形研究不多(见文献[11-15]).文献[14]在V(x)与h满足如下条件时获得了方程(1)正解的存在性：

(V₁)对任意x∈${{\mathbb{R}}^{N}}$，V(x)=V(|x|)，0 < α≤V(x)≤β < ∞；

(V₂)当x∈${{\mathbb{R}}^{N}}$\{0}时，存在$A\in \left[ 0, \frac{{{\left( N-2 \right)}^{2}}}{2} \right]$，使得$\left| \nabla V\left(x \right)\cdot x \right|\le \frac{A}{{{\left| x \right|}^{2}}}$；

(h₁)当t≤0时，h(t)=0，存在$q\in \left( 2, \frac{2N}{N-2} \right)$，使得$-\infty <\underset{t\to {{0}^{+}}}{\mathop{\text{lim }\!\!~\!\!\text{ inf}}}\, \frac{h\left( t \right)}{{{t}^{q-1}}}\le \underset{t\to {{0}^{+}}}{\mathop{\text{lim }\!\!~\!\!\text{ sup}}}\, \frac{h\left( t \right)}{{{t}^{q-1}}}<+\infty $；

(h₂)存在$p\in \left( 2, \frac{2N}{N-2} \right)$，使得$\underset{t\to {{0}^{+}}}{\mathop{\text{lim }\!\!~\!\!\text{ inf}}}\, \frac{H\left( t \right)}{{{t}^{p}}}>0$，其中$H\left( t \right)=\int_{0}^{t}{h\left( s \right)\text{d}s}$.

由条件(h₁)和(h₂)知q≤p，且存在δ>0，a₁，a₂>0，使得

文献[14]给出了h满足条件(h₁)和(h₂)的例子，并在径向对称空间中讨论了正解的存在性.

若考虑将条件(V₁)换成如下非紧性条件：

(V₁^′)对任意x∈${{\mathbb{R}}^{N}}$，$0<{{V}_{0}}\le V\left( x \right)\le {{V}_{\infty }}=\underset{\left| x \right|\to \infty }{\mathop{\text{lim}}}\, V\left( x \right)$.

则方程(1)的讨论将变得更加困难.

设η∈C¹(R，[0, 1])满足|η^′(t)|≤2δ，当|t|≤δ时，η(t)=1；当|t|≥2δ时，η(t)=0.定义

由条件(h₁)和(h₂)知，存在C>0，使得

此外，任意给定T>0，存在C_T>0，有

考虑辅助方程

方程(5)对应的能量泛函为

其中$g\left( t \right)=\sqrt{1+\frac{{{t}^{2}}}{2(1+{{t}^{2}})}}$.设$G\left( t \right)=\int_{0}^{t}{g\left( s \right)\text{d}s}$，由文献[16]知，函数G^－1(t)有如下性质：

引理 1^[16]   (i)对任意t∈$\mathbb{R}$，$\sqrt{\frac{2}{3}}\left| t \right|\le |{{G}^{-1}}\left( t \right)\left| \le \right|t|, \left| \frac{\text{d}}{\text{d}t}{{G}^{-1}}\left( t \right) \right|\le 1$；

(ii) $\underset{t\to 0}{\mathop{\text{lim}}}\, \frac{{{G}^{-1}}\left( t \right)}{t}=1, ~\underset{t\to \infty }{\mathop{\text{lim}}}\, {{G}^{-1}}\left( t \right)t=\sqrt{\frac{2}{3}}$；

(iii) 当t≥0时，$\sqrt{\frac{2}{3}}{{G}^{-1}}\left( t \right)\le t\cdot \frac{\text{d}}{\text{d}t}{{G}^{-1}}\left( t \right)\le {{G}^{-1}}\left( t \right)$.

由于I_μ不具有光滑性和紧性，故通过u=G^－1(v)进行变量替换.记

则J_μ∈H¹(${{\mathbb{R}}^{N}}$)，且J_μ的临界点是半线性椭圆方程

的弱解.显然，若v∈H¹(${{\mathbb{R}}^{N}}$)为J_μ的临界点，则u=G^-1(v)就是方程(5)的弱解.

引理 2^[8]  设X是Banach空间，$\ell \subset {{\mathbb{R}}_{+}}$， E_λ(v)=Φ(v)－λΨ(v)，满足：

(i) 对任意的v∈X，Ψ(v)≥0；

(ii) 当‖v‖_X→∞时，Φ(v)→+∞或Ψ(v)→+∞.

若存在两个点v₁，v₂∈X，

使得

则对几乎所有的λ∈ℓ，存在E_λ的有界(PS)_cλ序列{v_n}⊂X，且映射λ|c_λ是左连续的.

为了应用引理2获得方程(5)的解，取$\ell =\left[ \frac{1}{2}, 1 \right]$，定义

令

则J_λ，μ(v)=Φ(v)－λΨ_μ(v).由引理1和F的定义知，当v∈H¹(${{\mathbb{R}}^{N}}$)时Ψ_μ(v)≥0.由条件(V₁^′)知，当‖v‖→+∞时Φ(v)→+∞.

下面证明泛函J_λ，μ具有山路结构和(PS)_c条件.

引理 3  假设条件(V₁^′)成立，则当λ∈ℓ时，存在w∈H¹(${{\mathbb{R}}^{N}}$)，满足J_λ，μ(w) < 0，且

其中

证  由F的定义和引理1可知$\underset{t\to +\infty }{\mathop{\text{lim}}}\, \frac{F\left( {{G}^{-1}}\left( t \right) \right)}{{{t}^{2}}}=+\infty $.固定一个非负函数v₀∈H¹(${{\mathbb{R}}^{N}}$)\{0}.当t>0充分大时，有

设w=tv₀，则当λ∈ℓ时，J_λ，μ(w)≤J_12，μ(w) < 0.

由引理1和Sobolev不等式可得

因此

类似于文献[17]，有如下引理：

引理 4   假设条件(V₁^′)和(V₂)成立，对任一给定的λ∈ℓ，若{v_n}⊂H¹(${{\mathbb{R}}^{N}}$)为J_λ，μ的一列有界(PS)_cλ，μ序列，则存在{v_n}的子列(仍记为{v_n})和v，l∈N∪{0}，{y_n^k}⊂${{\mathbb{R}}^{N}}$，w^k∈H¹(${{\mathbb{R}}^{N}}$)(1≤k≤l)，使得：

(i) v_n→v且J_λ，μ^′(v)=0；

(ii) |y_n^k|→+∞，|y_n^k－y^k_n^′|→+∞(k≠k^′)；

(iii) w^k≠0，(J_λ，μ^∞)^′(w^k)=0；

(iv) $\|{{v}_{n}}-v-\sum\limits_{k=1}^{l}{{{w}^{k}}(\cdot -y_{n}^{k})}\|\to 0$；

(v) ${{J}_{\lambda , \mu }}({{v}_{n}})\to {{J}_{\lambda , \mu }}\left( v \right)+\sum\limits_{k=1}^{l}{J_{\lambda , \mu }^{\infty }({{w}^{k}})}$.

若l=0，则上述结论在去掉w^k和{y_n^k}后仍成立.

引理 5  假设条件(V₁^′)和(V₂)成立，对任一给定的λ∈ℓ，{v_n}⊂H¹(${{\mathbb{R}}^{N}}$)为J_λ，μ的有界(PS)_cλ，μ序列，则存在{v_n}的子列(仍记为{v_n})，v_λ∈H¹(${{\mathbb{R}}^{N}}$)\{0}，使得v_n→v_λ.

证  由引理4可知，当λ∈ℓ时，存在v_λ∈H¹(${{\mathbb{R}}^{N}}$)，使得v_n→v_λ，J_λ，μ^′(v_λ)=0.当l≥0时，有

其中w^k(1≤k≤l)为J_λ，μ^∞的非平凡临界点.因此，要证在H¹(${{\mathbb{R}}^{N}}$)上v_n→v_λ，只需证l=0.若l>0，由引理1可推出

其中

考虑方程

由文献[14]知，方程(7)存在一个极小能量解w_λ，且存在γ∈C([0, 1]，H¹(${{\mathbb{R}}^{N}}$))，使得

又因为V(x)≤V_∞且V(x)≠V_∞，由c_λ，μ的定义可得

这与(6)式矛盾.因此，在H¹(${{\mathbb{R}}^{N}}$)中l=0，即v_n→v_λ.

定理 1  假设条件(V₁^′)，(V₂)，(h₁)，(h₂)成立，则存在μ>0，对任意μ>μ，方程(1)至少有一个正解.

证  由引理2和引理3可知，存在J₁⊂ℓ(meas(ℓ₁)=0)，对任意λ∈ℓ\ℓ₁，J_λ，μ都有有界(PS)_cλ，μ序列{v_n}ℓH¹(${{\mathbb{R}}^{N}}$).由引理5知，对任意λ∈ℓ\ℓ₁，存在v_λ∈H¹(${{\mathbb{R}}^{N}}$)\{0}，使得v_n→v_λ且J_λ，μ(v_λ)=c_λ，μ.

取{λ_n}∈ℓ\ℓ₁满足$\underset{n\to \infty }{\mathop{\lim }}\, {{\lambda }_{n}}=1$，则

且v_λn满足Pohozaev恒等式

注意到J_λn，μ(v_λn)≤c_12，μ，由引理1、条件(V₂)和Hardy不等式，可推出

因$\frac{2A}{{{\left( N-2 \right)}^{2}}}<1$，所以∫_{${{\mathbb{R}}^{N}}$}|∇v_λn|²dx有界.由引理1和F的定义知，存在C>0，对任意的t∈$\mathbb{R}$，有

再次使用引理1和${{J}_{{{\lambda }_{n}}, \mu }}({{v}_{{{\lambda }_{n}}}})\le {{c}_{\frac{1}{2}, \mu }}$得

因此∫_{${{\mathbb{R}}^{N}}$}v_λn²dx有界.由于映射λ↦c_λ，μ左连续，可得

类似地，可得$\underset{n\to \infty }{\mathop{\text{lim}}}\, \text{ }{{J}^{\prime }}_{\mu }({{v}_{{{\lambda }_{n}}}})\to 0$.因此，{v_λn}是J_μ的有界(PS)_c1，μ序列.由引理5知，泛函J_μ存在非平凡临界点v_μ，即方程(5)有一个非平凡解u_μ=G^－1(v_μ).利用与文献[16-17]相似的论述，不难推出u_μ为方程(5)的正解.

类似文献[14]中的引理3.1可得

利用Pohozaev恒等式，J_μ(v_μ)=c_1，μ和条件(V₂)可得

在(4)式中取T=|w|_∞，利用引理1可得

由(8)-(10)式可推出$|{{v}_{\mu }}{{|}_{\infty }}\le C{{\mu }^{\frac{-({{2}^{*}}-p)}{\left( p-2 \right)({{2}^{*}}-q)}}}$.因此，当μ>0充分大时，

由f的定义可知，u_μ是方程(1)的正解.