方程(1)对应的能量泛函为

其中

范数为

因为X连续嵌入到Hilbert空间$H^{1}\left(\mathbb{R}^{3}\right)$中，所以X连续嵌入到空间$L^{q}\left(\mathbb{R}^{3}\right)$中，其中q∈(2，2^*).

因为泛函I(u)∈C¹(X，$\mathbb{R}$)，所以方程(1)的解是能量泛函I(u)的临界点.即u是方程(1)的弱解是指：对∀v∈X，有

考虑方程(1)的极限问题

对应的能量泛函为

定义Nehari流形

本文的思路是：先讨论方程(1)的正解u和极限方程(2)的正解w的性质；再证明$m_{R}^{\pm}=\inf \limits_{u \in \mathcal{N}_{R}^{\pm}} I(u)$在流形$\mathcal{N}$_R^±上可达到；由形变引理可得，对∀φ∈H¹(B_R(0))，有〈I′(u_R)，φ〉=0；当R→∞时，m_R^±=m^±= $\inf \limits_{u \in \mathcal{N}^{\pm}} I(u)$，且〈I′(u)，φ〉=0；最后由m^± < m+m_∞证得u^±≠0.

引理1  极限方程(2)有一个正的基态解w∈H¹($\mathbb R$³)，使得

令

对∀δ∈(0，$\sqrt {V_∞} $)，存在C=C(δ)>0，使得对∀x∈$\mathbb R^3$，有$w(x) \leqslant C \mathrm{e}^{-\frac{\delta}{\alpha}|x|}$.

证   正解w∈H¹($\mathbb R^3$)存在性的证明类似于文献[9]的命题2.4.对∀x∈$\mathbb R^3$，令v(x)=w(αx)，则

则

由文献[10]可得v(x)≤M·e^-δ(|x|-R)，所以$w(x) \leqslant C e^{-\frac{\delta}{a}|x|}$.

定理1的证明   类似于文献[2]和文献[11]的命题6.1，由Ekeland变分原理得到PS序列{u_n}∈ $\mathcal N$.因为

所以{u_n}有界.又因u_n$\rightharpoonup$u于X，则I′(u)=0.由于对∀x∈$\mathbb R^3$，有w(x)≤Ce^{- $\frac{{δ}}{{α}}$|x|}，得m < m_∞，由此得u≠0.最后由Fatou引理证得临界点u满足I(u)=m，根据极大值原理可得u是正解.

注1   若u是方程(1)的正解，且满足I(u)=m= $\mathop {\inf }\limits_{u \in {\cal N}} I(u)$，则类似于引理1，对任何μ>0，存在C=C(μ)>0，使得对∀x∈$\mathbb R^3$，有(x)≤Ce^-μ|x|.

引理2  取$u \in {\cal N}_R^ \pm $，令h^u(t，s)=I(tu⁺+su^-)，对∀t，s≥0，h^u在点(1，1)处取得极大值.

证   因为$u \in {\cal N}_R^ \pm $，所以〈I′(u)，u^±〉=0，则

又因

所以$\lim\limits _{|(t, s)| \rightarrow+\infty} h^{u}(t, s)=-\infty$，则h^u的极大值点在(t₀，s₀)∈[0，+∞)×[0，+∞)处取得.

第1步  证明s₀，t₀>0.假设s₀=0，因为h^u(0，0)=0且h^u的极大值点为(t₀，s₀)，则t₀>0.当s>0足够小时，I(su^-)>0，于是

与h^u(t₀，s)在s=0处取得极大值矛盾，因此s₀>0，同理t₀>0.

第2步  证明s₀，t₀∈(0，1].由h^u(t，s)的极大值点是(t₀，s₀)知，I(tu⁺+su^-)在(t₀，s₀)处的偏导数为0，即

假设s₀≤t₀，因〈I′(u)，u⁺〉=0，则

由(3)，(4)式得

所以t₀≤1.假设t₀≤s₀，由〈I′(tu⁺+su^-)，su^-〉=0得s₀≤1.

第3步  证明h^u在(0，1]²\(1，1)处取不到极大值.

若t₀ < 1或s₀ < 1，则

引理3  对∀R>0，令m_R^±= $\inf \limits_{u \in \mathcal{N}_{R}^{\pm}} I(u)$，存在u_R∈ ${\cal N}_R^ \pm $，使得I(u_R)=m_R^±.

证   令{u_n}⊂ ${\cal N}_R^ \pm $，则I(u_n)→m_R^±，〈I′(u_n)，u_n〉=0.由

知{u_n}有界，则存在u∈H₀¹(B_R(0))，使得u_n $\rightharpoonup$u于H₀¹(B_R(0))，u_n→u于L^p(B_R(0))，u_n(x)→u(x)对a.e. x∈(B_R(0))一致成立.

因为〈I′(u_n)，u_n^±〉=0，所以

又因{u_n}有界，则存在ρ>0，使得

由引理2的证明知，h^u在(t_u，s_u)∈ $\mathbb R^2$处取得极大值，其中t_u，s_u>0.因此

即u_R=(t_uu⁺，s_uu^-)∈ ${\cal N}_R^ \pm $.因u_n^±$\rightharpoonup$u^±，由引理2得

引理4  对任何R>0，存在u_R∈ ${\cal N}_R^ \pm $使得I(u_R)=m_R^±，且〈I′(u_R)，φ〉=0，∀φ∈H₀¹(B_R(0)).

证  由文献[9]的形变引理反证可得.

引理5   $m^{\pm}=\inf \limits_{u \in \mathcal{N}^{\pm}} I(u), \lim\limits _{R \rightarrow \infty} m_{R}^{\pm}=m^{\pm}$.

证  证明较简单，类似于文献[12]的引理4.1.

引理6  m^± < m+m_∞.

证  由引理1和注1知I(u)=m，I(w)=m_∞.令

对∀n∈ $\mathbb N$，(t，s)∈ ${\left[ {\frac{1}{2}, 2} \right]^2}$，定义ψ_n(x)=tu(x)-sw_n(x)，其中x∈$\mathbb R^3$.证存在n₀∈ $\mathbb N$，当n≥n₀，(s，t)∈ ${\left[ {\frac{1}{2}, 2} \right]^2}$时，有I(ψ_n) < m+m_∞.因为

其中

由注1，有u(x)≤Ce^-μ|x|，取$\gamma<\mu<\frac{\sqrt {V_{\infty}} }{\alpha}$，则

因〈I′_∞(w_n)，w_n〉=0，令∫_{$\mathbb R^3$}|▽w_n|²dx=G_n>0，有

则

所以

则

当n→∞时，m^±≤m+m_∞+o(1).

下证当(t₀，s₀)∈ ${\left[ {\frac{1}{2}, 2} \right]^2}$时，t₀u-s₀w_n∈ ${\cal N}_{}^ \pm $.令

由〈I′(u)，u 〉=0，得

由〈I′_∞(w_n)，w_n〉=0，得

由Miranda定理知，当n足够大时，存在(t₀，s₀)∈ ${\left[ {\frac{1}{2}, 2} \right]^2}$，使得h^±(t₀，s₀，n)=0，即t₀u-s₀w_n∈ ${\cal N}_{}^ \pm $.

定理2的证明   令引理3中R=n，则u_n∈${\cal N}_{}^ \pm $.因${\cal N}_{}^ \pm $⊂ $\cal N$，所以{u_n}有界.存在u∈X，使得u_n$\rightharpoonup$u于X.由引理4知u是临界点，下证u^±≠0.令K₁，K₂∈ $\mathbb R$，定义

因为I(u_n)=m_n^±，所以由引理5、引理6得

现证u⁺≠0.假设u⁺=0，则u_n⁺$\rightharpoonup$0于X.令

可得‖u_n⁺‖_*²=‖u_n⁺‖²+o_n(1).存在t_n>0，使得t_nu_n⁺∈ ${{\cal N}_\infty }$，即

因〈I′(u_n)，u_n⁺〉=0，则

由条件(h₀)知，对∀ε>0，存在R>0，使得$\int_{|x|>R}|h(x)|^{\frac{6}{6-p}} \mathrm{d} x<\varepsilon$.

由ε的任意性知∫_{$\mathbb R^3$}h(x)|u_n⁺|^pdx→0，根据条件(h₁)可知∫_{$\mathbb R^3$} h_∞|u_n⁺|^pdx→0.由(5)，(6)式可得

若$\mathop {\lim \sup }\limits_{n \to \infty } t_{n}>1$，则(7)式左边大于0，(7)右边小于0，矛盾，则不成立.

若$\mathop {\lim \sup }\limits_{n \to \infty } t_{n} \le 1$，

则可得m_∞≤K₁，又因K₁+K₂ < m+m_∞，则K₂ < m.

存在s_n>0，使得s_nu_n^-∈ $\cal N$，即〈I′(s_nu_n^-)，s_nu_n^-〉=0.由

得〈I′(u_n^-)，u_n^-〉 < 0.因此s_n≤1，类似于(8)式可得K₂≥m，得到矛盾，假设不成立，即u⁺≠0.同理u^-≠0.

我们已经证得u是方程(1)的变号解，下证u是最小能量变号解.

I(u)=m^±，因此定理2证毕.