考虑如下带类p(x)-拉普拉斯算子的椭圆方程：

其中N≥2，V：${{\mathbb{R}}^{N}}$→(0，→∞)是连续函数. p：${{\mathbb{R}}^{N}}$ (1，→∞)满足

近年来，包含p(x)-拉普拉斯算子的椭圆方程及变分方法的研究，受到了学者们的广泛关注(见文献[1-14]). 涉及变指数的数学模型可用于描述弹性力学和电流变液等物理现象. 文献[6]研究了如下椭圆方程的特征值问题：

其中Ω⊂ ${{\mathbb{R}}^{N}}$是一个具有光滑边界的有界区域，p(x)∈C(Ω)且p(x)>2，λ>0. 令f(x，u)满足以下(AR)条件：

(AR) 存在M>0，θ>p⁺，使得

其中F(x，t)= $\int_{0}^{t}{f}(x, s)\text{d}s$.

当f(x，u)满足(AR)条件和一些附加条件时，文献[6]证明了：任意的λ>0均为方程(2)的一个特征值.

最近，文献[15]在λ=1的情形下考虑了方程(2)解的存在性和多重性，当f(x，u)满足超线性增长条件但不满足(AR)条件时，利用山路引理获得了方程(2)非平凡解的存在性. 然而，当Ω= ${{\mathbb{R}}^{N}}$时，对该类椭圆方程的研究不多. 本文将研究f(x，u)满足超线性增长条件但不满足(AR)条件(见文献[16])时，方程(1)非平凡解的存在性.

我们给出如下假设条件：

(V) V∈C(${{\mathbb{R}}^{N}}$)满足${{V}^{-}}=\mathop {\lim }\limits_{x \in {{\mathbb{R}}^N}}\, V(x)>0$且meas{x∈ ${{\mathbb{R}}^{N}}$：-∞ < V(x)≤v₀} < +∞，其中v₀为一常数，meas(·)表示${{\mathbb{R}}^{N}}$中的Lebesgue测度；

(H) p，q∈C₊(${{\mathbb{R}}^{N}}$)={h∈C(${{\mathbb{R}}^{N}}$)：$\mathop {\lim }\limits_{x \in {{\mathbb{R}}^N}}\, \mathit{h}(x)>1$}，满足1 < p^-≤p⁺ < q^-≤q⁺ < p^*(x)= $\frac{Np(x)}{N-p(x)}$；

(F₁) f：${{\mathbb{R}}^{N}}$× ${\mathbb{R}}$ → ${\mathbb{R}}$满足Carathéodory条件，即对所有的t∈ ${\mathbb{R}}$，f(·，t)可测，对所有的x∈ ${{\mathbb{R}}^{N}}$，f(x，·)连续；

(F₂) 存在非负函数ρ∈L^p′(·)(${{\mathbb{R}}^{N}}$)∩L^q′(·)(${{\mathbb{R}}^{N}}$)和$\sigma \in {{L}^{\frac{q(\cdot )}{\sigma (\cdot )-p-p}}}\left( {{\mathbb{R}}^{N}} \right)\cap {{L}^{\infty }}\left( {{\mathbb{R}}^{N}} \right)$，使得对∀(x，t)∈ ${{\mathbb{R}}^{N}}$× $\mathbb{R}$，|f(x，t)|≤ρ(x)+σ(x)|t|^q(x)-1；

(F₃) $\underset{|t|\to \infty }{\mathop{\lim }}\, \frac{F(x, t)}{|t{{|}^{{{p}^{+}}}}}$ =∞关于x∈ ${{\mathbb{R}}^{N}}$一致成立；

(F₄) $\underset{|t|\to 0}{\mathop{\lim }}\, \frac{F(x, t)}{|t{{|}^{p+}}}$ < ∞关于x∈ ${{\mathbb{R}}^{N}}$一致成立；

(F₅) 存在常数c₀，r₀≥0及k(x)> $\frac{N}{p(x)}$，使得对∀(x，t)∈ ${{\mathbb{R}}^{N}}$×$\mathbb{R}$，当|t|≥r₀时，有

其中$\mathscr{F} $(x，t)= $\frac{1}{{{p}^{+}}}f(x, t)t-F(x, t)$≥0；

(F₆) f(x，-t)=-f(x，t)对所有x∈ ${{\mathbb{R}}^{N}}$和t∈$\mathbb{R}$成立.

本文的主要结果如下：

定理1  假设条件(V)，(H)和(F₁)-(F₆)成立，则方程(1)有无穷多解.

记ζ(${{\mathbb{R}}^{N}}$)是由所有可测实函数组成的集合. 变指数Lebesgue空间

对应的范数为

变指数Sobolev空间

对应的范数为

定义

其对应的范数为

当V满足条件(V)时，容易验证范数‖u‖_X与‖u‖_1，p(x)等价^[16].

命题1^[2]  对所有的u∈L^p(·)($\mathbb{R}$^N)，v∈L^p′(·)($\mathbb{R}$^N)，有

其中$\frac{1}{{p(x)}} + \frac{1}{{{p^\prime }(x)}} = 1$.

命题2^[3]  设ρ(u)= $\int_{{{\mathbb{R}}^{N}}}{\left( |\nabla u{{|}^{p(x)}}+V(x)|u{{|}^{p(x)}} \right)}\text{d}x$，则：

(i) ρ(u)>1(=1； < 1)⇔‖u‖_X>1(=1； < 1)；

(ii) 若‖u‖_X>1，则‖u‖_X^p-≤ρ(u)≤‖u‖_X^p+；

(iii) 若‖u‖_X < 1，则‖u‖_X^p+≤ρ(u)≤‖u‖_X^p-.

定义泛函

则φ(u)∈C¹(X，R)且

定义

则ψ(u)∈C¹(X，$\mathbb{R}$)，且

类似文献[6, 16]的证明，有如下命题成立：

命题3  若条件(V)成立，则泛函φ：X→$\mathbb{R}$在X中是凸泛函且弱下半连续；若条件(V)，(H)，(F₁)，(F₂)成立，则ψ在X中弱连续，ψ′：X →X′是一个紧算子.

命题4  假设p：${{\mathbb{R}}^{N}}$ →$\mathbb{R}$ Lipschitz连续，q∈C₊(${{\mathbb{R}}^{N}}$)，p(x)≤q(x)≤p^*(x)，1 < p^-≤p⁺ < N，则W^1，p(·)(${{\mathbb{R}}^{N}}$)$\circlearrowleft$L^q(·)(${{\mathbb{R}}^{N}}$)是连续嵌入.

命题5^[4]  假设p：${{\mathbb{R}}^{N}}$→ $\mathbb{R}$ Lipschitz连续，有1 < p^-≤p⁺ < N，

(i) 若条件(V)成立，则X$\circlearrowleft$L^p(·)(${{\mathbb{R}}^{N}}$)是紧嵌入；

(ii) 若条件(V)成立，可测函数q(x)满足p(x) < q(x)且$\mathop {\lim }\limits_{x \in {{\mathbb{R}}^N}} \left( {{p^*}(x) - q(x)} \right) > 0$，则X$\circlearrowleft$L^q(·)($\mathbb{R}$^N)是紧嵌入.

定义1  若对所有的v∈X，有

则称u∈X是方程(1)的弱解.

方程(1)对应的能量泛函为

众所周知，方程(1)的弱解与泛函I的临界点等价.

定义2  设E是Banach空间，J∈C¹(E，$\mathbb{R}$)，c∈$\mathbb{R}$. 如果满足J(u_n) c且‖J′(u_n)‖(1+‖u_n‖) 0的序列{u_n}⊂E有收敛子序列，则称泛函J满足(Ce)_c条件.

引理1^[17]  设E是无限维Banach空间，E=Y⊕Z，其中Y为有限维空间. 若对于任意c都有J∈C¹(E，$\mathbb{R}$)满足(Ce)_c条件，J(u0)=0，J(u-u)=J(u)，且

(i) 存在常数ρ₀，α>0，使得J|_∂Bρ0∩Z≥α；

(ii) 对任意有限维子空间$\tilde E$∈E，存在R=R($\tilde E$)>0，使得在$\tilde E$\B_R上有J(u)≤0.

则J有一列临界值趋于∞的序列.

令{e_i}为X上的标准正交基，且定义E_i=span{e_i}. 记

则

引理2^[15]  若条件(V)成立，对于p(x) < s(x) < p^*，当k→∞时，有

由引理2，我们可以选择一个正整数m≥1，使得

设

则X=Y⊕Z.

引理3如果条件(V)，(H)，(F₁)-(F₅)成立，则泛函I满足(Ce)_c条件.

证  设{u_n}是I在X中的(Ce)_c序列，即

首先验证{u_n}在X中有界. 假设{u_n}在X中无界，则存在一个子列仍记为{u_n}，使得当n→∞时，‖u_n‖_X→∞. 定义ω_n= ${\omega _n} = \frac{{{u_n}}}{{{{\left\| {{u_n}} \right\|}_X}}}$，则‖ω_n‖_X=1. 因此，存在收敛子序列仍记为{ω_n}，使得当n→∞时，在X中{ω_n}弱收敛到ω；在${{\mathbb{R}}^{N}}$中{ω_n}几乎处处收敛到ω；在L^s(·)(${{\mathbb{R}}^{N}}$)中{ω_n}强收敛到ω. 其中s(x)≥p(x)满足$\mathop {\inf }\limits_{x \in {{\mathbb{R}}^N}} \left( {{p^*}(x) - s(x)} \right) > 0$.

若ω≠0，设

当x∈Ω₁时，有|u_n(x)| +∞. 通过条件(F₃)，有

因此，由(4)，(5)式及Fatou引理，有

矛盾.

若w=0，在L^s(·)(${{\mathbb{R}}^{N}}$)中，w_n →0，其中

当n充分大时，有

设

由(8)式可知

因此，当n→∞时，由条件(F₂)可得

其中α=q⁺，q^-，C₁是正常数. k(x)> $\frac{N}{{p(x)}}$，p(x) < k′(x)p(x) < p^*(x). 当n→∞时，由条件(F₅)和(7)式可得

其中k₀=k₊，k_-，p₀=p⁺，p^-. 当n→∞时，结合(10)，(11)式，有

与(9)式矛盾.

综上所述，在X中序列{u_n}有界. 由命题5可知，当n→∞时，存在u∈X，使得：在X中{u_n}弱收敛到u；在${{\mathbb{R}}^{N}}$中{u_n}几乎处处收敛到u；在L^p(·)(${{\mathbb{R}}^{N}}$)和L^q(·)(${{\mathbb{R}}^{N}}$)中{u_n}强收敛到u. 通过条件(F₂)和Hölder不等式，有

因此

当n→∞时，在X中u_n⇀u，在X^*中I′(u_n) 0，有

则

结合(12)式，有

由文献[1]可知存在著名的Simon不等式，即对所有的ξ，η∈ ${{\mathbb{R}}^{N}}$，C是只依赖p^-，p⁺的常数，

满足

假设x∈Δ₁，当n→∞时，结合(13)，(14)式，有

利用条件(V)和(14)式，当n→∞时，有

假设x∈Δ₂，在X中序列{u_n}有界，存在H>0，有$\int_{{{\mathbb{R}}^N}} {{{\left| {\nabla {u_n}} \right|}^{p(x)}}} {\rm{d}}x \le H$. 利用(14)式和Hölder不等式，当n→∞时，有

存在L>0，有

利用(14)式和Hölder不等式，当n→∞时，有

结合(15)，(16)，(17)，(18)式，当n→∞时，有

则‖u_n-u‖_X→0. 因此泛函I满足(Ce)_c条件.

引理4  假设定理1中的条件都成立，则存在常数ρ₀，α>0，使得I|_∂Bρ0∩Z≥α.

证  由命题5可知存在常数C₃>0，使得

由条件(F₂)，(F₄)，存在C₁>0，C₄>0，有

对于u∈Z_m，由(3)，(19)和(20)式可得

取‖u‖_X=ρ0，由p⁺ < q^-知，当ρ₀充分小时，有

引理5  假设定理1中的条件都成立，对任意有限维空间$\tilde X$⊂X，若序列{u_n}⊂ $\tilde X$满足‖u_n‖ →∞，则I(u_n) -∞.

证  利用反证法. 假设存在序列{u_n}⊂X，当n→∞时，‖u_n‖→∞，且存在M>0使得对∀n∈ ${\mathbb{N}}$有I(u_n)≥-M. 定义ω_n= ${\omega _n} = \frac{{{u_n}}}{{{{\left\| {{u_n}} \right\|}_X}}}$，则‖ω_n‖_X=1. 因此，存在收敛子序列仍记为{ω_n}，我们可以假设在X中{ω_n}弱收敛到ω；因为${\tilde X}$是有限维的，则在${\tilde X}$中{ω_n}强收敛到ω；在${{\mathbb{R}}^{N}}$中{ω_n}几乎处处收敛到ω，且‖ω‖_X=1. 类似引理3的证明中(5)，(6)式的论述可导出矛盾.

定理1的证明  由引理3可知，泛函I满足(Ce)_c条件. 由引理4和引理5可知，泛函I满足引理1的所有假设. 故定理1得证.