考虑如下非线性Neumann问题：

其中Ω⊂ $\mathbb{R} $^N(N≥3)是边界光滑的有界域，

λ是正参数，Q(x)是Ω上满足

的连续变号函数，其中Ω₁={x：Q(x)≥0}，Ω₂={x：Q(x)＜0}. f：Ω × $\mathbb{R} $→ $\mathbb{R} $满足以下条件：

(f₁) 存在常数a＞0和0＜σ＜1，使得对任意(x，s)∈Ω× $\mathbb{R} $，|f(x，s)|≤a|s|^σ；

(f₂) $\mathop {\lim }\limits_{s \to 0} \frac{{f\left( {x, s} \right)}}{s}$ =∞对x∈Ω一致成立.

近年来，对具有Neumann边界的椭圆型偏微分方程的研究引起了许多学者的注意，也获得了一些新的成果(见文献[1-10]). 此外，文献[11]研究了如下带有变号位势的Neumann问题：

其中Ω是$\mathbb{R} $^N中光滑的有界域，p＞1，a(x)是Ω上变号的连续函数，并利用约束最大化方法探讨了半线性椭圆型问题正解的存在性.

文献[12]研究了以下问题：

其中Ω⊂ $\mathbb{R} $^N为具有光滑边界的有界域，∫_ΩQ(x)dx＜0. 众所周知，与在H₀¹(Ω)空间上讨论的Direchlet边值问题不同，在H¹(Ω)空间上，范数∫_Ω(|▽u|²+u²)dx与∫_Ω|▽u|²dx不等价. 因此，文献[10]通过空间分解和山路引理等临界点理论证明了该方程解的存在性. 随后，文献[13-15]对类似的Neumann问题进行了研究并推广到一些情形. 受上述研究的启发，本文讨论此类带有变指数增长的问题(1)的可解性.

问题(1)对应的泛函为

其中u∈H¹(Ω)，

由文献[10]知，H¹(Ω)可作直和分解

其中

对u∈H¹(Ω)，有u=t+v，其中v∈V，

在H¹(Ω)上，定义等价范数‖u‖_V²=t²+‖▽v‖₂². 类似文献[11]，有如下引理：

引理 1  假设$\int_\mathit{\Omega } {\frac{{Q\left( x \right)}}{{p\left( x \right)}}} {\rm{d}}x$＜0，则存在η＞0，使得对∀t∈ $\mathbb{R} $，v∈V，当

时，有

证  若不然，则对∀n∈ N，存在t_n∈ $\mathbb{R} $，v_n∈V，使得当

时，有

或

令ω_n=|t_n|^-1v_n，由∫_Ω|▽v_n|²dx^{$\frac{1}{2}$}≤$\frac{1}{n}$|t_n|知，当n→∞时，在L²(Ω)上▽ω_n→0. 由嵌入定理知，当n→∞时，在L^p-(Ω)和L^p+(Ω)上ω_n→0.

当|t_n|≥1时，对∀x∈Ω，1≤|t_n|^p(x)-p-≤|t_n|^p+-p-. (3)式两边同时除以|t_n|^p-，注意到$\int_\mathit{\Omega } {\frac{{Q\left( x \right)}}{{p\left( x \right)}}} {\rm{d}}x$＜0，可得

由ω_n在L^p-(Ω)和L^p+(Ω)上均趋于0知

此与$\int_\mathit{\Omega } {\frac{{Q\left( x \right)}}{{p\left( x \right)}}} {\rm{d}}x$＜0矛盾.

当|t_n|≤1时，对∀x∈Ω，|t_n|^p+-p-≤|t_n|^p(x)-p-≤1. (4)式两边同时除以|t_n|^p-，可得

即

同样，当n→∞时，有

亦与$\int_\mathit{\Omega } {\frac{{Q\left( x \right)}}{{p\left( x \right)}}} {\rm{d}}x$＜0矛盾.

综上所述，引理1的结论成立.

引理 2  假设条件(f₁)，(f₂)和(2)式成立，则存在λ^*，β，ρ＞0，使得对任意λ∈(0，λ^*)，有：

(i) 当‖u‖_V=ρ时，J_λ(u)≥β；

(ii) $\mathop {\inf }\limits_{{{\left\| u \right\|}_V} \le \rho } $J_λ(u)＜0；

(iii) 存在ω∈H¹(Ω)，使得‖ω‖≥ρ，J_λ(ω)≤0.

证  当|t|≤1时，对某一固定的η＞0，若‖▽v‖₂≤η |t|，则t²≥ $\frac{{{\rho ^2}}}{{1 + {\eta ^2}}}$. 由引理1可知

其中

因此

若‖▽v‖₂＞η |t|，由‖u‖_V²=t²+‖▽v‖₂²知

由Sobolev不等式知，当‖u‖_V=ρ＜1时，存在常数C₁＞0，使得

故当‖u‖_V=ρ＜1时，

取

就有

由‖u‖_V=ρ和(6)式，有

由条件(f₁)知，存在常数C(ρ)＞0，使得

因而，对‖u‖_V=ρ，存在λ^*＞0，当0＜λ＜λ^*时，有

(ii) 由条件(f₂)知，对任一给定的M＞0，存在t₀∈(0，1)，当0＜t＜t₀时，F(x，t)≥ $\frac{{{t^2}M}}{2}$. 故

由p^-＞2知，当t₀充分小时，J_λ(t)＜0，从而$\mathop {\inf }\limits_{{{\left\| u \right\|}_V} \le \rho } {J_\lambda }\left( u \right)$＜0.

(iii) 令v₀∈supp{Ω₁}(v₀≠0)，当t＞1时，

由mes(Ω₁)＞0，则

注意到p^-＞2，当t→∞时，J_λ(tv₀)→ -∞. 取t₁充分大，使得ω=t₁v₀满足‖ω‖≥ρ，则J_λ(ω)＜0.

引理 3  假设条件(f₁)，(f₂)和(2)式成立，则存在Λ^*＞0，使得0＜λ＜Λ^*时，J_λ满足(PS)条件.

证  设{u_n}是H¹(Ω)中的任一(PS)序列，则存在c＞0，使得当n→∞时，有

下证{u_n}有界. 假设‖u_n‖→∞，令v_n=$\frac{{{u_n}}}{{\left\| {{u_n}} \right\|}}$，则有‖v_n‖=1. 故存在v∈H¹(Ω)，使得

由(8)式可得

由条件(f₁)知

由于‖v_n‖=1，则存在C≥0，使得

故当n→∞时，

类似地可以推出，当n→∞时，

由此，

则当n→∞时，可得

由∫_Ω|▽v_n|²dx→0知，v=l(l为常数)，由∫_ΩQ(x)‖u_n‖^p(x)-2|v_n|^p(x)dx→0知，∫_ΩQ(x)|l|^p(x)=0. 故可得l=0和v_n 0，与‖v_n‖=1矛盾，故{u_n}在H¹(Ω)上有界. 故存在一个收敛子列(仍记为{u_n})和u∈H¹(Ω)，使得当n→∞时，有

取任意的i，j∈ $\mathbb{N} $，就有

又因为

所以当i，j→∞时，‖u_i-u_j‖→0，故{u_n}在H¹(Ω)中存在强收敛的子列，引理3得证.

定理 1  假设条件(f₁)，(f₂)和(2)式成立，则存在λ^*＞0，使得0＜λ＜λ^*，那么问题(1)有两个非平凡解.

证  由引理2知

在{u：‖u‖_V≤ρ}上运用Ekeland's变分原理^[16]，获得问题(1)有一个解u₁，满足J_λ(u₁)=$\widetilde {{c_\lambda }}$＜0. 由引理2知，J_λ(u)具有山路几何结构. 由引理3知，当λ^*＞0，λ∈(0，λ^*)时，J_λ(u)满足(PS)条件. 令

由山路引理知，问题(1)存在另一个解u₂，满足J_λ(u₂)=c_λ＞0. 由于

故u₁和u₂是问题(1)的两个不同的非平凡解.