研究如下半线性椭圆问题：

其中，Ω是$ \mathbb{R}^{N}(N \geqslant 3)$中带有C²边界$ \partial \varOmega $的有界区域且$0 \in \partial \varOmega, 0 \leqslant \mu <\bar{\mu}=\frac{(N-2)^{2}}{4}, 0 \leqslant s <2 $, $2^{*}(s)=\frac{2(N-s)}{N-2} $是Hardy-Sobolev临界指数，$2^{*}=2^{*}(0)=\frac{2 N}{N-2} $是Sobolev临界指数，$ g \in C(\bar{\varOmega} \times \mathbb{R}, \mathbb{R})$. 令$ G(x, t)=\int_{0}^{t} g(x, s) \mathrm{d} s$是g(x，t)的原函数. 在本文中，假设g满足以下条件：

(g₁) $ \lim\limits_{t \rightarrow 0^{+}} \frac{g(x, t)}{t}=0$对$ x \in \bar{\varOmega} $一致成立；

(g₂) $\lim\limits_{t \rightarrow+\infty} \frac{g(x, t)}{t^{2^{*}}-1}=0 $对$x \in \bar{\varOmega} $一致成立；

(g₃) $ \forall x \in \bar{\varOmega}, t \in \mathbb{R}_{+} \backslash\{0\} $，存在$ 2 <\beta <2^{*}$，使得$ 0 <\beta G(x, t) \leqslant g(x, t) t $成立.

由Hardy-Sobolev不等式，当$0 \leqslant \mu <\bar{\mu} $时，$ \|u\|=\left(\int_{\varOmega}\left(|\nabla u|^{2}-\mu \frac{u^{2}}{|x|^{2}}\right) \mathrm{d} x\right)^{\frac{1}{2}} $等价于$ H_{0}^{1}(\varOmega)$空间中的范数(见文献[1]). 最佳Hardy-Sobolev常数定义为

近年来，带有Hardy-Sobolev临界指数和Hardy项的奇异椭圆方程是研究的热点，受到广泛关注，可参考文献[1-9]. 特别地，文献[2]研究了0∈Ω的情形，证明了问题(1)存在两个正解. 对于0∈$\partial \varOmega $的情形，与0∈Ω的情形是不同的，文献[10]首先研究了这种情形，得到了：当N≥4且$\partial \varOmega $在0处的主曲率是负的时，$A_{\mu, s}(\varOmega) $在$H_{0}^{1}(\varOmega) $中能取到；然而，当0∈Ω且Ω是有界域时，$A_{\mu, s}(\varOmega) $不能取到. 最近，文献[11-15]也研究了相关的临界和奇异问题.

在低阶扰动的情形下，即g满足条件：

$ \left(\mathrm{g}_{2}^{\prime}\right): \lim\limits_{t \rightarrow+\infty} \frac{g(x, t)}{t^{2^{*}(s)-1}}=0 $对于$ x \in \bar{\varOmega}$一致成立.

时，文献[8]研究了两个正解的存在性. 在高阶扰动(g满足条件(g₂))的条件下，问题(1)解的存在性还没有相关结果. 本文研究高阶扰动情况下边界的曲率性质和参数μ，s，β对问题(1)解的存在性的影响，得到以下主要结果：

定理1    假设g满足条件(g₁)-(g₃)，$\partial \varOmega $在0处的主曲率是负的. 若以下条件之一成立：

(ⅰ) N≥3，0 < s < 2且$ 0 \leqslant \mu <\bar{\mu} $；

(ⅱ) N≥4，s=0且$0 <\mu <\bar{\mu} $.

则问题(1)至少有一个正解.

定理2    假设N≥3，0≤s < 2且$ 0 \leqslant \mu <\bar{\mu} $. 如果g满足条件(g₁)-(g₃)，且以下条件之一成立：

(ⅰ) $\partial \varOmega $在0处的主曲率等于0，且$ \beta>\max \left\{2, \frac{N-2 / \overline{\bar{\mu}-\mu}}{\sqrt{\bar{\mu}}}\right\} $；

(ⅱ) $\partial \varOmega $在0处的主曲率大于0，且$ \beta>\max \left\{\frac{N-2 \sqrt{\bar{\mu}-\mu}}{\sqrt{\bar{\mu}}}, \frac{N-1}{\sqrt{\bar{\mu}}}\right\}$.

则问题(1)至少有一个正解.

推论1    假设N≥3，0≤s < 2且$ 0 \leqslant \mu \leqslant \bar{\mu}-\frac{1}{4}$. 如果g满足条件(g₁)-(g₃)，$ \beta>\frac{N-1}{\sqrt{\mu}}$，则问题(1)至少有一个正解.

注1    与文献[2]相比较，在边界奇异的情形下，边界在原点处的曲率性质对问题(1)解的存在性有着本质的影响.

问题(1)相应的能量泛函是

众所周知，问题(1)的正解和泛函I在$H_{0}^{1}(\varOmega) $中的临界点是一一对应的. 称u∈$H_{0}^{1}(\varOmega) $是问题(1)的弱解，如果对于任何的v∈$H_{0}^{1}(\varOmega) $，有

引理1    如果条件(g₁)和(g₂)成立，则u=0是I在$H_{0}^{1}(\varOmega) $中的局部极小值点.

证    由条件(g₁)和(g₂)，对于任何的ε>0，和$t \in \mathbb{R}_{+}, x \in \bar{\varOmega} $，存在C(ε)>0，使得

成立. 结合Hardy-Sobolev不等式，对于ε充分小，我们得到

因为2 < 2^*(s)≤2^*，当‖u‖充分小时，I(u)≥0=I(0). 即u=0是I的局部极小值点.

引理2    假设条件(g₁)，(g₂)和(g₃)成立. 如果u=0是I的唯一临界点，则对于每个$ c <\frac{2-s}{2(N-s)} A_{\mu, s}\left(\mathbb{R}_{+}^{N}\right)^{\frac{N-s}{2-s}}, I$满足(PS)_c条件.

证   令序列$ \left\{u_{n}\right\} \subset H_{0}^{1}(\varOmega)$满足

则

其中，$u_{n}^{-}=\max \left\{-u_{n}, 0\right\} $. 因此，在$H_{0}^{1}(\varOmega) $中$ u_{n}^{-} \rightarrow 0 $. 对$ \rho=\min \left\{\beta, 2^{*}(s)\right\}$，利用条件(g₃)可以得到

所以，{u_n⁺}在$H_{0}^{1}(\varOmega) $中是有界的. 故存在子序列，仍然记为{u_n⁺}，使得在$H_{0}^{1}(\varOmega) $中${u}_{n}^{+} \rightarrow u_{0} $. 由I′的弱连续性，对于所有的w∈$H_{0}^{1}(\varOmega) $，当n ∞时，我们有

这表明I′(u₀)=0. 因此，u₀是I在$H_{0}^{1}(\varOmega) $中的临界点. 根据假设，0是I的唯一临界点，则u₀=0. 类似于文献[8]的引理3.2，我们可以利用反证法证明在$H_{0}^{1}(\varOmega) $中$u_{n}^{+} \rightarrow 0 $. 结合$ u_{n}^{-} \rightarrow 0 $，得到$ u_{n} \rightarrow 0$. 所以，当$c <\frac{2-s}{2(N-s)} A_{\mu, s}\left(\mathbb{R}_{+}^{N}\right)^{\frac{N-s}{2-s}} $时，I满足(PS)_c条件.

令$\phi \in H_{0}^{1}(\varOmega) $是使得$ \int_{\mathbb{R}_{+}^{N}} \frac{|\phi|^{2^{*}(s)}}{|x|^{s}} \mathrm{~d} x=1$和$ \|\phi\|^{2}=A_{\mu, s}\left(\mathbb{R}_{+}^{N}\right)$的正泛函. 对任何的σ>0和$\gamma \in \mathbb{R}^{1} $，令

并且$\phi^{\sigma}(x)=\phi\left(\theta_{\sigma}(x)\right), \psi_{\sigma} $是使得对于$ |x| \leqslant \frac{1}{2} \delta \sigma, , \psi_{\sigma} \equiv 1 $和$ |x| \geqslant \delta \sigma, \left|\psi_{\sigma}^{\prime}\right| \leqslant C \frac{1}{\sigma}, \psi_{\sigma} \equiv 0 $成立的径向对称函数. 由文献[10]中的方法，可以得到

而且，对于N≥3，2≤ q < 2^*，有

引理3    在定理1或者定理2的条件下，存在$u^{*} \in H_{0}^{1}(\varOmega), u^{*} \not \equiv 0 $，使得

证   如果定理1的条件成立，由文献[16]的定理1.2，我们得到$A_{\mu, s}(\varOmega) <A_{\mu, s}\left(\mathbb{R}_{+}^{N}\right), \text { 且 } A_{\mu, s}(\varOmega) $，且$A_{\mu, s}(\varOmega) $由某个正函数$\omega \in H_{0}^{1}(\varOmega) $达到. 令

由G(x，t)的非负性，我们有

在定理2的假设下，利用条件(g₃)可以证明，$ G(x, t) \geqslant C|t|^{\beta} $对所有的$x \in \bar{\varOmega}, t>0 $成立. 结合(6)-(8)式，可以得到

令

由文献[10]中定理4.2的证明，当σ足够大时，$ \sup _{t \geqslant 0} H\left(t \phi_{\sigma}\right)$在t_M处取到最大值，其中

因此

情形1    记γ是$\partial \varOmega $在0处的主曲率. 如果$ \beta>\frac{N-2 \sqrt{\bar{\mu}-\mu}}{\sqrt{\mu}}$，则$ \beta \sqrt{\mu}-N>-2 \sqrt{\bar{\mu}-\mu}$. 若γ=0，则当σ充分大时，有

情形2    假设γ>0. 如果$\beta>\max \left(\frac{N-2 \sqrt{\bar{\mu}-\mu}}{\sqrt{\mu}}, \frac{N-1}{\sqrt{\mu}}\right\} $，则$ \beta \sqrt { \overline { \mu } } - N > - 2 \sqrt { \overline { \mu } - \mu }$且$\beta \sqrt{\mu}-N>-1 $. 因此，当σ充分大时仍然有

令$ u^{*}=\phi_{\sigma}$，则当σ>0充分大时结论成立.

定理1和定理2的证明   假设u=0是I在$H_{0}^{1}(\varOmega) $中的唯一临界点. 根据引理1，存在α>0，r>0，对$\forall v \in \partial B_{r}=\left\{v \in H_{0}^{1}(\varOmega):\|v\|=r\right\} $，都有I(v)>α. 又由引理3，存在$u^{*} \in H_{0}^{1}(\varOmega), u^{*} \not \equiv 0 $，使得

并且容易证明$ \lim\limits_{t \rightarrow+\infty} I\left(t u^{*}\right) \rightarrow-\infty$. 因此，可以选择t₀>0使得$ \left\|t_{0} u^{*}\right\|>r$和$ I\left(t_{0} u^{*}\right) <0 $. 由山路引理，存在序列$ \left\{v_{n}\right\} \subset H_{0}^{1}(\varOmega)$满足$I\left(v_{n}\right) \rightarrow c \geqslant \alpha $和$I^{\prime}\left(v_{n}\right) \rightarrow 0 $，其中

注意到

结合引理2，在$H_{0}^{1}(\varOmega) $中$ v_{n} \rightarrow 0$. 因此，当$ n \rightarrow \infty$时，

矛盾. 所以，存在u∈$H_{0}^{1}(\varOmega) $，使得$ u \neq 0$是I的临界点. 因为

所以u=u⁺≥0. 由强极大值原理，我们得到u>0. 因此，定理1和定理2成立.

对于推论1，若$ 0 \leqslant \mu \leqslant \bar{\mu}-\frac{1}{4}$和$ \beta>\frac{N-1}{\sqrt{\mu}}$，则

因此，对充分大的σ，

对主曲率γ没有任何限制. 由前面的证明可知推论1成立.