本文主要研究用于刻画流体力学中长短色散波相互作用的数学模型^[1]，也就是如下形式的Schrödinger-KdV系统：

其中$ f=f(x, t) \in \mathbb{C}, g=g(x, t) \in \mathbb{R}, (t, x) \in \mathbb{R}_{+} \times \mathbb{R}, \mathrm{D}=\frac{\partial}{\partial x}$. 基于丰富的物理意义，系统(1)已经被很多学者广泛研究^[2-5]. 本文主要寻求系统(1)的行波解，即形如

的解，其中u，v都是实函数. 令c=2k，c^*=k²+w，则u，v满足系统

这样，求系统(1)的行波解就转化成求系统(2)的解. 当N=1时，在文献[6-7]中，系统(2)的正束缚态解和正基态解的存在性结果得到了证明. 当N=2，3时，文献[8]通过Nehari-流形的方法证明了系统(2)的径向对称的束缚态解的存在性. 注意到系统(2)中的位势是常数位势，如果位势是变化的函数，那么系统(2)的基态解是否存在？目前这方面问题没人研究. 受到文献[6-9]和文献[10-11]的启发，本文考虑变位势的Schrödinger-KdV系统

其中$ N=1, 2, 3, \beta \in \mathbb{R}, \lambda_{i}(x)$满足下面条件：

下面我们介绍一些常见的记号. 我们约定Lebesgue空间$ L^{p}\left(\mathbb{R}^{N}\right)(1 \leqslant p \leqslant \infty)$带有标准范数|·|_p，Hilbert空间$ H^{1}\left(\mathbb{R}^{N}\right)$带有范数$ \|u\|_{i}=\left(\int_{\mathbb{R}^{N}}\left(|\nabla u|^{2}+\lambda_{i}(x) u^{2}\right) \mathrm{d} x\right)^{\frac{1}{2}}$，其中λ_i(x)如条件(Λ)所示. H表示乘积空间$ H^{1}\left(\mathbb{R}^{N}\right)$×$ H^{1}\left(\mathbb{R}^{N}\right)$，其上的范数定义为$\|(u, v)\|_{H}^{2}=\|u\|_{1}^{2}+\|v\|_{2}^{2} $. 当$n \rightarrow \infty $时，$ o(1) \rightarrow 0$.

我们用变分法寻求系统(3)的解，即把系统(3)的解转化为对应的能量泛函I_β的临界点，其中$ I_{\beta}: H \longrightarrow-\mathbb{R}$，定义为

显然$ I \in C^{2}(H, \mathbb{R})$. 定义Nehari-流形

泛函的最小能量值为

为了得出主要定理，我们需要如下引理：

引理1    (4)式和(5)式中的$\mathcal{N}_\beta $和c_β满足如下性质：

(i) $\mathcal{N}_\beta $非空;

(ii) $\mathcal{N}_\beta $是C¹正则流形;

(iii) c_β>0;

(iv) (u，v)是I_β的非平凡临界点当且仅当(u，v)是I_β限制在$\mathcal{N}_\beta $上的临界点.

证   (i) 令

其中(u，v)∈H\{(0，0)}，并考虑函数

当J(t(u，v))=0时，可得

(7) 式是关于t的一元二次方程，由韦达定理知方程(7)有两个异号解. 因此存在t₀>0，使得J(t₀(u，v))=0，即(t₀u，t₀v)∈ $\mathcal{N}_\beta $. 故$\mathcal{N}_\beta $非空.

(ii) 取$(u, v) \in \mathcal{N}_{\beta} $，根据(4)式和(6)式知J(u，v)=0，且有

由(6)式和(8)式得到

因此，$\mathcal{N}_\beta $是C¹正则流形.

(iii) 令$(u, v) \in \mathcal{N}_{\beta} $，则(u，v)≠(0，0)，且J(u，v)=0和

结合J(u，v) =0和Sobolev嵌入不等式，可得

其中$(u, v) \neq(0, 0), C_{i}>0(i=1, 2) $是常数. 由(10)式可知，存在常数ρ>0，使得$ \|(u, v)\|_{H} \geqslant \rho$，于是可推出$ I_{\beta}(u, v) \geqslant \frac{1}{6} \rho^{2}>0$. 故可得c_β>0.

(iv) 必要性显然. 下证充分性. 假设$ \left.I_{\beta}^{\prime}\right|_{\mathcal{N}_{\beta}}(u, v)=0$，由拉格朗日乘数法得

于是推出$I_{\beta}^{\prime}(u, v)-\omega J^{\prime}(u, v)=0 $. 又因为$\left\langle I_{\beta}^{\prime}(u, v), (u, v)\right\rangle=J(u, v)=0 $，可得

结合(9)式可知ω=0. 因此I_β^′(u，v)=0，充分性证毕.

引理2   若$ (u, v) \in \mathcal{N}_{\beta}, c_{\beta}$如(5)式所示，则$ I_{\beta}(u, v)=c_{\beta}$且$ I_{\beta}^{\prime}(u, v)=c_{\beta}$.

证    若$(u, v) \in \mathcal{N}_{\beta} $，由(4)式知

取非负极小化序列$\left\{\left(u_{n}, v_{n}\right)_{n}\right\} \subset \mathcal{N}_{\beta} $，使得$ I_{\beta}\left(u_{n}, v_{n}\right) \rightarrow c $且$ \left.I_{\beta}^{\prime}\right|_{N_{\beta}}\left(u_{n}, v_{n}\right) \rightarrow 0 $. 由引理1(iv)知$ I_{\beta}^{\prime}\left(u_{n}, v_{n}\right) \rightarrow 0$. 显然，有

则{(u_n，v_n)}在H上有界，存在子序列(仍记为{(u_n，v_n)})有弱收敛子列，设在H上$ \left( {{u}_{n}}, {{v}_{n}} \right)\rightharpoonup (u, v)\ge $ (0，0). 因为$(u, v) \in \mathcal{N}_{\beta} $，根据极大值原则得到v(x)>0. 又因为在条件(Λ)下，当N=1，2时，对任意$p \in[2, +\infty), H^{1}\left(\mathbb{R}^{N}\right) \circlearrowleft L^{p}\left(\mathbb{R}^{N}\right) $是紧嵌入; 当N=3时，对任意$H^{1}\left(\mathbb{R}^{N}\right)\circlearrowleft L^{p}\left(\mathbb{R}^{N}\right)$是紧嵌入. 因此在$L^{p}\left(\mathbb{R}^{N}\right) \times L^{p}\left(\mathbb{R}^{N}\right) $上$\left(u_{n}, v_{n}\right) \rightarrow(u, v) $. 由(6)式知

为了证明当$n \rightarrow \infty $时，$\left\|\left(u_{n}, v_{n}\right)-(u, v)\right\|_{H}^{2} \rightarrow 0 $成立，对(11)式等号右边每一部分进行计算. 显然，当$n \rightarrow \infty $时，有

因为

由Hölder不等式，得到

又因为在$ L^{p}\left(\mathbb{R}^{N}\right) \times L^{p}\left(\mathbb{R}^{N}\right)$上$ \left(u_{n}, v_{n}\right) \rightarrow(u, v)$，则当$n \rightarrow \infty $时，有

因此，当$n \rightarrow \infty $时，有

类似地，有

再由Hölder不等式，得到

则当$n \rightarrow \infty $时，有

故当$n \rightarrow \infty $时，有

再次使用Hölder不等式，当$n \rightarrow \infty $，得到

由上述过程可知，当$n \rightarrow \infty $时，$ \left\|\left(u_{n}, v_{n}\right)-(u, v)\right\|_{H}^{2} \rightarrow 0$，即在H中$ \left(u_{n}, v_{n}\right) \rightarrow(u, v)$. 故得到

设U，V分别是方程-Δu+λ₁(x)u=u³和方程$-\Delta v+\lambda_{2}(x) v=\frac{1}{2} v^{2} $的正基态解(见文献[12]). 由文献[7]知，在排除半平凡解时，需要排除(0，V)，(0，-V). 但在本文中，由于系统(3)的能量泛函是非奇非偶的，(0，-V)不是系统(3)的解，因此我们只需排除(0，V). 为了证明系统(3)的基态解不同于半平凡解(0，V)，令

定义如下Nehari-流形：

引理3   对任意t∈[0, 1]，都存在函数$(\sqrt{s(t)} U, t V) \in \mathcal{N}_{\beta} $. 令β₀如(12)式所定义，那么当β>β₀时，存在t₀∈(0，1)，使得$ g\left(t_{0}\right) <\frac{1}{6}\|V\|_{2}^{2}$成立，其中$ g(t)=I_{\beta}(\sqrt{s(t)} U, t V)$.

证   显然，$ \left\langle I_{0}^{\prime}(V), V\right\rangle=0 $且$\left\langle I_{1}^{\prime}(U), U\right\rangle=0 $. 对任意t∈[0, 1]，s≥0，考虑方程

分析关于s的二次方程(13)，由韦达定理知方程(13)有非负解，定义为s(t)≥0，则$\mid(\sqrt{s(t)} U, t V) \in \mathcal{N}_{\beta} $. 由

令t=1，得到

则

故当$ \beta>\frac{2}{3} \beta_{0}$时，s(1)=0. 接下来对方程

两边对t求导，可得

令

其中t∈[0, 1]. 则得到

再结合(14)式，当β>β₀时可得

因此存在t₀∈(0，1)，使得$g\left(t_{0}\right) <g(1)=\frac{1}{6}\|V\|_{2}^{2} $.

本文的主要结果是：

定理1    假设N=1，2，3且条件(Λ)成立，U，V分别是方程-Δu+λ₁(x)u=u³和$-\Delta u+\lambda_{2}(x) u=\frac{1}{2} u^{2} $的正基态解. 则存在$\beta_{0}=\frac{\|U\|_{1}^{2}}{\int_{\mathbb{R}^{N}} U^{2} V \mathrm{~d} x} $，对任意的β>β₀，系统(3)有一对非平凡基态解.

证    根据引理1和引理2，可知系统(3)的基态解存在. 接下来需要证明得到的基态解(u，v)是非平凡的，即u≠0或v≠0. 若v=0，由系统(3)可知u=0. 但根据流形的定义有(u，v)≠(0，0)，故矛盾. 若u=0，则$ v=V \in \mathcal{N}_{0}$. 因为

由引理3可得，当β>β₀时，

这样(0，V)就从基态解里排除了. 又由引理2和引理3知

但$I_{\beta}(u, v)=I_{\beta}(-u, v)=I_{\beta}(0, v)=I_{\beta}(0, V) $，这与(15)式矛盾. 因此(u，v)和(-u，v) 是系统(3)的非平凡基态解.

推论1    根据能量泛函的特点，得到一对能量值相等的解，即(u，v)，(-u，v).