本文主要研究非自治Schrödinger-Bopp-Podolsky系统基态解的存在性：

其中a>0，K(x)和b(x)满足条件：

(A) $\lim _{|x| \rightarrow \infty} b(x)=b_{\infty}$>0，$ \lim _{|x| \rightarrow \infty} K(x)=K_{\infty}$>0.

近年来，Schrödinger-Bopp-Podolsky(简称SBP)系统受到越来越多的关注. 文献[1]证明SBP系统解的存在性与不存在性依赖于参数p和q；随后文献[2]通过纤维法证明当q足够大时，SBP系统没有解；当q足够小时，SBP系统有两个镜像解；文献[3]使用Pohozaev-Nehari流形的方法证明非线性项临界增长的SBP系统存在基态解. 目前只有关于SBP系统自治的研究，如文献[3-6]，未考虑非自治的情况. 受文献[7-8]的启发，发现K(x)和b(x)对系统有影响. 本文利用文献[8]中的思想来研究非自治SBP系统的基态解. 变分方法是一类很重要的方法，已经在其他问题上用这个办法解决了很多问题^[9-11].

本文通过建立紧性引理和使用Nehari流形的方法去找SBP系统的基态解. 为得到基态解的存在，对K(x)和b(x)给出如下假设条件：

(B) 对所有的$ x \in \mathbb{R}^3$有K(x)≤K_∞，b(x)≥b_∞成立，且b(x)-b_∞>0在一个正可测集上.

本文主要结果如下：

定理1   如果满足条件(A)和(B)，则系统(1)有一个基态解.

注1   本文主要在$\mathbb{R}^3 $中讨论SBP系统基态解的存在，最大的困难在于我们无法在全空间$\mathbb{R}^3 $中得到嵌入紧性. 为了克服障碍我们利用分裂引理恢复有界Palais-Smale序列的紧性. 同时为了找到方程对应能量泛函的临界点，我们将通过限制在一个Nehari流形上，然后寻找最小能量解. 文献[12]已经证过Nehari流形上的解，就是原问题的基态解.

符号说明：C，C₀，C_i均是正常数. H¹($\mathbb{R}^3 $)是Hilbert空间，具有内积〈u，v〉= $ \int_{\mathbb{R}^3}(\nabla u \nabla v+u v) \mathrm{d} x$和范数$ \|u\|^2=\int_{\mathbb{R}^3}\left(|\nabla u|^2+u^2\right) \mathrm{d} x$. 为了方便，记‖ · ‖表示H¹($\mathbb{R}^3 $)的范数，‖·‖_q表示空间L^q($\mathbb{R}^3 $)的范数. 且定义$ \mathscr{D}^{1, 2}$($\mathbb{R}^3 $)={u∈L⁶($\mathbb{R}^3 $)：$\left.\nabla u \in L^2\left(\mathbb{R}^3\right)\right\} $，$ \mathscr{D}=\left\{\phi \in \mathscr{D}^{1, 2}\left(\mathbb{R}^3\right)\right.$：Δϕ∈L²($\mathbb{R}^3 $)}是C_c^∞($\mathbb{R}^3 $)的完备化，由内积$ \langle\varphi, \psi\rangle_{\mathscr{D}}$= $\int_{\mathbb{R}^3}\left(\nabla \varphi \nabla \psi+a^2 \Delta \varphi \Delta \psi\right) \mathrm{d} x $诱导下的范数表示为$\|\cdot\|_{\mathscr{D}} $(其相关引理已在参考文献[1]中给出).

本文根据文献[1]中的方法，首先对系统的第二个方程进行约化，变成单变量方程，系统(1)约化后的单变量方程如下：

方程对应的能量泛函为$ \mathscr{J}(u)=\frac{1}{2}$ $\int_{\mathbb{R}^3}\left(|\nabla u|^2+u^2\right) \mathrm{d} x+\frac{1}{4} \int_{\mathbb{R}^3} K(x) \phi_{K, u} u^2 \mathrm{~d} x-\frac{1}{p} \int_{\mathbb{R}^3} b(x)|u|^p \mathrm{~d} x $. 其导函数为$ \mathscr{J}$ ′(u)[φ]= $\int_{\mathbb{R}^3}\left(\nabla u \nabla \varphi+u \varphi+K(x) \phi_{K, u} u \varphi-b(x)|u|^{p-2} u \varphi\right) \mathrm{d} x $，其中φ∈H¹($\mathbb{R}^3 $).

用文献[1]中方法求得SBP系统的第二个方程的解为$ \phi_{K, u}(x)=\int_{\mathbb{R}^3} \frac{1-\mathrm{e}^{-\frac{|x-y|}{a}}}{|x-y|} K(y) u^2(y) \mathrm{d} y$. 现在需要求方程(2)的解，即找$ \mathscr{J}$的一个临界点. 不难验证泛函$ \mathscr{J}$既不是下方有界也不是上方有界，所以此时考虑将$ \mathscr{J}$限制在一个自然约束Nehari流形中. 在Nehari流形上$ \mathscr{J}$是下方有界的. 如果u∈H¹($\mathbb{R}^3 $)是$ \mathscr{J}$的临界点，则一对 $\left(u, \phi_{K, u}\right) $∈H¹($\mathbb{R}^3 $)× $ \mathscr{D}$是方程(1)的一个基态解(相关证明参考文献[13]).

此时，定义Nehari流形，$ \mathscr{N}$：={u∈H¹($\mathbb{R}^3 $)\{0}：G(u)=0}，其中G(u)= $ \mathscr{J}$ ′(u)[u]=‖u‖²+ $ \int_{\mathbb{R}^3} K(x) \phi_{K, { }_u} u^2 \mathrm{~d} x-\int_{\mathbb{R}^3} b(x)|u|^p \mathrm{~d} x$. 则有下面等式成立：

然后给出包含$ \mathscr{N}$的主要性质的引理.

引理1

(i) $ \mathscr{N}$是一个C¹正则流形同构于H¹($\mathbb{R}^3 $)的一个球；

(ii) 在$ \mathscr{N}$上，存在C₂∈ $\mathbb{R} $，有u∈$ \mathscr{N}$，使得$ \mathscr{J}$ (u)>C₂>0；

(iii) u是$ \mathscr{J}$的一个自由临界点当且仅当u是$ \mathscr{J}$限制在$ \mathscr{N}$上的临界点.

证   (i) 利用文献[7]中引理3.1(1)的证明方法可得，$ \mathscr{J}$ (t(u)u)=max_t>0 $ \mathscr{J}$ (t(u)u). 设u∈ $ \mathscr{N}$，则有$ 0=\|u\|^2+\int_{\mathbb{R}^3} K(x) \phi_{K, u} u^2 \mathrm{~d} x-\int_{\mathbb{R}^3} b(x)|u|^p \mathrm{~d} x \geqslant\|u\|^2-C_0\|u\|^p$，故得出

因为$ \mathscr{J}$是一个C²(H¹($\mathbb{R}^3 $)，$\mathbb{R} $)泛函，G是一个C¹泛函，则由(6)式推出

(ii) 设u∈ $ \mathscr{N}$，由(3)式和(6)式有$ \mathscr{J}$ (u)= $\left(\frac{1}{2}-\frac{1}{p}\right)\|u\|^2+\left(\frac{1}{4}-\frac{1}{p}\right) \int_{{\mathbb{R}^3}} K(x) \phi_{K, u} u^2 \mathrm{~d} x $≥ $ \left(\frac{1}{2}-\frac{1}{p}\right)\|u\|^2>C_2>0$.

(iii) 与文献[7]中的引理3.1(3)的证明一样.

设m：=inf{ $ \mathscr{J}$ (u)：u∈ $ \mathscr{N}$ }. 由引理1中(ii)知，m是一个正常数. 由引理1中(i)知，任意的u∈H¹($\mathbb{R}^3 $)对应(唯一)一个t(u)>0，使得$ \mathscr{J}$ (t(u)u)=max_t(u)>0 $ \mathscr{J}$ (t(u)u)成立.

现在考虑$K(x) \stackrel{|x| \rightarrow \infty}{\longrightarrow} K_{\infty}$和$b(x) \stackrel{|x| \rightarrow \infty}{\longrightarrow} b_{\infty} $的情况，在无穷远处时同样对系统进行约化，约化后的方程如下：

方程对应的能量泛函为$ \mathscr{I}$ (u)= $\frac{1}{2}\|u\|^2+\frac{1}{4} \int_{\mathbb{R}^3} K_{\infty} \tilde{\phi}_{K, u} u^2 \mathrm{~d} x-\frac{1}{p} \int_{\mathbb{R}^3} b_{\infty}|u|^p \mathrm{~d} x $. 利用求ϕ_K，u的方法可以求出方程$ -\Delta \tilde{\phi}_{K, u}+a^2 \Delta^2 \tilde{\phi}_{K, u}=4 {\rm{ \mathsf{ π} }} K_{\infty} u^2$的解，表示为$ \tilde{\phi}_{K, u}=\int_{\mathbb{R}^3} \frac{1-\mathrm{e}^{-\frac{|x-y|}{a}}}{|x-y|} K_{\infty} u^2(y) \mathrm{d} y$. 定义Nehari流形$ \mathscr{M}$：={u∈H¹($\mathbb{R}^3 $)\{0}：H(u)=0}，其中$ H(u)=\mathscr{I}^{\prime}(u)[u]=\|u\|^2+\int_{\mathbb{R}^3} K_{\infty} \widetilde{\phi}_{K, u} u^2 \mathrm{~d} x-\int_{\mathbb{R}^3} b_{\infty}|u|^p \mathrm{~d} x$. 定义c：=inf{ $ \mathscr{I}$ (u)：u∈ $ \mathscr{M}$ }. 因为引理1中的(i)，(ii)，(iii)对于$ \mathscr{M}$也是成立的，故c是一个正常数. 则对任意的u∈H¹($\mathbb{R}^3 $)对应(唯一)一个$\xi(u) $>0使得$ \mathscr{I}(\xi(u) u)=\max _{\xi(u) \geqslant 0} \mathscr{I}(\xi(u) u)$成立. 现在考虑在无穷远处约化后方程的Palais-Smale(简称(PS))序列的紧性情况.

引理2   设{u_n}是$ \mathscr{I}$的一个有界Palais-Smale序列，则有$ \mathscr{I}$ (u_n)是有界的，且在H¹($\mathbb{R}^3 $)中，$ \mathscr{I}$ ′ $\left(u_n\right) \rightarrow $ 0. 现取其子序列仍记为{u_n}，若有l∈ $\mathbb{N} $ ∪{0}和H¹($\mathbb{R}^3 $)中的l个函数u¹，…，u^l以及点列y_n^k∈ $\mathbb{R}^3 $(0≤k≤l)，使得下面条件成立：

(i) 如果1≤k≠h≤l， $n \rightarrow+\infty $，则$ \left|y_n^k\right| \rightarrow+\infty$，$\left|y_n^k-y_n^h\right| \rightarrow+\infty $；

(ii) 在H¹($\mathbb{R}^3 $)中，有$u_n-\sum_{k=1}^l u^k\left(\cdot-y_n^k\right) \rightarrow \bar{u} $；

(iii) $ \mathscr{I}\left(u_n\right) \rightarrow \mathscr{I}(\bar{u})+\sum_{k=1}^l \mathscr{I}\left(u^k\right)$；

(iv) u^k是方程(8)的非平凡解. 上述条件中若l=0，则(8)式存在一个解u.

证   与文献[1]中引理4.5证明类似，此处省略证明过程.

命题1    存在w∈ $ \mathscr{M}$，使得$ \mathscr{I}$ (w)=c成立.

证   设u_n∈ $ \mathscr{M}$是$ \mathscr{I}$的一个极小化序列，则当$ n \rightarrow+\infty$时，有$ \mathscr{I}\left(u_n\right) \rightarrow c$. 设t_n>0使t_n|u_n|∈ $ \mathscr{M}$成立. 因为u_n∈ $ \mathscr{M}$，则有$\left(t_n^2-t_n^p\right)\left\|u_n\right\|^2+\left(t_n^4-t_n^P\right) \int_{\mathbb{R}^3} K_{\infty} \tilde{\phi}_{K, u_n}\left(u_n\right)^2 \mathrm{~d} x=0 $，故对$ n \in \mathbb{N}$，有t_n=1.

通过Ekeland变分原理存在$ \tilde{u}_n \in \mathscr{M}$使得下面条件成立：

(a) 当$ n \rightarrow+\infty$时，$ \mathscr{I}\left(\tilde{u}_n\right) \rightarrow c$；

(b) 在H¹($\mathbb{R}^3 $)中，当$n \rightarrow+\infty $时，有$ \nabla \mathscr{I}_{\mid \mathscr{M}}\left(\tilde{u}_n\right) \rightarrow 0$；

(c) 当$n \rightarrow+\infty $时，$\left\|u_n-\tilde{u}_n\right\| \rightarrow 0$.

现在需要证明当$n \rightarrow+\infty $时，$ \nabla \mathscr{I}(\tilde{u}) \rightarrow 0$成立. 则对σ_n∈ $\mathbb{R} $，有$ o(1)=\nabla \mathscr{I}_{\mid \mathscr{M}}\left(\tilde{u}_n\right)=\nabla \mathscr{I}\left(\tilde{u}_n\right)$- $\sigma_n \nabla H\left(\tilde{u}_n\right) $. 因为$ \tilde{u}_n \in \mathscr{M}$，得到$ o(1)=\left(\nabla \mathscr{I}\left(\tilde{u}_n\right), \tilde{u}_n\right)-\sigma_n\left(\nabla H\left(\tilde{u}_n\right), \tilde{u}_n\right)$. 推出$ \sigma_n\left(\nabla H\left(\tilde{u}_n\right), \tilde{u}_n\right) \rightarrow 0$. 此时用与(7)式相同的计算方法可得$ \left(\nabla H\left(\tilde{u}_n\right), \tilde{u}_n\right)<-C_3<0$. 所以当$n \rightarrow+\infty $时，有$ \sigma_n \rightarrow 0$. 此外，又因为$\nabla H\left(\tilde{u}_n\right) $是有界的，则当$n \rightarrow+\infty $时，有$ \sigma_n \nabla H\left(\tilde{u}_n\right) \rightarrow 0$. 故在H¹($\mathbb{R}^3 $)中有 $\nabla \mathscr{I}\left(\tilde{u}_n\right) \rightarrow 0 $.

又因为$ \mathscr{I}$ ″将有界集映射到有界集，则通过中值定理可知，在H¹($\mathbb{R}^3 $)中，当$n \rightarrow+\infty $时，有$\nabla \mathscr{I}\left(u_n\right) \rightarrow $0. 则{u_n}是$ \mathscr{I}$的一个有界(PS)序列. 由引理2知，如果$ \bar{u} \neq 0$，则有$c=\mathscr{I}(\bar{u})+\sum_{k=1}^l \mathscr{I}\left(u^k\right) \geqslant(l+1) c $，可得l=0. 则在H¹($\mathbb{R}^3 $)中，有u_n强收敛到u. 相反，如果u =0，则有$ c=\mathscr{I}(\bar{u})+\sum_{k=1}^l \mathscr{I}\left(u^k\right) \geqslant l c$，可得l=1. 在平移意义下，有$u_n \rightarrow u^1 $. 综上，c可由非负的w达到. 又由(6)式知，‖u_n‖≥C>0，故由强收敛性知w≠0，得w∈ $ \mathscr{M}$. 最后通过连续性和极限的唯一性可知，$ \mathscr{I}$ (w)=c成立.

现回到方程(2)，基于$ \mathscr{J}$的临界点的研究，通过考虑(1)式的(PS)序列的情况，得出如下引理.

引理3   设{u_n}是$ \mathscr{J}$限制在$ \mathscr{N}$上的一个有界(PS)序列，故$u_n \in \mathscr{N} $，有$ \mathscr{J}$ (u_n)是有界的；且在H¹($\mathbb{R}^3 $)中，有$ \mathscr{J}_{\mid \mathscr{N}}^{\prime}\left(u_n\right) \rightarrow 0$. 现取其子序列仍记为{u_n}，若有$ l \in \mathbb{N} \cup\{0\}$和H¹($\mathbb{R}^3 $)中的l个函数u¹，…，u^l以及点列$y_n^k \in {\mathbb{R}^3}(0 \leqslant k \leqslant l) $，使得下面条件成立：

(i) 如果1≤k≠h≤l，$n \rightarrow+\infty $，则$\left|y_n^k\right| \rightarrow+\infty $，$ \left|y_n^k-y_n^h\right| \rightarrow+\infty$；

(ii) 在H¹($\mathbb{R}^3 $)中，有$ u_n-\sum_{k=1}^l u^k\left(\cdot-y_n^k\right) \rightarrow u$；

(iii) $\mathscr{J}\left(u_n\right) \rightarrow \mathscr{J}(u)+\sum_{k=1}^l \mathscr{I}\left(u^k\right) $；

(iv) u^k是方程(8)的非平凡解. 若l=0，则(2)式存在一个解u.

证   因为$ \phi_{K, u}=\int_{\mathbb{R}^3} \frac{1-\mathrm{e}^{-\frac{|x-y|}{a}}}{|x-y|} K(y) u^2(y) \mathrm{d} y \leqslant \int_{\mathbb{R}^3} \frac{1}{|x-y|} K(y) u^2(y) \mathrm{d} y$，所以与文献[1]的引理4.5中的证明方法类似，故在这省略证明过程.

定义1   如果$ \mathscr{J}\left(u_n\right) \rightarrow d$且$\mathscr{J}^{\prime}\left(u_n\right) \rightarrow 0 $，则{u_n}是一个(PS)_d序列.

推论1   设{u_n}是一个(PS)_d序列，则对所有d∈(0，c)，{u_n}是相对紧的.

证   设{u_n}是一个(PS)_d序列，则$ \mathscr{J}\left(u_n\right) \rightarrow d$. 由引理3可知，对所有的k有$ \mathscr{I}\left(u^k\right) \geqslant c$. 当$ \mathscr{J}$ (u_n)=d < c时，引理3的(iii)给出l=0，则在H¹($\mathbb{R}^3 $)中，有$ u_n \rightarrow u$. 故对所有d∈(0，c)，{u_n}是相对紧的.

利用上述已证引理，现给出定理1的证明.

定理1的证明   为求证定理1，由推论1可知，现只需证明m < c. 由命题1知，有$w \in \mathscr{M} $使得$ \mathscr{I}$ (w)=c成立. 取t>0使$ t w \in \mathscr{N}$. 因为tw∈ $ \mathcal{N}$，w∈ $ \mathscr{M}$和(B)成立，则

推出$ \left(t^p-t^2\right)\|w\|^2+\left(t^p-t^4\right) \int_{\mathbb{R}^3} K_{\infty} \widetilde{\phi}_{K, w} w^2 \mathrm{~d} x \leqslant 0$，所以得出t≤1. 此外t≠1，因为当t=1时，有$ \int_{\mathbb{R}^3} b_{\infty}|w|^p \mathrm{~d} x-\int_{\mathbb{R}^3} K_{\infty} \tilde{\phi}_{K, w} w^2 \mathrm{~d} x=\|w\|^2=\int_{\mathbb{R}^3} b(x)|w|^p \mathrm{~d} x-\int_{\mathbb{R}^3} K(x) \phi_{K, w} w^2 \mathrm{~d} x$，即$ \int_{\mathbb{R}^3} $(b_∞- $b(x))|w|^p \mathrm{~d} x-\int_{\mathbb{R}^3} K_{\infty} \tilde{\phi}_{K, w} w^2 \mathrm{~d} x+\int_{\mathbb{R}^3} K(x) \phi_{K, w} w^2 \mathrm{~d} x=0 $. 由(B)可得$-\int_{\mathbb{R}^3} K_{\infty} \tilde{\phi}_{K, w} w^2 \mathrm{~d} x $+ $ \int_{\mathbb{R}^{\bf{3}}} K(x) \phi_{K, w} w^2 \mathrm{~d} x \leqslant 0$和$\int_{\mathbb{R}^3}\left(b_{\infty}-b(x)\right)|w|^p \mathrm{~d} x \leqslant 0 $，又因为b(x)-b_∞>0在一个正可测集上，故$ \int_{\mathbb{R}^3}\left(b_{\infty}-b(x)\right)|w|^p \mathrm{~d} x \neq 0$，与t=1矛盾. 最后得出

即$ w \in \mathscr{N}$，有$ \mathscr{I}(w)=c$. 所以w∈ $ \mathcal{N}$ 是$ \mathscr{J}$ 的一个临界点，故由引理1(iii)知，w是$ \mathscr{J}$ 的一个自由临界点，最后得出(w，$\phi_{K, w} $) ∈ $ H^1\left(\mathbb{R}^3\right) \times \mathscr{D}$是(1)式的一个基态解.