引理 1  设$\frac{1}{p}+\frac{1}{q}=1(0<p<1, q<0), \lambda_1 \lambda_2>0, \lambda \in \mathbb{R}, G(u, v)$是λ阶齐次非负函数，K(x，y)=G(x^λ₁，y^λ₂)，$ \frac{\alpha+1}{\lambda_1 p}+\frac{\beta+1}{\lambda_2 q}=\lambda+\frac{1}{\lambda_1}+\frac{1}{\lambda_2}$，则$\frac{1}{\lambda_1} W_1\left(-\frac{\beta+1}{q}\right)=\frac{1}{\lambda_2} W_2\left(-\frac{\alpha+1}{p}\right)$，且

证  因为

故

于是

故有

利用K(x，y)的性质，有

同理可得

引理 2 ^[17]  设$\frac{1}{p}+\frac{1}{q}=1(0<p<1, q<0), x \in \mathit{\Omega} \subseteq \mathbb{R}^n, \omega(x) \geqslant 0, f(x) \geqslant 0, g(x) \geqslant 0$，则有逆向Hölder积分不等式

当且当存在常数C使得f^p(x)=Cg^q(x)时，不等式取等号.

定理 1  设$\frac{1}{p}+\frac{1}{q}=1(0<p<1, q<0), \lambda_1 \lambda_2>0, \alpha, \beta, \lambda \in \mathbb{R}, G(u, v)$是λ阶齐次非负函数，$K(x, y)=G\left(x^{\lambda_1}, y^{\lambda_2}\right), 0<W_1\left(-\frac{\beta+1}{q}\right)<+\infty, 0<W_2\left(-\frac{\alpha+1}{p}\right)<+\infty$，存在常数σ>0，使得$W_1\left(-\frac{\beta+1}{q} \pm \sigma\right)<+\infty$或$W_2\left(-\frac{\alpha+1}{p} \pm \sigma\right)<+\infty$，则：

(ⅰ) 当且当$\frac{\alpha+1}{\lambda_1 p}+\frac{\beta+1}{\lambda_2 q}=\lambda+\frac{1}{\lambda_1}+\frac{1}{\lambda_2}$时，存在常数M>0，使得

其中$f(x) \in L_p^\alpha(0, +\infty), g(y) \in L_q^\beta(0, +\infty)$；

(ⅱ)当$\frac{\alpha+1}{\lambda_1 p}+\frac{\beta+1}{\lambda_2 q}=\lambda+\frac{1}{\lambda_1}+\frac{1}{\lambda_2}$时，(2)式的最佳常数因子为

其中$W_0=\left|\lambda_1\right| W_2\left(-\frac{\alpha+1}{p}\right)=\left|\lambda_2\right| W_1\left(-\frac{\beta+1}{q}\right) .$

证  不妨设$W_2\left(-\frac{\alpha+1}{p} \pm \sigma\right)<+\infty \text {. }$

(ⅰ) 充分性  设$\frac{\alpha+1}{\lambda_1 p}+\frac{\beta+1}{\lambda_2 q}=\lambda+\frac{1}{\lambda_1}+\frac{1}{\lambda_2}$，根据引理1及引理2，有

$0<M \leqslant W_1^{\frac{1}{p}}\left(-\frac{\beta+1}{q}\right) W_2^{\frac{1}{q}}\left(-\frac{\alpha+1}{p}\right)$，都可得到(2)式.

必要性  设存在常数M>0使得(2)式成立，记

若cλ₂>0，对充分小的ε>0，令

则有

同时还有

根据(3)式和(4)式，有

因为cλ₂>0，由Lebesgue控制收敛定理，有

令

因为ε>0充分小，故$\frac{\left|\lambda_1\right| \varepsilon}{p}<\sigma$，于是

而

视ε为一个趋于0的正项数列{c_k}，根据Lebesgue控制收敛定理，有

于是在(5)式中令ε→0⁺，得

矛盾，所以cλ₂>0不成立.

若cλ₂ < 0，对充分小的ε>0，令

类似地可得

利用

及Lebesgue控制收敛定理，令ε→0⁺，类似地也可得到(6)式，矛盾. 故cλ₂ < 0也不能成立.

综上所述，可得cλ₂=0，但λ₂≠0，故c=0，即

(ⅱ) 设$\frac{\alpha+1}{\lambda_1 p}+\frac{\beta+1}{\lambda_2 q}=\lambda+\frac{1}{\lambda_1}+\frac{1}{\lambda_2}$，则c=0. 若(2)式的最佳常数因子不是$\frac{W_0}{\left|\lambda_1\right|^{\frac{1}{q}}\left|\lambda_2\right|^{\frac{1}{p}}}$，则存在常数M₀>0，使得

由于c=0，根据导出(5)式的方法，得

由此得到

令ε→0⁺，得

于是

这与$M_0>\frac{W_0}{\left|\lambda_1\right|^{\frac{1}{q}}\left|\lambda_2\right|^{\frac{1}{p}}}$矛盾，故(2)式的常数因子是最佳的.

设K(x，y)≥0，定义以K(x，y)为核的积分算子T：

根据Hilbert型不等式的基本理论，逆向Hilbert型积分不等式(1)等价于算子不等式

根据定理1，可得到下列等价定理：

定理 2  设$\frac{1}{p}+\frac{1}{q}=1(0<p<1, q<0), \lambda_1 \lambda_2>0, \alpha, \beta, \lambda \in \mathbb{R}, G(u, v)$是λ阶齐次非负函数，$K(x, y)=G\left(x^{\lambda_1}, y^{\lambda_2}\right), 0<W_1\left(-\frac{\beta+1}{q}\right)<+\infty, 0<W_2\left(-\frac{\alpha+1}{p}\right)<+\infty$，存在常数σ>0，使得$W_1\left(-\frac{\beta+1}{q} \pm \sigma\right)<+\infty$或$W_2\left(-\frac{\alpha+1}{p} \pm \sigma\right)<+\infty$，积分算子T由(7)式定义，则：

(ⅰ) 当且当$\frac{\alpha+1}{\lambda_1 p}+\frac{\beta+1}{\lambda_2 q}=\lambda+\frac{1}{\lambda_1}+\frac{1}{\lambda_2}$时，存在常数M>0，使得(8)式成立；

(ⅱ) 当$\frac{\alpha+1}{\lambda_1 p}+\frac{\beta+1}{\lambda_2 q}=\lambda+\frac{1}{\lambda_1}+\frac{1}{\lambda_2}$时，(8)式的最佳常数因子为$\\ \text{sup} \{M\}=\frac{W_0}{\left|\lambda_1\right|^{\frac{1}{q}}\left|\lambda_2\right|^{\frac{1}{p}}}$，其中

在定理2中取λ₁=λ₂=1，则可得到关于齐次核积分算子的如下结果：

推论 1  设$\frac{1}{p}+\frac{1}{q}=1(0<p<1, q<0), \alpha, \beta, \lambda \in \mathbb{R}, K(x, y)$是λ阶齐次非负函数，$0<W_1\left(-\frac{\beta+1}{q}\right)<+\infty$，$0<W_2\left(-\frac{\alpha+1}{p}\right)<+\infty$，存在常数σ>0，使得$W_1\left(-\frac{\beta+1}{q} \pm \sigma\right)<+\infty$或$W_2\left(-\frac{\alpha+1}{p} \pm \sigma\right)<+\infty$，积分算子T由(7)式定义，则：

(ⅰ) 当且当$\frac{\alpha}{p}+\frac{\beta}{q}=\lambda+1$时，存在常数M>0，使得(8)式成立；

(ⅱ) 当$\frac{\alpha}{p}+\frac{\beta}{q}=\lambda+1$时，(8)式的最佳常数因子为$\sup \{M\}=W_1\left(-\frac{\beta+1}{q}\right)=W_2\left(-\frac{\alpha+1}{p}\right) .$

在定理2中取α=β=0，则可得：

推论 2  设$\frac{1}{p}+\frac{1}{q}=1(0<p<1, q<0), \lambda_1 \lambda_2>0, \lambda \in \mathbb{R}, G(u, v)$是λ阶齐次非负函数，$K(x, y)=G\left(x^{\lambda_1}, y^{\lambda_2}\right), 0<W_1\left(-\frac{1}{q}\right)<+\infty, 0<W_2\left(-\frac{1}{p}\right)<+\infty$，存在常数σ>0，使得$W_1\left(-\frac{1}{q} \pm \sigma\right)<+\infty$或$W_2\left(-\frac{1}{p} \pm \sigma\right)<+\infty$，积分算子T由(7)式定义，则：

(ⅰ) 当且当$\lambda+\frac{1}{\lambda_1 q}+\frac{1}{\lambda_2 p}=0$时，存在常数M>0，使得

(ⅱ) 当$\lambda+\frac{1}{\lambda_1 q}+\frac{1}{\lambda_2 p}=0$时，(9)式的最佳常数因子为$\sup \{M\}=\frac{W_0}{\left|\lambda_1\right|^{\frac{1}{q}}\left|\lambda_2\right|^{\frac{1}{p}}}$，其中

推论 3  设$\frac{1}{p}+\frac{1}{q}=1(0<p<1, q<0), \lambda>0, 0 \leqslant a<b$，积分算子T为

则有

其中的常数因子$\frac{2 \pi}{\lambda}(\sqrt{b}-\sqrt{a})$是最佳值.

证  记

则$\frac{\alpha}{p}+\frac{\beta}{q}=1 .$又记

因为0≤a<b，故K(x，y)是0阶齐次非负函数. 作变换$t=u^{\frac{2}{\lambda}}$，有

若a>0，因为$h(z)=\frac{z^2}{\left(b+z^2\right)\left(a+z^2\right)}$在上半平面上有两个一阶极点$\sqrt{a} \mathrm{i}$和$\sqrt{b} \mathrm{i}$，利用复变函数的残数理论，可求得

若a=0，则易求得$W_1\left(-\frac{\beta+1}{q}\right)=\frac{2 \pi}{\lambda} \sqrt{b} .$

综上所述，当a≥0时，有

类似地也可得

取$\sigma=\frac{\lambda}{4}>0$，有

因为

从而可推知$W_1\left(-\frac{\beta+1}{q}-\sigma\right)<+\infty.$又因为

而

所以可知$W_1\left(-\frac{\beta+1}{q}+\sigma\right)<+\infty$，于是得到$W_1\left(-\frac{\beta+1}{q} \pm \sigma\right)<+\infty \text {. }$

综上所述，并根据推论1，可知推论3成立.