条件极值问题是分析学和运筹学当中的重要内容, 它主要是对一定约束条件下目标函数的求解, 例如求解满足约束条件g_i(x₁, x₂, …, x_n)=0 (i=1, 2, …, k)的目标函数z=f(x₁, x₂, …, x_n).这里f, g_i都是二阶连续可微的函数, 1≤k＜n.我们记向量值函数g=(g₁, g₂, …, g_k)^T, 梯度算子D=$\left({\frac{\partial }{{\partial {x_1}}}, \cdots, \frac{\partial }{{\partial {x_n}}}} \right)$.当Dg行满秩时, 约束条件g=0确定了一个隐函数组y=y(x).不妨设该隐函数组的自变量和因变量分别为x=(x₁, x₂, …, x_m), y=(x_m+1, x_m+2, …, x_n), 自然数m=n-k.于是原条件极值问题可记为

我们知道z=f(x, y)的无约束极值可根据Hessian矩阵H_f=${\left({\frac{{{\partial ^2}f}}{{\partial {x_i}\partial {x_j}}}} \right)_{n \times n}}$来进行判断^[1].然而条件极值问题(1)却没有完整的判定定理.因为当拉格朗日函数

关于P(x, y)的Hessian矩阵H_L不定时, 无法确定f的极值情况.文献[2]给出了相应的反例：

此时H_L在驻点(x₁, x₂, x₃, λ)=(0, 0, 0, 0)处是不定的, 然而上述问题的f却在点P(x₁, x₂, x₃)=(0, 0, 0)处取得极小值.这说明了条件极值问题在求解与判定方面都更加复杂和困难.约束极值的研究价值不仅限于多元函数, 它在泛函的临界点理论中也有着重要的应用, 具体案例参见文献[3-5].本文将结合驻点的一阶可行变分空间, 研究条件极值的二阶判定方法.

记可行集$\mathscr{M}$={(x, y)：g(x, y)=0}.假设点P₀(x, y)∈$\mathscr{M}$是f在$\mathscr{M}$上的极值点, 则存在拉格朗日乘子λ=(λ₁, λ₂, …, λ_k), 使得

记增量Δx=(Δx₁, …, Δx_m), Δy=(Δx_m+1, …, Δx_n).若点P(x+Δx, y+Δy)∈$\mathscr{M}$, 则利用泰勒展开式可知：

其中1≤i≤k.将(4)式乘以相应的λ_i, 再累加到(3)式上, 结合(2)式可得

由(5)式可以看出, 仅凭借H_L (P₀)在${{\mathbb{R}}^{n}}$上的正定(负定)性来判断极值是十分粗略的, 有些情形下甚至是失效的.这是因为点P在可行集上变动时, 对应的增量(Δx, Δy)仅是${{\mathbb{R}}^{n}}$的一个子集.我们记$\mathscr{M}$上点P₀的一阶可行变分子空间为

进而得到如下结论.

定理1  设函数f, g_i(i=1, …, k)均在点P₀∈${{\mathbb{R}}^{n}}$的某邻域内二阶连续可微, 且矩阵Dg的秩为k.若点(P₀, λ)是拉格朗日函数L(P, λ)=f(P)+$\sum\limits_i {{\lambda _i}{g_i}\left( P \right)} $的驻点, 则：

(a) 当H_L (P₀)在空间V(P₀)上正定时, 函数f在点P₀取条件极小值；

(b) 当H_L (P₀)在空间V(P₀)上负定时, 函数f在点P₀取条件极大值；

(c) 当H_L (P₀)在空间V(P₀)上不定时, 函数f在点P₀一定不取极值.

注  文献[6-7]提出了结论(a), (b)的一种证明方法.但是文献[6-7]中的方法较为繁琐, 不易推广, 无法解决H_L (P₀)不定时的判定.于是本文建立了一个新的估计式, 它既给出了结论(a), (b)的简洁证明, 同时得到更丰富的结果.

我们记多元函数的偏微分算子：

则向量值函数g的偏微分记为：

一般情况下, 点P在P₀的邻域N(P₀)∩$\mathscr{M}$内变动时, 自变量的增量(Δx, Δy)与(δ_x, δ_y)∈V(P₀)是不同的两个量.我们需要先建立估计式, 找到集合$\mathscr{M}$与空间V(P₀)的联系.

命题1  任何(δ_x, δ_y)∈V(P₀)和实数t, 当Δx=tδ_x时, 增量Δy=y(x+tδ_x)-y(x)满足Δy=tδ_y+o(t)·I_1×n, 其中I_1×n是1×n阶的全1矩阵.

证  对g (x, y)=0两端关于x求偏微分, 得

于是

由(δ_x, δ_y)∈V(P₀)知

于是

利用多元函数的泰勒展开式得：

其中ξ_i是x与x+tδ_x之间的中值点, i=1, …, k.证毕.

定理1的证明

(a) 已知H_L (P₀)在空间V(P₀)上正定.于是在驻点P₀(x, y)的ε-邻域N_ε(P₀)内任取一点P(x+Δx, y+Δy)∈$\mathscr{M}$, 令：

可知

记

显然当ε→0时, ‖Δx‖和t都收敛到0.令：

运用(5)式与命题1可得

因为二次型Q(δ_x, δ_y)在单位闭球上一定能取到最小值, 所以存在正数Q_m＞0, 使得Q(δ_x, δ_y)≥Q_m＞0.注意到(6)式中o(t²)关于ε的一致性.我们推出：只要ε充分小, 则任何P∈N_ε(P₀)都满足

即f在P₀取到极小值.

(b) 证明与(a)同理.

(c) 已知H_L(P₀)在空间V(P₀)上不定, 则存在两个线性无关的向量(δ_x⁺, δ_y⁺), (δ_x^-, δ_y^-)∈V(P₀), 使得

对任意的t＞0, 记：

则增量Δx=tδ_x⁺, Δy=y(x+tδ_x⁺)-y(x).取点P_t(x_t, y_t)∈$\mathscr{M}$, 利用命题1知, 当t充分小时, 有

因此在点P₀的任何邻域内都存在点P_t∈$\mathscr{M}$, 使得f(P_t)＞f(P₀).同理利用Q(δ_x^-, δ_y^-)＜0可知, 存在点P′_t∈$\mathscr{M}$, 使得f(P′_t)＜f(P₀).综上所述, 函数f在点P₀一定不取条件极值.