本文中，设X为实拓扑向量空间，Y为实局部凸向量空间，S⊂X为非空子集，η：S×S→S和E：S×S→S是向量值映射，D⊂Y为非空尖闭凸锥，Y^*是Y的具有弱*拓扑的对偶空间.D的对偶锥定义为D^*={f∈Y^*：f(y)=〈f，y〉≥0，∀y∈D}.

定义1^[18] 如果∀x，y∈S，∀α∈[0, 1]，E(y)+αη(E(x)，E(y))∈S，则称S关于η是E-不变凸集.

定义2^[18] 设S关于η是E-不变凸集，F：S→$ {\mathbb{R}}$. 如果∀x，y∈S，∀α∈[0, 1]，F(E(y)+αη(E(x)，E(y)))≤αF(E(x))+(1-α)F(E(y))，则F是D-E-预不变凸函数.

定义3 设S关于η是E-不变凸集，F：S→Y，

(a) 如果∀x，y∈S，∀α∈[0, 1]，

则F是D-E-预不变凸映射；

(b) 如果∀x，y∈S，x≠y，∀α∈[0, 1]，

则F是严格D-E-预不变凸映射；

(c) 如果∀x，y∈S，F(E(x))≠F(E(y))，∀α∈[0, 1]，

则F是半严格D-E-预不变凸映射；

(d) 如果∀x，y∈S，∀α∈[0, 1]，

或

则F是D-E-预不变拟凸映射^[18]；

(e) 如果∀x，y∈S，x≠y，∀α∈[0, 1]，

或

则F是严格D-E-预不变拟凸映射^[18]；

(f) 如果∀x，y∈S，F(E(x))≠F(E(y))，∀α∈[0, 1]，

或

则F是半严格D-E-预不变拟凸映射^[18].

定义4^[5] 设F：S→Y. 如果∀q∈D^*，有q(F)(·)=〈q，F(·)〉，则F是*-下半连续映射.

定义5^[11] 设F：S→Y. 如果∀q∈D^*，q(F)(·)在S上上半连续，则F是*-上半连续映射.

引理1^[11] ∀q∈D^*，q(d)≥0当且仅当d∈D.

条件C′^[19] 如果∀x，y∈S，∀α∈[0, 1]，有

则η满足条件C′.

性质1 如果η满足条件C′，则∀x，y∈S，∀α₁，α₂∈[0, 1]，有

本节将在*-上半连续和*-下半连续条件下，应用下面的引理2分别给出D-E-预不变凸映射的一些等价刻画.

引理2 设S关于η是E-不变凸集，η满足条件C′，F：S→Y满足条件F(E(y)+η(E(x)，E(y)))∈F(E(x))-D. 若存在α∈(0，1)，使得∀x，y∈S，有

则集合A={λ∈[0, 1]：F(E(y)+λη(E(x)，E(y)))∈λF(E(x))+(1-λ)F(E(y))-D，∀x，y∈S}在[0, 1]中稠密.

定理1 设F：S→Y是E-不变凸集S上的*-上半连续映射且满足条件F(E(y)+η(E(x)，E(y)))∈F(E(x))-D，η满足条件C′. 则F是D-E-预不变凸映射当且仅当∀x，y∈S，存在α∈(0，1)，使得F(E(y)+αη(E(x)，E(y)))∈αF(E(x))+(1-α)F(E(y))-D.

证 由D-E-预不变凸映射的定义，可以获得必要性的证明. 下面证明充分性. 令

由引理2，A在[0, 1]中稠密. 故∀$ {\bar \lambda }$∈(0，1)，存在{λ_n}⊂(0，1)∩A满足λ_n＜$ {\bar \lambda }$，λ_n→$ {\bar \lambda }$ (n→∞).

取∀x，y∈S，令E(z)=E(y)+$ {\bar \lambda }$ η(E(x)，E(y)). 定义E(y_n)=E(y)+ $\frac{{\bar \lambda - {\lambda _n}}}{{1 - {\lambda _n}}}$η(E(x)，E(y))，则E(y_n)→E(y)(n→∞). 因为0＜λ_n＜$ {\bar \lambda }$＜1，故0＜$ \frac{{\bar \lambda - {\lambda _n}}}{{1 - {\lambda _n}}}$＜1，注意到S是E-不变凸集，从而E(y_n)∈S.

由条件C′，推得

因为λ_n∈A，所以有F(E(z))→λ_nF(E(x))+(1-λ_n)F(E(y_n))-D. 由F的*-上半连续性，对于∀q∈D^*，q(F)(·)上半连续. 故∀ε＞0，存在N＞0，当n＞N时，有

则由(1)式以及λ_n∈A，有q(F)(E(z))→$ {\bar \lambda }$q(F)(E(x))+(1-$ {\bar \lambda }$)[q(F)(E(y))+ε]. 因为ε＞0可以任意小，所以对于∀q∈D^*，有q(F)(E(z))≤$ {\bar \lambda }$q(F)(E(x))+(1-$ {\bar \lambda }$)q(F)(E(y)). 再由q的线性性质和性质1，有F(E(z))∈$ {\bar \lambda }$F(E(x))+(1-$ {\bar \lambda }$)F(E(y))-D. 从而，由x，y的任意性和定义知，F是D-E-预不变凸映射.

定理2 设F：S→Y是E-不变凸集S上的*-下半连续映射且满足条件F(E(y)+η(E(x)，E(y)))∈F(E(x))-D，η满足条件C′. 则F是D-E-预不变凸映射当且仅当∀x，y∈S，存在α∈(0，1)，使得F(E(y)+αη(E(x)，E(y)))∈αF(E(x))+(1-α)F(E(y))-D.

证 由D-E-预不变凸映射的定义，可以获得必要性的证明. 下面证明充分性. 反证法，假设F不是D-E-预不变凸映射，则存在x，y∈S，$ {\bar \lambda }$ ∈(0，1)，使得

令E(x_t)=E(y)+tη(E(x)，E(y))，t∈($ {\bar \lambda }$，1]；μ=inf{t∈($ {\bar \lambda }$，1]：x_t∈B}；B={x_t∈S：t∈($ {\bar \lambda }$，1]，F(E(x_t))=F(E(y)+tη(E(x)，E(y)))∈tF(E(x))+(1-t)F(E(y))-D}. 由假设，有x₁∈B. 由(2)式知$ x_{\bar \lambda }$∉B. 从而x_t∉0，∀t∈[$ {\bar \lambda }$，μ)，存在{t_n}，t_n≥μ，x_tn∈B，使得t_n→μ(n→∞). 则可知

故对于∀q∈D^*，有q(F)(E(x_tn))≤t_nq(F)(E(x))+(1-t_n)q(F)(E(y)). 因为F是*-下半连续的，故对于∀q∈D^*，q(F)(·)是下半连续的，有q(F)(E(x_μ))≤μq(F)(E(x))+(1-μ)q(F)(E(y))．由q的线性性质和引理1，有

则x_μ∈B.

类似地，令E(y_t)=E(y)+tη(E(x)，E(y))，t∈[0，$ {\bar \lambda }$)；ν=sup{t∈[0，$ {\bar \lambda }$)：y_t∈D}；D={y_t∈S：t∈[0，$ {\bar \lambda }$)，F(E(y_t))=F(E(y)+tη(E(x)，E(y)))∈tF(E(x))+(1-t)F(E(y))-D}，则有

则y_ν∈D.

由μ，ν的定义，有0≤ν＜$ {\bar \lambda }$＜μ≤1. 由性质1、条件C′，有

从而

则由(3)-(4)式，有

从而，对于∀λ∈(0，1)，F(E(x_μ)+λη(E(y_ν)，E(x_μ)))∈λF(E(y_ν))+(1-λ)F(E(x_μ))-D，与(2)式矛盾，从而充分性得证.

推论1 设F：S→Y是E-不变凸集S上的*-下半连续映射且满足条件F(E(y)+η(E(x)，E(y)))∈F(E(x))-D，η满足条件C′. 则F是D-E-预不变凸映射当且仅当存在α∈(0，1)，使得∀x，y∈S，有F(E(y)+αη(E(x)，E(y)))∈αF(E(x))+(1-α)F(E(y))-D.

本节将讨论D-E-预不变凸性、严格D-E-预不变凸性和半严格D-E-预不变凸性之间的关系.

定理3 设η满足条件C′，F：S→Y是E-不变凸集S上的D-E-预不变凸向量值映射，且满足条件：存在α∈(0，1)，使得∀x，y∈S，x≠y，有

则F是严格D-E-预不变凸向量值映射.

证 假设F不是严格D-E-预不变凸向量值映射，则存在x，y∈S，x≠y，存在λ∈(0，1)，使得

选取β₁，β₂，0＜β₁＜β₂＜1，令λ=αβ₁+(1-α)β₂，

因为F是D-E-预不变凸向量值映射，则有

由性质1有E($ \bar y$)+αη(E($ \bar x$)，E($ \bar y$))=E(y)+λη(E(x)，E(y)). 再根据(5)式，有

由(7)，(8)式，有F(E(y)+λη(E(x)，E(y)))∈λF(E(x))+(1-λ)F(E(y))-int D. 这与(6)式矛盾，即证得F是严格D-E-预不变凸向量值映射.

定理4 设η满足条件C′，F：S→Y是E-不变凸集S上的半严格D-E-预不变凸向量值映射，且满足条件：存在α∈(0，1)，使得∀x，y∈S，x≠y，有

则F是严格D-E-预不变凸映射.

证 因为F是半严格D-E-预不变凸映射，故只需在f(E(x))=f(E(y))且x≠y时证得F(E(y)+λη(E(x)，E(y)))∈λF(E(x))+(1-λ)F(E(y))-int D=F(E(x))-int D，∀λ∈(0，1).

令E($ \bar x$)=E(y)+αη(E(x)，E(y)). 由(9)式，对于∀x，y∈S，x≠y，有

对于∀λ∈(0，1)，当λ＜α时，取μ=$ \frac{{\alpha - \lambda }}{\alpha }$，则μ∈(0，1). 再根据条件C′，可得

由F的半严格D-E-预不变凸性和(10)式，可得F(E(y)+λη(E(x)，E(y)))∈F(E(x))-int D.

当λ＞α时，取ν=$ {\frac{{\lambda - \alpha }}{{1 - \alpha }}}$，则ν∈(0，1). 再由条件C′，可得

由F的半严格D-E-预不变凸性和(10)式，可得F(E(y)+λη(E(x)，E(y)))∈F(E(x))-int D.

综上所述，即证得F是严格D-E-预不变凸映射.

定理5 设η满足条件C′，F：S→Y是E-不变凸集S上的半严格D-E-预不变凸映射，且满足*-下半连续性，则F是D-E-预不变凸映射.

证 令x，y∈S，当F(E(x))≠F(E(y))时，由F的半严格D-E-预不变凸性，可得

当F(E(x))=F(E(y))时，为了证得F是D-E-预不变凸映射，只需要说明F(E(y)+λη(E(x)，E(y)))∈F(E(x))-D，∀λ∈(0，1).

反证法，假设存在α∈(0，1)，使得

令E(z_α)=E(y)+αη(E(x)，E(y)). 因为F(x)-D是闭凸集，所以由凸集的强分离定理，可知存在0≠q∈Y^*，b∈$ {\mathbb{R}}$，∀d∈D，使得

因为D是锥，对于∀d∈D，有q(d)≥0，推得q∈D^*.

由0∈D和(12)式，可得

因为F是*-下半连续的，存在β(α＜β＜1)，使得

根据条件C′，有E(z_β)=E(z_α)+$ \frac{{\beta - \alpha }}{{1 - \alpha }}$η(E(x)，E(z_α)).

从而，F的半严格D-E-预不变凸性，有

又因为q∈D^*，所以由(13)式和(14)式，可导出

根据条件C′，有E(z_α)=E(z_β)+$ \left( {1 - \frac{\alpha }{\beta }} \right)$η(E(y)，E(z_β))，从而，由(14)式和F的半严格D-E-预不变凸性，有

因为q∈D^*，所以由(14)式和(17)式，可导出q(F)(E(z_α))＜q(F)(E(z_β)). 这与(16)式矛盾，即证得F是D-E-预不变凸映射.

定理6 设η满足条件C′，F：S→Y是E-不变凸集S上的D-E-预不变凸映射，且满足条件：∀x，y∈S，F(x)≠F(y)，存在α∈(0，1)，使得

则F是半严格D-E-预不变凸映射.

证 对于∀x，y∈S，F(x)≠F(y)，λ∈(0，1)，有

若λ≤α，由条件C′，有E(y)+$ \frac{\lambda }{\alpha }$η(E(y)+αη(E(x)，E(y))，E(y))=E(y)+λη(E(x)，E(y))，结合(18)式和(19)式，可得

若λ＞α，则0＜$ \frac{{1 - \lambda }}{{1 - \alpha }}$＜1. 由条件C′，有

结合(18)式和(19)式，可得

从而由(20)式和(21)式，可知F是半严格D-E-预不变凸映射.

本节将分别讨论D-E-预不变凸性与D-E-预不变拟凸性、严格D-E-预不变拟凸性和半严格D-E-预不变拟凸性之间的关系.

定理7 设η满足条件C′，F：S→Y是半严格D-E-预不变拟凸映射，若存在α∈(0，1)，使得∀x，y∈S，有F(E(y)+αη(E(x)，E(y)))∈αF(E(x))+(1-α)F(E(y))-D，则F是E-不变凸集S上的D-E-预不变凸映射.

证 假设F不是D-E-预不变凸映射，则存在x，y∈S，β∈(0，1)，使得

令A={λ∈[0, 1]：F(E(y)+λη(E(x)，E(y)))∈λF(E(x))+(1-λ)F(E(y))-D，∀x，y∈S}，由引理2，A在[0, 1]中稠密，存在μ，ω∈A，0＜μ＜β＜ω＜1，使得

其中E(z_β)=E(y)+βη(E(x)，E(y)).

令t₁=$ \frac{{\beta - \mu }}{{1 - \mu }}$＜β，t₂=$ \frac{\beta }{\omega }$＞β，由条件C′和性质1，得

其中E(z_t1)=E(y)+t₁η(E(x)，E(y))，E(z_t2)=E(y)+t₂η(E(x)，E(y)).

因为μ，ω∈A，所以

由(24)式，得

下面分两种情形去考虑：

情形1  F(E(x))≠F(E(y)). 由F的D-E-预不变拟凸性和(25)式，得到

则由(24)式，得到F(E(z_β))∈F(E(x))-int D，F(E(z_β))∈F(E(y))-int D. 从而F(E(z_β))∈βF(E(x))+(1-β)F(E(y))-int D，与(22)式矛盾.

情形2  F(E(x))=F(E(y)). 由(22)式、性质1和F(E(z_β))≠F(E(y))，得到

由F的半严格D-E-预不变拟凸性和(25)式，有F(E(z_t1))∈F(E(z_β))-int D. 结合(24)式，有

所以F(E(z_β))∈βF(E(x))+(1-β)F(E(y))-int D，与(22)式矛盾.

由定义4，严格D-E-预不变拟凸映射是半严格D-E-预不变拟凸映射，根据定理7，可获得下面的推论：

推论2 设η满足条件C′，F：S→Y是严格D-E-预不变拟凸映射，若存在α∈(0，1)，使得∀x，y∈S，有

则F是E-不变凸集S上的D-E-预不变凸映射.

类似于定理7的证明方法，可得到下面的定理：

定理8 设η满足条件C′，F：S→Y是D-E-预不变拟凸映射，若存在α∈(0，1)，使得∀x，y∈S，有

则F是E-不变凸集S上的D-E-预不变凸映射.

考虑下面的数学规划问题：

(VP₀) $ \mathop {\min }\limits_{x \in S} F\left( x \right)$，其中S是E-不变凸集，F：S→Y是向量值映射.

定义6^[16] 令F(E(S))=$ \bigcup\limits_{x \in S} {F\left( {E\left( x \right)} \right)} $，如果(F(E($ \bar x$))-D\{0_Y})∩F(E(S))=ø，则$ \bar x$∈S是问题(VP₀)的E-全局最优解；如果存在$ \bar x$的邻域U，使得(F(E($ \bar x$))-D\{0_Y})∩F(E(S∩U))=ø，则$ \bar x$∈S是问题(VP₀)的E-局部最优解.

定理9 设S是E-不变凸集，F：S→Y是D-E-预不变凸映射，则问题(VP₀)的任一E-局部最优解是E-全局最优解.

证 设$ \bar x$是问题(VP₀)的E-局部最优解，则存在$ \bar x$的邻域U，使得

反证法，假设$ \bar x$不是问题(VP₀)的E-全局最优解，则(F(E($ \bar x$))-D\{0_Y})∩F(E(S))≠ø. 即存在x₀∈S，使得F(E(x₀))∈F(E($ \bar x$))-D\{0_Y}.

因为S是E-不变凸集，所以∀α∈(0，1)，有E($ \bar x$)+αη(E($ \bar x$)，E(x₀))∈S. 根据F：S→Y的D-E-预不变凸性，有

当α足够小时，有E($ \bar x$)+αη(E($ \bar x$)，E(x₀))∈E(S∩U)，从而

这就意味着(26)式与(27)式矛盾，即证得问题(VP₀)的E-局部最优解是E-全局最优解.

本文研究了D-E-预不变凸映射，借助*-上半连续性、*-下半连续性、严格D-E-预不变凸性、半严格D-E-预不变凸性、D-E-预不变拟凸性、严格D-E-预不变拟凸性和半严格D-E-预不变拟凸性，获得了不可微D-E-预不变凸映射的一些特征性质，同时指出了D-E-预不变凸规划问题的E-局部最优解和E-全局最优解之间的关系. 所得结果(定理1、定理2、定理3和定理6)把文献[11]中D-预不变凸映射的相关结论(定理2.2、定理2.3、定理3.3、定理3.5、定理3.7和定理3.9)分别推广到D-E-预不变凸映射. 某种意义上，这些特征性质也为判别映射的D-E-预不变凸性提供了一个新的判别角度. 而D-E-预不变凸映射优化问题的最优性条件、鞍点定理以及对偶定理，将是后续要研究的课题.