考虑在一个具有n个节点的多个体网络中，每个个体仅知道其自身的目标函数，且仅与其邻居进行局部信息交换，使所有个体的目标函数之和达到最优，即如下的一个多个体网络分布式优化问题^[2]：

其中每个个体i仅知道其局部目标函数f_i(z)：ℝ^d→ℝ，z是全局决策变量.

定义1  如果对任意x，y∈ℝ^d，有

则称函数f是ℝ^d的μ强凸函数，其中常数μ≥0，g(y)是f在点y的次梯度，这里‖·‖是欧几里得范数.

定义2  如果对任意x，y∈ℝ^d，有‖f(x)-f(y)‖≤L‖x-y‖称函数f是L-利普希茨连续.

假设1  对每一个i，i=1，…，n，函数f_i是μ_i-强凸函数；并且它是L_i-利普希茨连续的，常数μ_i≥0，L_i≥0.记$L = \sum\nolimits_{i = 1}^n {{L_i}} $.

如果假设1成立，则问题(1)存在唯一全局最优解，记为z^*，即

若将网络中每个个体看作是一个节点，则多个体网络中个体间的信息通信可以表述为一个时变的有向图G(t)=(V，E(t))，其中V={1，2，…，n}为顶点的集合，E(t)⊆V×V为边的集合表示个体间的信息交流过程.分别用N_iⁱⁿ(t)和N_i^out(t)表示个体i在t时刻的内邻居点和外邻居点集，即

用d_i(t)表示个体i在t时刻的外度，即d_i(t)=|N_i^out(t)|.假设个体i在t时刻仅知道它的外度d_i(t).

假设2  有向图序列{G(t)}是B强连通的，即存在正整数B，对∀k≥1使得E_k(t)∪E_k+1(t)∪…∪E_k+B-1(t)是连通的.

假设所有的个体仅能向与之相邻的节点传递量化过后的信息，但是所有节点能存储实值的数据.本文采用确定型量化规则^[4-5]如下：假设待量化的值x∈[-M，M]，M充分大；有l个采样点将区间[-M，M]均匀分为l-1个子区间，采样点集合记为m={m₁，m₂，…，m_l}，并且m₁=-M，m_l=M，则每个子区间的长度为$\frac{1}{\Delta }$，即$\frac{1}{\Delta }$=m_i+1-m_i，定义

这里$\left\lfloor x \right\rfloor $表示x向下取整到某个最近的采样点m_i(i=1，…，l).令v=Q[x]-x表示量化误差，根据上述的量化规则，有如下关系式成立

下面将研究经过量化后的分布式push-sum次梯度算法对优化问题(1)的影响.本文提出如下带量化的分布式push-sum次梯度算法(Q-PSDSG)：

第0步    初始化，对i=1，…，n，取x_i(0)∈ℝ^d满足‖x_i(0)‖有界；y_i(0)=1.

第1步    对每个i=1，…，n，更新

第2步    t=t+1，转到第1步.

这里步长α(t)＞0是单调递减的，g_i(t)是f_i在z_i(t)的随机次梯度.

为了简便，记所有个体的状态平均值为$\mathit{\boldsymbol{\bar x}}(t) = \frac{1}{n}\sum\limits_{j = 1}^n {{\mathit{\boldsymbol{x}}_j}} (t)$，个体i经过量化后的误差为v_i(t)=Q[x_i(t)]-x_i(t).定义通讯权矩阵A(t)如下：

引理1  若假设1和2成立，那么对∀y∈ℝ^d和t≥0，有以下不等式成立：

这里$q = \sum\limits_{i = 1}^n {L_i^2} $.

证  由x(t)的定义和(6)式可得，

令y∈ℝ^d为任意变量，通过(7)式得：

则有

因为f_i是强凸函数且是次梯度有界的，由文献[3]中引理2的证明类似可知对∀y∈ℝ^d有

注意到

并结合(8)，(9)式可以得到

其中$q = \sum\limits_{i = 1}^n {{{\left( {{L_i}} \right)}^2}} $，从而引理1得证.

下面给出一个关于算法Q-PSDSG的收敛性结果.

定理1  假设1和假设2成立并假设步长α(t)单调递减且满足$\mathop {\lim }\limits_{t \to \infty } \alpha \left( t \right) = 0$，则对任意的i=1，…，n和t≥0有

其中

证  在引理1中，取y=z^*有

接下来估计F(x(t))-F(z^*).一方面，根据假设1知F是强凸函数，从而有

另一方面，F是利普希茨连续的，从而有

由(11)和(12)式得到

将(13)式代入(10)式中可以得到

由初始条件和算法Q-PSDSG的第二步，可以得到，对任意i=1，…，n和t≥0，‖z_j(t+1)‖是有界的^[2]，从而‖z_i(t+1)-z^*‖有界，故令

在(14)式中同时除以$\frac{{a\left( {t + 1} \right)}}{n}$，有

将(15)式两边乘以t再对t递归求和，同时乘以$\frac{2}{{\tau \left( {\tau - 1} \right)}}$可得

利用F的凸性，有

结合(16)和(17)式即可得出结论.

注1  定理1表明F(Ẑ_i(τ))接近最优F(z^*)的程度主要由利普希茨常数、步长、概率量化精度和$\sum\limits_{t = 1}^{\tau - 1} {\left\| {{\mathit{\boldsymbol{z}}_j}\left( {t + 1} \right) - \mathit{\boldsymbol{\bar x}}\left( t \right)} \right\|} $所确定.

引理2  若假设1和假设2成立，则对于算法中的序列{z_i(t)}，i=1，…，n和时间τ≥1有：

其中：常数δ≥0，λ∈(0，1)，D＞0满足$\delta \ge \frac{1}{{{n^{nB}}}}$，$\lambda \le {\left( {1 - \frac{1}{{{n^{nB}}}}} \right)^{\frac{1}{B}}}$.

引理2的证明类似于文献[2]中引理1的证明.同时，在引理2的条件下还可以得到：

定理2  在定理1的条件下，特别取α(t)=$\frac{p}{t}$，t≥1，其中常数p满足

则对每一个i有

这里

证  将α(t)=$\frac{p}{t}$代入(14)式有

两边同乘t(t+1)，并对t递归求和，可以得到

运用$\mathop {\max }\limits_i \left\| {{\mathit{\boldsymbol{z}}_i}\left( {t + 1} \right) - {\mathit{\boldsymbol{z}}^*}} \right\| = R$后，约去$\frac{p}{n}$再除以τ(τ-1)即得：

因为F为凸函数，则有

结合(20)式和引理2即可推导出

简化处理(21)式以后定理2得证.

注2  由定理2可以看出，不等式(19)的前3项是优化误差项，后3项是量化误差项.当迭代次数τ趋于无穷时，优化误差项趋于零.对每个个体i，量化误差项$\frac{1}{\Delta }{Q_1} + \frac{{\ln \tau }}{\Delta }{Q_2} + \frac{\tau }{{{\Delta ^2}}}{Q_3}$，取决于量化精度$\frac{1}{\Delta }$和常数Q₁，Q₂，Q₃，故当量化精度足够高，即$\frac{1}{\Delta }$→0时，定理2中量化误差项也趋于零，从而F(Ẑ_i(τ))接近最优F(z^*).

考虑如下的一个多个体分布式强凸问题^[8]：

这里a_i，b_i，λ是已知的.记

为个体i所持有的局部强凸目标函数.

假设随机生成n个点对(a_i，b_i)，取λ=0.1，按照定理2的要求取步长α(t).设置n=100，d=1和n=100，d=2，其中n，d分别为节点个数、决策变量维数.在MATLAB中运行带量化的分布式push-sum次梯度算法，取Δ=2^k，考虑k=6，8，10 3种不同的量化水平.考查最大误差

从图 1可以看出3种不同的量化水平对算法Q-PSDSG的影响，特别当量化精度越高，最大误差就越小，从而越接近最优，随着问题维数的增大，量化的误差也增大.

本文研究了在有向网络下的带确定型量化的分布式push-sum次梯度算法，讨论了确定型量化对算法的收敛性影响.数值实验表明量化精度越高，越接近最优.