留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

基于启发式二分策略的属性约简方法

上一篇

下一篇

黄治国, 杨清琳. 基于启发式二分策略的属性约简方法[J]. 西南师范大学学报(自然科学版), 2020, 45(4): 59-67. doi: 10.13718/j.cnki.xsxb.2020.04.012
引用本文: 黄治国, 杨清琳. 基于启发式二分策略的属性约简方法[J]. 西南师范大学学报(自然科学版), 2020, 45(4): 59-67. doi: 10.13718/j.cnki.xsxb.2020.04.012
Zhi-guo HUANG, Qing-lin YANG. On Method of Attribute Reduction Based on Heuristic Binary Strategy[J]. Journal of Southwest China Normal University(Natural Science Edition), 2020, 45(4): 59-67. doi: 10.13718/j.cnki.xsxb.2020.04.012
Citation: Zhi-guo HUANG, Qing-lin YANG. On Method of Attribute Reduction Based on Heuristic Binary Strategy[J]. Journal of Southwest China Normal University(Natural Science Edition), 2020, 45(4): 59-67. doi: 10.13718/j.cnki.xsxb.2020.04.012

基于启发式二分策略的属性约简方法

  • 基金项目: 河南省高等学校重点科研项目(17A520027);河南工程学院博士基金项目(D2013003)
详细信息
    作者简介:

    黄治国(1978—), 男, 博士, 副教授, 主要从事数据挖掘、智能计算等方面的研究 .

  • 中图分类号: TP301.6

On Method of Attribute Reduction Based on Heuristic Binary Strategy

  • 摘要: 分辨矩阵为属性约简与求核运算提供了一种规范精确的数学模型,通过分辨矩阵模型可方便地获取决策系统全体属性约简.本文基于分辨矩阵运用启发式信息与二分策略扩展结点,设计了一种构造约简树求取全体属性约简的有效算法,该约简树从根结点到叶结点全体路径构成的析取范式与系统分辨函数等价,其极小析取范式所有析取项即为决策系统全体属性约简.该方法适用于满足任意约简准则的分辨矩阵,能够显著地减少搜索空间和保证全体约简求解的完备性,理论分析与实验结果说明了算法的可行性与有效性.
  • 加载中
  • 表 1  分辨集与极小分辨集实验结果对比

    数据集 对象数 属性数 直接提取分辨矩阵元素 直接生成极小分辨集
    元素数目 元素长度和 元素数目 元素长度和
    soybean-small 47 35 810 10 111 99 947
    zoo 101 16 3 873 30 022 14 50
    monks-1 432 6 46 656 178 848 3 3
    tic-tac-toe 958 9 207 832 1 227 844 36 72
    kr-vs-kp 3 196 36 2 548 563 24 932 433 29 31
    mushroom 8 124 22 16 478 528 209 012 760 30 198
    下载: 导出CSV

    表 2  启发式与否扩展结点生成全体约简对比

    数据集 约简数 生成分辨集时间/s 启发式扩展结点 非启发式扩展结点
    路径数 求取所有约简时间/s 路径数 求取所有约简时间/s
    soybean-small 765 0.007 949 0.066 6 629 0.967
    zoo 33 0.008 33 < 0.001 90 < 0.001
    monks-1 1 0.075 1 < 0.001 1 < 0.001
    tic-tac-toe 9 0.307 9 < 0.001 9 < 0.001
    kr-vs-kp 4 3.931 4 < 0.001 4 < 0.001
    mushroom 292 27.763 345 0.011 1 464 0.149
    下载: 导出CSV

    表 3  算法1与扩展法则算法所需存储空间对比

    数据集 扩展法则算法 算法1
    存储元素数目 所需存储空间 存储元素数目 所需存储空间
    soybean-small 949 5 057 765 4 016
    zoo 33 199 33 199
    monks-1 1 3 1 3
    tic-tac-toe 9 72 9 72
    kr-vs-kp 4 116 4 116
    mushroom 345 1 956 292 1 640
    下载: 导出CSV
  • [1] 黄卫华.多粒度粗糙集模型[J].西南师范大学学报(自然科学版), 2017, 42(5):137-143. doi: http://xbgjxt.swu.edu.cn/jsuns/jscnuhhse/ch/reader/view_abstract.aspx?file_no=x201705022&flag=1
    [2] 项海飞.基于互信息的二进制区分矩阵特征约简方法[J].西南师范大学学报(自然科学版), 2015, 40(8):33-38. doi: http://xbgjxt.swu.edu.cn/jsuns/jscnuhhse/ch/reader/view_abstract.aspx?file_no=201508008&flag=1
    [3] 刘少辉, 盛秋戬, 吴斌, 等.Rough集高效算法的研究[J].计算机学报, 2003, 26(5):524-529. doi: 10.3321/j.issn:0254-4164.2003.05.002
    [4] 徐章艳, 刘作鹏, 杨炳儒, 等.一个复杂度为max(O(|C||U|), O(|C|~2|U/C|))的快速属性约简算法[J].计算机学报, 2006, 29(3):391-399. doi: 10.3321/j.issn:0254-4164.2006.03.006
    [5] 胡峰, 王国胤.属性序下的快速约简算法[J].计算机学报, 2007, 30(8):1429-1435. doi: 10.3321/j.issn:0254-4164.2007.08.025
    [6] YAO Y Y, ZHAO Y.Discernibility Matrix Simplification for Constructing Attribute Reducts[J].Information Sciences, 2009, 179(7):867-882. doi: 10.1016/j.ins.2008.11.020
    [7] 常玉慧, 郭庆军, 钱进.不一致决策表快速知识约简算法研究[J].小型微型计算机系统, 2015, 36(8):1852-1856. doi: 10.3969/j.issn.1000-1220.2015.08.037
    [8] 黄治国, 程浩.不同约简准则的比较研究[J].计算机工程与应用, 2015, 51(17):134-139. doi: 10.3778/j.issn.1002-8331.1411-0072
    [9] 黄治国, 王淼.不完备决策表中基于容差关系的属性约简方法[J].微电子学与计算机, 2016, 33(6):147-151, 156. doi: http://d.old.wanfangdata.com.cn/Periodical/wdzxyjsj201606034
    [10] 黄治国, 杨清琳.基于决策向量的分辨矩阵构造方法[J].湖南科技大学学报(自然科学版), 2017, 32(2):62-69. doi: http://d.old.wanfangdata.com.cn/Periodical/xtkyxyxb201702011
    [11] STARZYK J A, NELSON D E, STURTZ K.A Mathematical Foundation for Improved Reduct Generation in Information Systems[J].Knowledge and Information Systems, 2000, 2(2):131-146. doi: 10.1007/s101150050007
    [12] 黄治国, 杨晓骥.基于改进分辨矩阵的属性约简方法[J].计算机仿真, 2014, 31(9):305-309. doi: 10.3969/j.issn.1006-9348.2014.09.067
  • 加载中
表( 3)
计量
  • 文章访问数:  1419
  • HTML全文浏览数:  1419
  • PDF下载数:  106
  • 施引文献:  0
出版历程
  • 收稿日期:  2018-04-24
  • 刊出日期:  2020-04-20

基于启发式二分策略的属性约简方法

    作者简介: 黄治国(1978—), 男, 博士, 副教授, 主要从事数据挖掘、智能计算等方面的研究
  • 1. 河南工程学院 计算机学院, 郑州 451191
  • 2. 广西财经学院 现代教育技术部, 南宁 530003
基金项目:  河南省高等学校重点科研项目(17A520027);河南工程学院博士基金项目(D2013003)

摘要: 分辨矩阵为属性约简与求核运算提供了一种规范精确的数学模型,通过分辨矩阵模型可方便地获取决策系统全体属性约简.本文基于分辨矩阵运用启发式信息与二分策略扩展结点,设计了一种构造约简树求取全体属性约简的有效算法,该约简树从根结点到叶结点全体路径构成的析取范式与系统分辨函数等价,其极小析取范式所有析取项即为决策系统全体属性约简.该方法适用于满足任意约简准则的分辨矩阵,能够显著地减少搜索空间和保证全体约简求解的完备性,理论分析与实验结果说明了算法的可行性与有效性.

English Abstract

  • 粗糙集理论一直受到众多学者的高度关注,已广泛应用于数据挖掘、知识发现、模式识别等诸多领域[1].属性约简从高维数据中剔除与决策类别无关的属性子集,通过删除冗余属性实现数据降维和压缩数据容量,一直是粗糙集理论研究中的热点内容[2].

    在基于粗糙集的知识发现研究中,许多学者对属性约简算法进行了大量的研究.文献[3]分析了相对正域的渐增式特征,改进相对正域的计算方法,每次选择使其变化最大的属性,直至求得一个约简.文献[4]采用基数排序方法计算正域,定义属性重要度计算公式,每次选择最重要的属性,直至生成一个约简.文献[5]将分治法思想融入粗糙集算法中,设计基于分治策略的属性约简算法,求得给定属性序下的唯一约简.文献[6]提出了一种基于矩阵简化的约简构造方法,重复选择属性并执行矩阵简化操作,直至矩阵中仅存在单属性元素,最终所有单属性的集合即为求得的一个约简.文献[7]将不一致决策表转化为一致决策表,给出了5种一致决策表约简的定义,利用一致决策表中属性重要度函数的单调性求得决策表属性约简.以上方法均仅是求得决策系统的一个属性约简,且不能保证其一定为最小属性约简.文献[8]针对多种常见的属性约简准则,分析其本质内涵并将之分层归类,为进一步实现面向不同约简准则的高效属性约简算法奠定理论基础.文献[9]提出了一种基于容差关系的属性约简方法,为不完备决策表求取全体属性约简给出了一种解决方案.文献[10]依据条件等价类定义决策向量,在此基础上设计了满足不同属性约简准则的分辨矩阵构造方法,为高效属性约简算法研究奠定了分辨矩阵构造基础.但这些研究并没有就如何设计高效的约简算法作进一步讨论.文献[11]基于扩展法则变换分辨函数,为决策系统求取全体属性约简提供了一种完备高效的计算方法.

    本文深入分析分辨矩阵的一些有用特性,吸收扩展法则思想设计一种操作分辨集搜索全体约简的有效方法,并给出了详细的算法描述和时间复杂度分析,理论分析与实验结果说明了该算法的高效性与完备性.

  • DS=〈UCDVf〉为决策系统的形式化表示,其中U为非空有限论域;C为条件属性集,D为决策属性集,CD=ØV=∪a∈(CD)Va为属性值域,Va为属性a的值域;fU×(CD)V为信息函数,f(xa)为对象xU在属性a上的取值.

    定义1[6] 给定决策系统DS=〈UCDVf〉,令C={a1,…,am},U={x1,…,xn},分辨矩阵M是一个|U|×|U|的矩阵,矩阵中每一元素定义为

    分辨矩阵满足对称性且对于1≤∀in均有cii=Ø,因此可仅通过下三角(1≤jin)元素来表示矩阵.为叙述方便,令MDS为决策系统DS的分辨矩阵M中非空元素构成的集合,即MDS={mijmijØ}.

    定义2[6] 给定决策系统DS=〈UCDVf〉,MDS={mij}≠Ø,其分辨函数定义为

    其中,∨mijmij中所有属性的析取式,∧{∨mij}为所有∨mij的合取式.后续描述中在不影响理解时,将FDS(C)简写为FDS.

    定义3[12]  定义aC关于属性集BC的布尔映射函数为

    分辨函数关于属性集BC的布尔映射函数为ρB(FDS(C))=∧{∨ρB(mij):mijMDSmijØ}.

    性质1[12] 给定决策系统DS=〈UCDVf〉, MDS={mij}≠Ø,则ρC(FDS(C))=1.

    由定义3可知对分辨矩阵任意非空元素mij,∨mij关于属性集BC的布尔映射函数为

    对于∀mijMDSmijØ均有mijCØ,故对于分辨矩阵中任意非空元素mij恒有ρC(∨mij)=1,因此分辨函数FDS关于属性集C的布尔映射函数ρC(FDS(C))=∧{ρC(∨mij):mijMDSmijØ}=1.

    定义4[8]  给定决策系统DS=〈UCDVf〉,R(RC)关于D的可辨识关系定义为:DIS(RD)={(xixj)∈U×Uf(xiR)≠f(xjR)∧f(xiD)≠f(xjD)∧(|f([xi]IND(R)D)|=1∨|f([xj]IND(R)D)|=1)}.其中[xi]IND(R)是不可分辨关系R下由对象xi定义的等价类,定义为[xi]IND(R)={xxUf(xR)=f(xiR)}.

    性质2 给定决策系统DS=〈UCDVf〉,RC,则DIS(RD)⊆DIS(CD).

     针对∀(xixj)∈DIS(RD)必有f(xiR)≠f(xjR)且f(xiD)≠f(xjD)且|f([xi]IND(R)D)|=1∨|f([xj]IND(R)D)|=1.由f(xiR)≠f(xjR)可推出f(xjC)≠f(xjC);由RC可得[xi]IND(C)⊆[xi]IND(R),[xj]IND(C)⊆[xj]IND(R),又|f([xi]IND(R)D)|=1∨|f([xj]IND(R)D)|=1,故有|f([xi]IND(C)D)|=1∨|f([xj]IND(C)D)|=1.因此针对∀(xixj)∈DIS(RD)必有f(xiC)≠f(xjC)且f(xiD)≠f(xjD)且|f([xi]IND(C)D)|=1∨|f([xj]IND(C)D)|=1,即(xixj)∈DIS(CD),性质DIS(RD)⊆DIS(CD)得证.

    定义5[8] 对于决策系统DS=〈UCDVf〉,给定目标概念对象集合XUX关于R(RC)的近似精度定义为

    其中,∪{[x]IND(R):[x]IND(R)X}是论域U中通过知识R判断确定属于集合X的元素构成的集合,记为正域POSR(X),显然有0≤$\partial_{R}$(X)≤1.近似精度反映了通过现有知识向目标概念能够逼近的程度,当$\partial_{R}$(X)=1时,X可通过已有知识被精确描述;当$\partial_{R}$(X) < 1时,X仅可通过已有知识被粗糙定义.

    定义6[8] 给定决策系统DS=〈UCDVf〉,若R(RC)满足:

    1) $\partial_{R}$(D)=$\partial_{C}$(D);

    2) ∀aR$\partial$R-{a}(D)≠$\partial_{R}$(D)

    则称R为条件属性集C关于决策属性集D的相对属性约简.相对属性约简的本质在于保持决策系统近似质量不发生改变.

    定理1 给定决策系统DS=〈UCDVf〉,RCDIS(RD)=DIS(CD)的充要条件是$\partial_{R}$(D)=$\partial_{C}$(D).

    证明:

    1) 证明:若DIS(RD)=DIS(CD),则$\partial_{R}$(D)=$\partial_{C}$(D),利用反证法.

    假设$\partial_{R}$(D)≠$\partial_{C}$(D),则$\exists $xiU使得[xi]IND(C)POSC(D)但[xi]IND(R)$\nsubseteq$POSC(D),则$\exists $xj∈[xi]IND(R)使得xj∉[xi]IND(C)f(xiD)≠f(xjD).由[xi]IND(C)POSC(D)可得|f([xi]IND(C)D)|=1,由xj∉[xi]IND(C)可得f(xiC)≠f(xjC),因此有(f(xiC)≠f(xjC))∧(f(xiD)≠f(xjD))∧(|f([xi]IND(C)D)|=1∨|f([xj]IND(C)D)|=1)成立,即(xixj)∈DIS(CD).由xj∈[xi]IND(R)可得f(xiR)=f(xjR),故(xixj)∉DIS(RD). (xixj)∈DIS(CD)但(xixj)∉DIS(RD),这与前提条件DIS(RD)=DIS(CD)矛盾,因此假设不成立,所以$\partial_{R}$(D)=$\partial_{C}$(D).

    2) 证明:若$\partial_{R}$(D)=$\partial_{C}$(D),则DIS(RD)=DIS(CD),利用反证法.

    假设DIS(RD)≠DIS(CD),则由性质1可推出$\exists $xixj∈U使得(xixj)∈DIS(CD)但(xixj)∉DIS(RD).由(xixj)∈DIS(CD)可知有f(xiC)≠f(xjC)且f(xiD)≠f(xjD)且|f([xi]IND(C)D)|=1∨|f([xj]IND(C)D)|=1成立,可推出xixj中至少一个属于POSC(D);由(xixj)∉DIS(RD)可推出有f(xiR)=f(xjR)或者f(xiD)=f(xjD)或者|f([xi]IND(R)D)|>1∧|f([xj]IND(R)D)|>1成立.因为f(xiD)≠f(xjD),所以只可能有f(xiR)=f(xjR)或者|f([xi]IND(R)D)|>1∧|f([xj]IND(R)D)|>1成立,由f(xiD)≠f(xjD)与f(xiR)=f(xjR)可推出xixj两对象均不属于POSR(D),由|f([xi]IND(R)D)|>1∧|f([xj]IND(R)D)|>1也可推出xixj两对象均不属于POSR(D),因此POSR(D)≠POSC(D),因而有$\partial_{R}$(D)≠$\partial_{C}$(D),与前提$\partial_{R}$(D)=$\partial_{C}$(D)相矛盾,因此假设不成立,所以DIS(RD)=DIS(CD).

    根据定理1,可将相对约简定义转换为对应于可辨识关系的等价描述.给定决策系统DS=〈UCDVf〉,若R(RC)为C相对于D的属性约简当且仅当R满足:

    1) DIS(RD)=DIS(CD);

    2) ∀aRDIS(R-{a},D)≠DIS(CD).

    因此,可依据系统的可辨识关系是否变化,作为R(RC)是否为约简的判定标准.

    定理2 给定决策系统DS=〈UCDVf〉,MDS={mij}≠ØRC,则DIS(RD)=DIS(CD)当且仅当ρR(FDS)=ρC(FDS).

    证明:

    1) 证明:若DIS(RD)=DIS(CD)则ρR(FDS)=ρC(FDS).

    对∀mijMDSmijØ,必存在U中对象x′i∈[xi]IND(C)x′j∈[xj]IND(C),使得(x′ix′j)∈DIS(CD),此时mij={aaCf(xia)≠f(xja)}={aaCf(x′ia)≠f(x′ja)}.又已知DIS(RD)=DIS(CD),故当(x′ix′j)∈DIS(RD),则必$\exists $aRf(x′ja)≠f(x′ja)成立,因而有RmijØρR(∨mij)=1.针对∀mijMDSmijØ均有ρR(∨mij)=1,因此ρR(FDS)=∧{ρR(∨mij):mijMDSmijØ}=1.又由性质2得ρC(FDS(a1,…am))=1,因此ρR(FDS)=ρC(FDS).

    2) 证明:若ρR(FDS)=ρC(FDS)则DIS(RD)=DIS(CD).

    先证DIS(CD)⊆DIS(RD).针对∀(xixj)∈DIS(CD),必存在m={aaCf(xia)≠f(xja)}≠Ø使得mMDS.由条件ρR(FDS)=ρC(FDS)与性质1可得ρR(FDS)=1,因此对MDS中任意非空元素m恒有ρR(∨m)=1,即RmØ,因此有f(xiR)≠f(xjR).又由(xixj)∈DIS(CD)可得f(xiD)≠f(xjD)且|f([xi]IND(C)D)|=1∨|f([xj]IND(C)D)|=1,故针对∀(xixj)∈DIS(CD)均有f(xiR)≠f(xjR)且|f([xi]IND(C)D)|=1∨|f([xj]IND(C)D)|=1.

    假设|f([xi]IND(R)D)|>1∧|f([xj]IND(R)D)|>1成立,由|f(;xi]IND(C)D)|=1∨|f([xj]IND(C)D)|=1可知xixj中至少一个属于POSC(D),可令xiPOSC(D)(同理可令xjPOSC(D),证明过程与xiPOSC(D)类似),则$\exists $xkU使得xk∈[xi]IND(R)xk∉[xi]IND(C)f(xiD)≠f(xkD),那么必$\exists $m′∈MDSm′≠Ø其行对应xi列对应[xk]IND(C)中一对象,使得m′={aaCf(xia)≠f(xka)}≠ØRm′=Ø,则有ρR(∨m′)=0故ρR(fDS)=0,与前提ρR(FDS)=ρC(FDS)=1矛盾,故|f([xi]IND(R)D)|>1∧|f([xj]IND(R)D)|>1不成立,即有|f([xi]IND(R)D)|=1∨|f([xj]IND(R)D)|=1成立.因此,针对∀(xixj)∈DIS(CD)均有f(xiR)≠f(xjR)∧f(xiD)≠f(xjD)且|f([xi]IND(R)D)|=1∨|f([xj]IND(R)D)|=1成立,即(xixj)∈DIS(RD),故DIS(CD)⊆DIS(RD).

    又由性质2有DIS(RD)⊆DIS(CD),因此有DIS(RD)=DIS(CD).

    综上所述,当MDS={mij}≠Ø时,DIS(RD)=DIS(CD)的充分必要条件是ρR(FDS)=ρC(FDS),即DIS(RD)=DIS(CD)当且仅当ρR(FDS)=ρC(FDS).

    联立定理1、定理2可得,给定决策系统DS=〈UCDVf〉,MDS={mij}≠Ø,则R(RC)为C相对于D的属性约简当且仅当R满足:①ρR(FDS)=1;②∀aRρR-{a}(FDS)=0.换而言之,若R是保持分辨函数值为真的极小条件属性集,则RC相对于D的一个属性约简.

    性质3 给定决策系统DS=〈UCDVf〉,MDS={mij}≠ØRC,则ρR(FDS)=1当且仅当对∀mijØ均有RmijØ.

     若ρR(FDS)=1,则对∀mijØ均有ρR(∨mij)=1,即RmijØ.若对∀mijØ均有RmijØ,则对∀mijØ均有ρR(∨mij)=1,即ρR(fDS)=1.因此,当MDS={mij}≠Ø时,给定RCρR(FDS)=1的充要条件是对∀mijØ均有RmijØ.

    根据性质3,可将相对约简定义转换为对应于MDS的等价描述.给定决策系统DS=〈UCDVf〉,MDS={mij}≠Ø,则R(RC)为C相对于D的属性约简当且仅当R满足:

    1) ∀mijMDS(mijØ$\Rightarrow $RmijØ);

    2) ∀aR$\exists $mijMDS(mijØ∧(R-{a})∩mij=Ø).

  • 定理2表明,约简对应使分辨函数映射值为真的极小属性集.本节进一步分析分辨集、分辨函数与约简的对应关系,给出相关的定理及证明,并在此基础上设计求取决策系统全体约简的有效算法.

    定理3  令GDS是将分辨函数FDS运用命题逻辑吸收律和分配律等值变换后的极小析取范式(即析取范式中任意两项简单合取式之间不存在属性集包含关系),那么存在hXiC(1≤ih)使得GDS=(∧X1)∨…∨(∧Xh),则决策系统DS的所有约简RED(DS)={X1,…Xh}.

     针对∀Xi∈{X1,…,Xh}(1≤ih),由布尔映射函数定义均有ρXi(∧Xi)=1,因此ρXi(GDS)=1;因GDS中任意2项简单合取式间不会存在属性集包含关系,即对∀XiXj∈{X1,…,Xh}(1≤ijhji)均有Xj-XiØ,则对∀XiXj∈{X1,…Xh}(1≤ijh)与∀aXi均有Xj-(Xi-{a})≠Ø,那么ρXi-{a}(∧Xj)=0,因此对∀aXi均有ρXi-{a}(GDS)=0.又因GDS是将分辨函数FDS运用吸收律和分配律等值变换后的极小析取范式,根据命题逻辑可知对∀BC均有ρB(FDS)=ρB(GDS),因此可将上述性质描述为:对∀Xi∈{X1,…,Xh}(1≤ih)均有ρXi(FDS)=1;对∀aXi均有ρXi-{a}(FDS)=0.因此∀Xi∈{X1,…,Xh}(1≤ih)均是一个约简,即{X1,…,Xh}⊆RED(DS).

    依据定理2,∀RRED(DS)均满足:ρR(FDS)=1;∀aRρR-{a}(FDS)=0.又因GDS是将分辨函数FDS运用吸收律和分配律等值变换后的极小析取范式,根据命题逻辑可知对∀BC均有ρB(FDS)=ρB(GDS).因此∀RRED(DS)均满足:ρR(GDS)=1;∀aRρR-{a}(GDS)=0.由ρR(GDS)=1可知至少存在某项Xi∈{X1,…Xh}(1≤ih)使得RXi,假设存在2项以上则$\exists $XiXj∈{X1,…Xh}(1≤ih,1≤jhij)使得RXiRXj,又XiXj互不包含,则R-XiØ那么必$\exists $aR使得ρR-{a}(∧Xi)=1即$\exists $a∈R(ρR-{a}(GDS)=1),与aRρR-{a}(DDS)=0相矛盾,因此当前仅存在一项Xi∈{X1,…,Xh}(1≤ih)使得RXi,故此时有ρR(GDS)=ρR(∧Xi).又因为ρR(GDS)=1且∀aRρR-{a}(GDS)=0,故有ρR(∧Xi)=1且∀aRρR-{a}(∧Xi)=0,则必有R=Xi.因此针对∀RRED(DS)均存在且仅存在一项Xi∈{X1,…,Xh}(1≤ih)使得R=Xi,即对∀RRED(DS)均有R∈{X1,…,Xh},即RED(DS)⊆{X1,…,Xh}.

    综上所述,若GDS=(∧X1)∨…∨(∧Xh)是将FDS运用吸收律和分配律等值变换后的极小析取范式,则决策系统DS的所有约简RED(DS)={X1,…,Xh}.

    由定理3可知,求取所有约简问题可转化为将分辨函数FDS转化为等价的极小析取范式GDSGDS中每一析取项(极小析取范式中的每一简单合取式∧Xi(1≤ih))对应一个约简,GDS中全体析取项对应决策系统全体约简.为生成分辨函数的极小析取范式,需在等价变换过程中运用命题逻辑吸收律和分配律.相应地,可基于布尔函数操作对求取所有约简集问题建模.

    定义7  给定决策系统DS=〈UCDVf〉,MDS={mij}≠Ø,其分辨集定义为MDS中所有非空元素构成的集合,即分辨集={mijmijMDSmijØ},分辨函数可表示为FDS=F()=∧{∨kk}.

    定义8 给定决策系统DS=〈UCDVf〉,分辨集={mijmijMDSmijØ},其极小分辨集定义为min()={kk∧((∀lkl)→(lk))},即min()是中删除所有超集元素后形成的集合(若某元素lk(kl),则l为超集元素).

    kl则据命题逻辑吸收律可得(∨k)∧(∨l)=(∨k),故有F()=F(-{l}).通过多次使用吸收律,可将分辨集转换为其极小分辨集,因而FDS=F()=F(min()).如此,则可按如下步骤直接得到极小分辨集:①分辨集初始值置空;②若分辨矩阵所有元素提取完毕则转⑤,否则提取分辨矩阵当前元素M(ij);③若中存在某元素包含于M(ij)转④,否则删除中所有包含M(ij)的元素,然后将M(ij)加入;④生成下一当前元素M(ij)转③;⑤结束.操作结束,即为极小分辨集.

    直接生成极小分辨集流程遵循了合取范式的消解原理,因此与原分辨集在求取约简结果上是等价的,且最大限度减少了存储分辨矩阵的元素数目.

    为实现基于分辨矩阵求取全体属性约简的启发式算法,以下先给出分辨集核、分辨集关于特定属性的排除集定义,再给出算法的实现原理及证明.

    定义9  分辨集的核定义为中所有单属性元素构成的集合,即CORE()={kk|k|=1}.

    定理4  CORE()=∩RED(DS),其中RED(DS)为决策系统DS全体约简.

      ①对∀aCORE()可知单属性a对应分辨函数FDS中的一个合取项,由性质3对∀RRED(DS),RC均有ρR(FDS)=1,则必有ρR(a)=1即aR.若aCORE(),则对∀RRED(DS)均有aR,所以CORE()⊆∩RED(DS).

    ② 对∀a∈∩RED(DS),令RED(DS)={X1,…,Xh},则aXi(1≤ih).若决策系统DS仅存在一个约简则GDS=∧X1aX1则单属性a必对应FDS中一合取项,即a则必有aCORE();若DS存在多个约简则可将GDS转化为GDS=(∧X1)∨…∨(∧Xh)=a∧(∧(X1-{a}))∨…∨(∧(Xh-{a})),又因为GDS是将合取范式FDS等值变换后的极小析取范式,故单属性a必对应FDS中一合取项,即单属性a,故aCORE().因此对a∈∩RED(DS)均有aCORE(),即∩RED(DS)∀CORE().

    综合①②可得CORE()=∩RED(DS).

    定义10 给定分辨集Ø,分辨集关于属性a(aC)的排除集定义为:-(a)={k-{a}:(k)∧((k-{a})≠Ø)}.

    性质4 给定极小分辨集Øa中任一非核属性,′=-{k:(k)∧(k∩{a}≠Ø)}.若′≠ØF()=(aF(′))∨(F(min(-(a))));若′=Ø,则F()=(a)∨(F(min(-(a)))).

    证明:

    ① 若′≠Ø,令={1,…,rr+1,…,s}且非核属性ak(1≤kr),ak(r+1≤ks),则

    ② 若′=Ø,令={1,…,r},则对∀k,1≤kr均有非核属性ak,故

    给定极小分辨集Ø,若其子集′≠Ø,则′也是极小分辨集;-(a)不一定为极小分辨集,可将其转化为极小分辨集,且根据命题逻辑可知F((a))与F(min(-(a)))等值.对F(′)与F(min(-(a)))递归运用同样分解过程,F()必能等价转化为析取范式,再应用命题逻辑吸收律可将其化为形如(∧X1)∨…∨(∧Xh)的极小析取范式,依据定理3,{X1,…,Xh}即为决策系统全体约简.

    定理4说明CORE()包含于每一约简,性质4说明,将决策系统约简可分为2类:一类包含非核属性a;另一类不包含非核属性a,那么生成所有约简的整个过程对应由极小分辨集递归构造一棵二叉树的过程:①根结点赋值为CORE(),若中不存在非核属性该结点停止扩展,否则执行②与③;②选择非核属性a,左子树赋值为由分辨集{a}∪(′-CORE())所构造的二叉树;③右子树赋值为由分辨集min((a)-CORE())构造的二叉树.一个包含属性a的约简对应左子树中某条从根结点到叶结点的路径,一个不包含属性a的约简对应右子树中某条从根结点到叶结点的路径,此即为本文基于极小分辨集构造约简树求取全体约简的二分策略;此外,在针对约简树中每一结点向下二分扩展时,以本结点所对应极小分辨集中属性的出现频度作为启发式信息,选取频度最高的非核属性a,可加快约简树的生成过程.基于启发式二分策略的完全约简获取算法具体描述见算法1.

    算法1 基于启发式二分策略的完全约简获取算法

    输入:非空极小分辨集

    输出:决策系统所有约简RED()

    初始化:RED()=Ø(RED()为全局变量)

    Void RED_HBS()

    {cur_red=Ø

    if (=NULL) return;

    if ((|∀k|=1)

      {cur_red=

      将cur_red以吸收方式加入RED();

      }

    else

    {对中每一非核属性计算SIG(b);

      a=max{SIG(b)};

      ′=-{k:(k)∧(k∩{a}≠Ø)};

      ′=′∪{a};

       RED_HBS(′);

       ″=-(a)的极小分辨集;

       RED_HBS(″);

       }//end if

    }//end RED_HBS

    设极小分辨集为={1,…,t},按算法1生成的二叉树结点数为N.算法对每一内部结点,均要计算核属性集CORE()(时间复杂度为O(t)),计算所有非核属性b中的频度信息SIG(b)(时间复杂度不超过O(t·|C|),选择a=max{SIG(b)}的属性a(时间复杂度为O(|C|)),计算-(a)的极小分辨集(时间复杂度不超过O(t2)),又由二叉树性质可得内部结点数为(N-1)/2,故算法对所有内部结点操作的时间复杂度不超过O(N·(t·|C|+t2)),一般情形下|C| << t,因此算法对内部结点操作的时间复杂度不超过O(N·t2);对每个叶子结点均存在一条从根结点到该叶结点的路径,由二叉树特征可得叶子结点数为(N+1)/2,故算法1对所有叶子结点收集候选约简的时间复杂度不超过O(N·|C|),将候选约简以吸收方式加入约简集的时间复杂度不超过O(N2).因此,整个算法时间复杂度不超过O(N·t2+N2).

    文献[11]所提出的扩展法则本质上可归结为按广度优先遍历求解,必须获取约简树全体路径并执行逻辑吸收操作后才能得到全体解,而算法1按深度优先遍历以吸收方式加入当前候选约简cur_red(cur_red是否为约简取决于其是否被吸收),有效地消除了部分非真实约简,因而其耗费存储空间要少于扩展法则.

  • 为进一步验证本文算法的性能,选用UCI机器学习数据库中的若干数据集,CPU为Intel双核2.5 GHz,内存容量为4 G,操作系统为Windows 10,使用Visual Studio 2017实现了相关实验,实验结果见表 1-表 3.

    表 1给出直接提取分辨矩阵元素得到分辨集与直接生成极小分辨集的实验数据对比.其中“元素数目”代表所生成分辨集中的所有元素的数目,“元素长度和”代表所有元素中包含的属性数目之和.实验数据表明,相对于提取分辨矩阵所有元素而言,直接生成极小分辨集大大减少了存储空间.

    表 2针对算法1给出其与不运用启发式信息扩展结点的实验结果对比.其中“生成分辨集时间”表示获取极小分辨集的时间(单位:s),“路径数”表示所构造约简树从根到叶结点的路径数目,“启发式扩展结点”表示使用属性重要度作为启发式信息选择分支属性,“非启发式扩展结点”表示不运用启发式信息而仅按照预先设置的顺序选择分支属性.数据集“zoo”,“ monks-1”,“ tic-tac-toe”与“kr-vs-kp”在是否运用启发式信息求取所有约简的时间上难以体现差别,均小于0.001 s,主要原因在于此4个数据集所构造约简树的路径数目太少且相差不大.对于数据集“soybean-small”与“mushroom”,是否运用启发式信息扩展结点构造约简树的路径数目相差较大,因此前者求取全体约简时间耗费不到后者的1/10.

    表 3给出了运用算法1求取所有属性约简与利用文献[11]中算法(简称扩展法则)求取全体约简所耗费空间(单位:B)的实验对比数据.数据集“zoo”,“ monks-1”,“ tic-tac-toe”与“kr-vs-kp”在2种算法上的初始候选约简集与最终约简集相等,因此所耗费的存储空间无法体现出区别.数据集“soybean-small”与“mushroom”上的实验结果表明算法1所耗费的存储空间比扩展法则少,主要原因在于算法1采取深度优先方式每当探索到候选约简均以吸收方式加入,而扩展法则通过广度优先方式必须找到所有候选约简再吸收生成全体约简.

  • 属性约简是粗糙集理论的重要研究内容,尤其是最小约简对于泛化能力具有重要意义.本文设计了一种构造约简树获取信息系统全体约简的有效算法:该算法提取分辨矩阵元素直接生成极小分辨集,根据启发式信息运用二分策略操作极小分辨集构造一棵约简树,该约简树从根结点到叶结点的每一条路径对应一个候选约简;在约简树的构造过程中采用深度优先遍历以吸收方式加入当前候选约简,当前候选约简是否为约简取决于其是否被吸收,有效地缩减了搜索空间和存储空间.该方法适用于满足任意约简准则的分辨矩阵,能够保证全体约简求解的完备性,理论分析与实验结果说明了算法的可行性与有效性.

参考文献 (12)

目录

/

返回文章
返回