留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

基于决策倾向度的样本过滤与主动选择

陈科 唐雪飞

陈科, 唐雪飞. 基于决策倾向度的样本过滤与主动选择[J]. 电子科技大学学报, 2019, 48(3): 427-431. doi: 10.3969/j.issn.1001-0548.2019.03.019
引用本文: 陈科, 唐雪飞. 基于决策倾向度的样本过滤与主动选择[J]. 电子科技大学学报, 2019, 48(3): 427-431. doi: 10.3969/j.issn.1001-0548.2019.03.019
CHEN Ke, TANG Xue-fei. Active Sample Selection Method Based on Decision Making Tendency[J]. Journal of University of Electronic Science and Technology of China, 2019, 48(3): 427-431. doi: 10.3969/j.issn.1001-0548.2019.03.019
Citation: CHEN Ke, TANG Xue-fei. Active Sample Selection Method Based on Decision Making Tendency[J]. Journal of University of Electronic Science and Technology of China, 2019, 48(3): 427-431. doi: 10.3969/j.issn.1001-0548.2019.03.019

基于决策倾向度的样本过滤与主动选择

doi: 10.3969/j.issn.1001-0548.2019.03.019
基金项目: 

四川省重点研发项目 2017GZ0192

详细信息
    作者简介:

    陈科(1981-), 男, 博士, 主要从事计算机软件体系架构、粗糙集论与应用方面的研究.E-mail:schchenke@163.com

  • 中图分类号: TP181

Active Sample Selection Method Based on Decision Making Tendency

  • 摘要: 该文提出了基于过滤函数的粗糙集样本决策倾向度动态调节与主动选择方法。首先定义样本过滤函数,从而确定样本选择或丢弃的依据;然后依次添加新增样本,根据过滤函数决定样本的去留,同时根据阈值指标调节已有样本的决策倾向度;最终建立有效的决策样本库,并在此基础上进行属性约简。本方法克服了传统变精度方法实现过程复杂、计算量大的问题,可有效地去除噪声数据,提高系统的鲁棒性。数据实验结果表明,该方法可以有效地压缩数据,提高样本分析质量。
  • 图  1  数据量与时间关系图

    表  1  样本库$U'$当前状态

    $U$ ${a_1}$ ${a_2}$ ${a_3}$ $d$ $\omega $
    ${x_1}$ 1 0 1 1 0.5
    ${x_2}$ 1 0 1 0
    ${x_3}$ 1 0 0 1 0.6
    下载: 导出CSV

    表  2  更新后样本库

    $U$ ${a_1}$ ${a_2}$ ${a_3}$ $d$ $\omega $
    ${x_1}$ 1 0 1 1 0.6
    ${x_3}$ 1 0 0 1 0.6
    下载: 导出CSV

    表  3  实验样本

    数据集 样本数量 属性数量 决策类数
    Soybean 307+15 35 19
    Kr-vs-Kp 3 196+160 36 2
    Letter 20 000+1 000 16 26
    下载: 导出CSV

    表  4  运行结果

    初始样本数量 过滤后样本数量 约简后属性数量 运行时长/ms
    322 296 32 754
    下载: 导出CSV

    表  5  实验结果

    数据集 初始样本数量 β×100 过滤后样本数量 压缩率/%
    Soybean 322 0.031 296 92
    Kr-vs-Kp 3356 0.029 3 121 93
    Letter 21 000 0.004 7 18 284 87
    下载: 导出CSV
  • [1] PAWLAK Z. Rough sets[J]. International Journal of Computer and Information Science, 1982, 11(5):341-356. doi:  10.1007/BF01001956
    [2] 张文修, 吴伟志, 梁吉业.粗糙集理论与方法[M].北京:科学出版社, 2001:19-23.

    ZHANG Wen-xiu, WU Wei-zhi, LIANG Ji-ye. Rough set theory and method[M]. Beijing:Science Press, 2001:19-23.
    [3] 胡清华, 于达仁.应用粗糙计算[M].北京:科学出版社, 2012:56-60.

    HU Qing-hua, YU Da-ren, Application of rough computing[M]. Beijing:Science Press, 2012:56-60.
    [4] 刘清. Rough集及Rough推理[M].北京:科学出版社, 2001:12-18.

    LIU Qing, Rough sets and Rough reasoning[M]. Beijing:Science Press, 2001:12-18.
    [5] 廖启明, 龙鹏飞.基于属性重要性的粗糙集属性约简方法[J].计算机工程与应用, 2013, 49(15):130-132. doi:  10.3778/j.issn.1002-8331.1111-0320

    LIAO Qi-ming, LONG Peng-fei. Rough set reduction method of attribute based on importance of attribute[J]. Computer Engineering and Applications, 2013, 49(15):130-132. doi:  10.3778/j.issn.1002-8331.1111-0320
    [6] SKOWRON A, RAUSZER C. The discernibility matrices and functions in information systems[M]. Theory & Decision Library, 1992, 11: 331-362.
    [7] 杨明.一种基于改进差别矩阵的属性约简增量式更新算法[J].计算机学报, 2007, 30(5):815-822. doi:  10.3321/j.issn:0254-4164.2007.05.012

    YANG Ming. An incremental updating algorithm for attribute reduction based on improved discernibility matrix[J]. Chinese Journal of Computers, 2007, 30(5):815-822. doi:  10.3321/j.issn:0254-4164.2007.05.012
    [8] GUAN Li-he. An incremental updating algorithm of attribute reduction set in decision tables[C]//2009 Sixth International Conference on Fuzzy Systems and Knowledge Discovery. Tianjin, China: IEEE, 2009: 421-425.
    [9] FENG S R, ZHANG D Z. Increment algorithm for attribute reduction based on improvement of discernibility matrix[J]. Journal of Shenzhen University Science and Engineering, 2012, 29(5):405-411. doi:  10.3724/SP.J.1249.2012.05405
    [10] ZIARKO W. Variable precision rough set model[J]. Journal of Computer and System Sciences, 1993, 46(1):39-59. doi:  10.1016/0022-0000(93)90048-2
    [11] ZIARKO W. Analysis of uncertain information in the framework of variable precision rough sets[J]. Foundations of Computing & Decision Sciences, 1993, 18(3):381-396.
    [12] YANG Y, CHEN D, WANG H. Active sample selection based incremental algorithm for attribute reduction with rough sets[J]. IEEE Transactions on Fuzzy Systems, 2017, 25(4):825-838. doi:  10.1109/TFUZZ.2016.2581186
    [13] YANG Y, CHEN D, WANG H, et al. Fuzzy rough set based incremental attribute reduction from dynamic data with sample arriving[J]. Fuzzy Sets and Systems, 2017, 312:66-86. doi:  10.1016/j.fss.2016.08.001
    [14] DONG Z, SUN M, YANG Y. Fast algorithms of attribute reduction for covering decision systems with minimal elements in discernibility matrix[J]. International Journal of Machine Learning and Cybernetics, 2016, 7(2):297-310. doi:  10.1007/s13042-015-0438-2
    [15] CHEN D, YANG Y, DONG Z. An incremental algorithm for attribute reduction with variable precision rough sets[J]. Applied Soft Computing, 2016, 45:129-149. doi:  10.1016/j.asoc.2016.04.003
    [16] 杨燕燕.基于粗糙集的增量属性约简机理与算法研究[D].北京: 华北电力大学, 2017.

    YANG Yan-yan. Rough set based mechanisms and algorithms for incremental attribute reduction[D]. Beijing: North China Electric Power University, 2017.
    [17] BACHE K, LICHMAN M. UCI machine learning repository[EB/OL].[2017-08-13]: http://archive.ics.uci.edu/ml/datasets.html.
    [18] YAO Y, ZHAO Y. Discernibility matrix simplification for constructing attribute reducts[J]. Information Sciences, 2009, 179(7):867-882. doi:  10.1016/j.ins.2008.11.020
    [19] CHEN D G, ZHAO S Y, ZHANG L. Sample pair selection for attribute reduction with rough set[J]. IEEE Transactions on Knowledge and Data Engineering, 2012, 24(11):2080-2093. doi:  10.1109/TKDE.2011.89
  • [1] 申滨, 徐浪, 周晓勇, 闫伟.  基于最优加权多属性决策的LWA网络接入点选择算法 . 电子科技大学学报, 2020, 49(3): 445-452. doi: 10.12178/1001-0548.2019110
    [2] 陈玉明, 朱清新, 曾志强, 孙金华, 唐朝辉.  基于邻域粗糙集与鱼群智能的基因选择方法 . 电子科技大学学报, 2018, 47(1): 99-104. doi: 10.3969/j.issn.1001-0548.2018.01.015
    [3] 宋明秋, 王琳, 姜宝彦, 邓贵仕.  多属性泛化的K-匿名算法 . 电子科技大学学报, 2017, 46(6): 896-901. doi: 10.3969/j.issn.1001-0548.2017.06.018
    [4] 薛金蓉, 张洪斌.  等价类中弱函数依赖的粗糙集度量 . 电子科技大学学报, 2013, 42(6): 935-938. doi: 10.3969/j.issn.1001-0548.2013.06.024
    [5] 张贤勇, 熊方, 莫智文, 程伟.  程度与精度的逻辑差粗糙集模型 . 电子科技大学学报, 2010, 39(5): 783-787. doi: 10.3969/j.issn.1001-0548.2010.05.028
    [6] 雷霖, 代传龙, 王厚军.  基于互信息的无线传感器网络节点故障自诊断 . 电子科技大学学报, 2009, 38(5): 696-699. doi: 10.3969/j.issn.1001-0548.2009.05.030
    [7] 关欣, 孙迎丰, 何友.  不完备信息系统的辐射源识别方法研究 . 电子科技大学学报, 2008, 37(1): 8-10,30.
    [8] 于泠, 陈波.  入侵数据特征并行选择算法 . 电子科技大学学报, 2008, 37(2): 266-269.
    [9] 雷霖, 代传龙, 王厚军, 赵旭.  粗糙集-神经网络集成的WSN节点故障诊断 . 电子科技大学学报, 2008, 37(4): 565-568.
    [10] 李艳玲, 戴冠中, 覃森.  快速的文本倾向性分类方法 . 电子科技大学学报, 2007, 36(6): 1232-1236.
    [11] 张增军, 李向阳, 肖军模.  基于粗糙集理论的数据库推理控制 . 电子科技大学学报, 2007, 36(3): 528-530,537.
    [12] 吕士颖, 郑晓鸣, 王晓东.  基于免疫量子粒子群优化的属性约简 . 电子科技大学学报, 2007, 36(6): 1268-1272.
    [13] 李金海, 吕跃进.  决策系统的快速属性约简算法 . 电子科技大学学报, 2007, 36(6): 1237-1240.
    [14] 匡胤, 黄迪明.  基于抗体网络的邮件过滤器设计 . 电子科技大学学报, 2006, 35(5): 811-814.
    [15] 吴斌, 郭贤生.  基于粗集规则编码的神经网络控制器设计 . 电子科技大学学报, 2006, 35(5): 798-800,836.
    [16] 彭宏.  基于粗糙集理论的入侵检测方法研究 . 电子科技大学学报, 2006, 35(1): 108-110,136.
    [17] 舒兰, 赵磊.  粗糙集的模糊性 . 电子科技大学学报, 2005, 34(1): 124-126.
    [18] 张选芳.  Internet网络安全的信息过滤模型分析 . 电子科技大学学报, 2004, 33(3): 270-272.
    [19] 王德松, 舒兰.  粗集决策表与决策表简化的可信度比较 . 电子科技大学学报, 2004, 33(5): 611-613.
    [20] 赵磊, 舒兰.  模糊粗糙集的分解定理 . 电子科技大学学报, 2001, 30(6): 647-650.
  • 加载中
图(1) / 表(5)
计量
  • 文章访问数:  4667
  • HTML全文浏览量:  1388
  • PDF下载量:  92
  • 被引次数: 0
出版历程
  • 收稿日期:  2018-05-21
  • 修回日期:  2018-11-15
  • 刊出日期:  2019-05-30

基于决策倾向度的样本过滤与主动选择

doi: 10.3969/j.issn.1001-0548.2019.03.019
    基金项目:

    四川省重点研发项目 2017GZ0192

    作者简介:

    陈科(1981-), 男, 博士, 主要从事计算机软件体系架构、粗糙集论与应用方面的研究.E-mail:schchenke@163.com

  • 中图分类号: TP181

摘要: 该文提出了基于过滤函数的粗糙集样本决策倾向度动态调节与主动选择方法。首先定义样本过滤函数,从而确定样本选择或丢弃的依据;然后依次添加新增样本,根据过滤函数决定样本的去留,同时根据阈值指标调节已有样本的决策倾向度;最终建立有效的决策样本库,并在此基础上进行属性约简。本方法克服了传统变精度方法实现过程复杂、计算量大的问题,可有效地去除噪声数据,提高系统的鲁棒性。数据实验结果表明,该方法可以有效地压缩数据,提高样本分析质量。

English Abstract

陈科, 唐雪飞. 基于决策倾向度的样本过滤与主动选择[J]. 电子科技大学学报, 2019, 48(3): 427-431. doi: 10.3969/j.issn.1001-0548.2019.03.019
引用本文: 陈科, 唐雪飞. 基于决策倾向度的样本过滤与主动选择[J]. 电子科技大学学报, 2019, 48(3): 427-431. doi: 10.3969/j.issn.1001-0548.2019.03.019
CHEN Ke, TANG Xue-fei. Active Sample Selection Method Based on Decision Making Tendency[J]. Journal of University of Electronic Science and Technology of China, 2019, 48(3): 427-431. doi: 10.3969/j.issn.1001-0548.2019.03.019
Citation: CHEN Ke, TANG Xue-fei. Active Sample Selection Method Based on Decision Making Tendency[J]. Journal of University of Electronic Science and Technology of China, 2019, 48(3): 427-431. doi: 10.3969/j.issn.1001-0548.2019.03.019
  • 文献[1]在1982年提出的粗糙集理论在人工智能、数据挖掘等前沿领域都有着重要的应用价值。属性约简在粗糙集理论中占有核心地位,目前常用的方法主要是采用启发式算法的属性重要度计算[2-5]并基于此的属性约简。文献[6-9]充分考虑样本结构,引入了辨识矩阵方法,通过构造辨识函数,计算极小元素,获得决策表的约简结果,比之前的代数方法具有更高的约简精度。

    无论采用何种算法,粗糙集属性约简面临两大难题:1)属性约简对噪声非常敏感,噪声数据不仅增加了计算量,更导致约简结果的偏差;2)约简过程是NP难问题,面对海量数据集,需要付出指数级的计算代价。为了提高抗噪声能力,文献[10-11]提出了变精度粗糙集模型,引入$\beta $-上、下近似,其中是包含度阈值。变精度粗糙集能够容忍数据中的噪声,从而在一定程度上具有鲁棒性。变精度模型的最大问题是比经典粗糙集更庞大的计算量,处理大规模数据集的效率非常低下。为了提高粗糙集属性约简的效率,文献[12-15]基于辨识矩阵,提出了基于主动样本选择的粗糙集属性约简增量算法。通过设计主动样本选择机制,将加入样本归为相对于当前数据集为有用和无用样本。无用样本被永久性地过滤,从而在增量计算的过程中不予考虑;有用样本将被选择来执行增量计算,确定有信息量的属性需要加入当前约简,从而提高属性约简速度。文献[16]详细给出了增量属性约简的算法过程。

    增量算法的最大问题在于大量样本在添加过程中被判定为“无用”样本被丢弃掉了,而事实上这些样本对决策有重要影响;另一方面,一些噪声数据却被当作有用样本参与属性约简计算,导致计算结果的偏差。为了解决以上问题,基于样本增量过程,引入过滤函数和决策倾向度指标,在提高属性约简速度的同时,提高系统的抗噪性能。

    • 令$U = \{ {x_1},{x_2}, \cdots ,{x_n}\} $为一个非空有限论域,$A = \{ {a_1},{a_2}, \cdots ,{a_m}\} $是条件属性集合,$D = \{ d\} $是决策属性集合,则$(U,A \cup D)$称为一个决策表。函数$a({x_i})$为${x_i}$的全部属性值集合,$d({x_i}) = {d_i}$是数据${x_i}$对应的决策,对任意$x \in U$,其等价类$[x] = \{ y \in U:$ $(x,y) \in U \times U,a(x) = a(y)\} $。

      $\forall {x_i},{x_j} \in U,{x_i} \ne {x_j}$,如果$a({x_i}) = a({x_j})$且$d({x_i}) = d({x_j})$,则称样本${x_i}$和${x_j}$是一致的。

      对于任意的$B \subseteq A$,定义$B$的等价关系${\rm{IND}}(B) = \{ (x,y) \in U:a(x) = a(y),\forall a \in B\} $。${\rm{IND}}(B)$将论域$U$划分为等价类簇$U/{\rm{IND}}(B) = \{ {[x]_B}:$ $x \in U\} $。设$U/{\rm{IND}}(D) = \{ {D_1},{D_2}, \cdots ,{D_r}\} $,则${D_i}$的$B$下近似定义为:$\underline B {D_i} = \cup \{ {[x]_B}:{[x]_B} \cap {D_i} \ne \emptyset \} $,正域${\rm{PO}}{{\rm{S}}_U}(B,D) = \cup _{k = 1}^r\underline B {D_k}$。

      属性子集$B$是$A$的一个约简(记作${\rm{RED}}(A)$),当且仅当以下条件满足:

      $$\left\{ \begin{gathered} {\rm{PO}}{{\rm{S}}_U}(B,D) = {\rm{PO}}{{\rm{S}}_U}(A,D) \\ {\rm{PO}}{{\rm{S}}_U}(B - \{ a\} ,D) \ne {\rm{PO}}{{\rm{S}}_U}(A,D){\rm{ }}\forall a \in B \\ \end{gathered} \right.$$

      所有约简结果的交集称为核属性:${\rm{CORE}}(A) = \cap {\rm{RED}}(A)$。

      辨识矩阵${\mathit{\boldsymbol{M}}}$是由所有$t(x,y)$组成的集合矩阵,其中$t(x,y)$的定义为:

      $$ t(x,y) = \left\{ \begin{array}{l} \{ a:a(x) \ne a(y)\} {\rm{ }}(x,y) \in {\mathit{\Gamma} } \\ \emptyset ~~~~其他 \end{array} \right. $$

      其中:

      $$\begin{gathered} {\mathit{\Gamma} } = \{ ({x_i},{x_j}) \in U \times U\} : \\ \left\{ \begin{gathered} {x_i} \in {\rm{PO}}{{\rm{S}}_U}(A,D),{x_j} \notin {\rm{PO}}{{\rm{S}}_U}(A,D) \\ {x_i} \notin {\rm{PO}}{{\rm{S}}_U}(A,D),{x_j} \in {\rm{PO}}{{\rm{S}}_U}(A,D) \\ {x_i},{x_j} \in {\rm{PO}}{{\rm{S}}_U}(A,D),d({x_i}) \ne d({x_j}) \\ \end{gathered} \right. \\ \end{gathered} $$

      $t(x,y)$是区分$x$和$y$的辨识属性集合。显然矩阵${\mathit{\boldsymbol{M}}}$是对称的。若不存在$t({x_i},{x_j}) \in {\mathit{\boldsymbol{M}}}$是$t(x,y)$的真子集,则称$t(x,y)$是${\mathit{\boldsymbol{M}}}$的一个极小元素。文献[6]证明,粗糙集约简结果是区分${\mathit{\Gamma} } $中所有样本对的极小属性子集。

    • 样本增量,意味着样本集并非一次性准备好,而是逐步添加的过程。样本主动选择,是指系统将根据规则自动筛选有用的样本,淘汰无用的样本,并根据有用样本计算属性约简。

      在样本增量添加过程中,可能出现4种情况(设$x$是一个新增样本):

      1) 新样本$x$与已有样本库中某些不一致样本有着相同的属性值。

      2) 新样本$x$与已有样本库中某些一致样本有相同的属性和决策。

      3) 新样本$x$与已有样本库中一致样本有相同的属性值,但决策值不同。

      4) 新样本$x$与已有样本库中任意样本都有着不同的属性值。

      文献[16]在进行增量约简计算时,将情况1)和情况2)作为无用样本直接丢弃,情况3)和4)作为有用样本参与运算。然而,情况1)和2)虽然表面上对属性约简没有影响,事实上这些新样本改变了已有样本库中同属性值样本的出现频率,而被当作有用样本的情况3),也可能是噪声数据本应当被去除。

      为了解决以上问题,本文引入新样本过滤函数,以及已有样本的决策倾向度指标,保持增量约简算法高效的同时,提高系统的鲁棒性。

    • $\forall {x_i} \in U$,定义决策倾向度$\omega ({x_i}) = {\omega _i} \in (0,1)$,所有决策倾向度值集合$\Omega = \{ \omega ({x_i}),{x_i} \in U\} $。因此,决策表可扩展为$(U,A \cup D \cup \Omega )$。

      在相同属性条件下,决策倾向度值越大,越倾向于采用该决策,反之,决策倾向度值越小,对决策影响越弱,当某个$\omega $值低于阈值$\beta $时,将被当作噪声剔除。

      定义初始倾向度数据集${\Omega _0} = \{ {\omega _0}(a,d):\forall a \in A,$ $d \in D\} $。即为每一组属性及对应决策值定义一个先验值${\omega _0}$,其取值规则可根据不同样本的概率分布进行预置,比如对于最简单的均匀分布,可设置$\forall {x_i} \in U,{\omega _0}({x_i}) = 1/\left| U \right|$。

      随着新样本$x$的到来,$\omega ({x_i})$的值会进行更新,新值的计算结果由样本主动选择过程及过滤函数$f(x)$决定。

      设已有样本库为$U$,新样本$x$到来后,新样本库为$U' = U \cup \{ x\} $。

      $\forall \chi \in U'$,其决策倾向度$\omega (\chi )$规则如下:

      $$ \omega (\chi ) = \left\{ \begin{array}{l} {\omega _0}(a(x),d(x)){\rm{ }}\chi = x且\{ y \in U:a(y) = a(x),d(y) = d(x)\} = \emptyset {\rm{ }}①{\rm{ }}\\ \omega '(y) = \omega (x) = f(\omega (y)) = \omega (y) + {\Delta ^ + }( \cdot ){\rm{ }}\chi \in \{ x\} \cup \{ y \in U:a(y) = a(x),d(y) = d(x)\} {\rm{ }}②\\ \omega '(y) = f(\omega (y)) = \omega (y) - {\Delta ^ - }( \cdot ){\rm{ }}\chi \in \{ y \in U:a(y) = a(x),d(y) \ne d(x)\} {\rm{ }}③ \end{array} \right. $$

      式①~③指定了新样本$x$到来时,样本主动选择过程:

      1) $x$是一个全新的样本,符合情况4),即样本库$U$中不存在与$x$具有相等属性和决策值的样本,则直接将$x$添加到样本库,并取$\omega (x) = {\omega _0}(a(x),$ $d(x))$。

      2) 样本库$U$中存在与$x$属性和决策相等的样本$y$,符合情况2),当前$y$的决策倾向度为$\omega (y)$。由于$x$和$y$样本是一致的,因此$x$和$y$具有相等的决策倾向度,$x$无需加入到样本库中,并且这些样本的决策倾向度将得到增强:$\omega '(y) = \omega (x) = f(\omega (y)) = $ $\omega (y) + {\Delta ^ + }( \cdot )$。其中${\Delta ^ + }( \cdot ) \in (0,1)$是决策增强函数。对于均匀分布,可取${\Delta ^ + }( \cdot ) = 1/\left| U \right|$。

      3) 样本库$U$中存在与$x$属性相等,但决策值不同的样本$y$,符合情况3)。此时新样本$x$的决策倾向度$\omega (x)$按照式①计算,而样本$y$则受$x$到来的影响,决策倾向度将降低,降低程度由函数${\Delta ^ - }( \cdot )$确定,即:$\omega '(y) = f(\omega (y)) = \omega (y) - {\Delta ^ - }( \cdot )$。对于均匀分布,可取${\Delta ^ - }( \cdot ) = \omega (y)/\left| U \right|$,即$\omega '(y) = f(\omega (y)) = \omega (y) \times $ $(1 - 1/\left| U \right|)$。

      4) 对于情况1),事实上是式②和式③同时存在的状态,由于样本库中已经存在同属性值的样本,新样本$x$不会加入到样本库中,但式②会增强样本库中那些与$x$同决策值的$\omega $,同时削弱那些与$x$不同决策的样本$\omega $值。

      5) 过滤:设定阈值$\beta $,$\forall \chi \in U'$,样本$\chi $将从样本库中删除当且仅当$\omega (\chi ) < \beta $,即:新样本库${U_{{\rm{update}}}} = U' - \{ \chi :\omega (\chi ) < \beta ,\chi \in U'\} $。根据经验,$\beta $的取值一般在$0.1/\left| U \right|$~$0.3/\left| U \right|$之间。

      式①~式③涵盖了样本增量的所有情况,与文献[16]不同的是,任何新样本都不会是“无用样本”被直接丢弃,由于决策倾向度和过滤函数的引入,随着新样本的到来,一致样本的决策得到巩固和加强,不一致样本决策得到削弱,在过滤同质样本(同属性同决策样本)的同时,“极少数决策”(阈值以下样本)也将视作噪声被过滤掉,达到压缩样本、去除噪声的双重目的。

      主动样本选择算法描述如下:

      输入:原始决策表$(U,A \cup D \cup \Omega )$,阈值$\beta $

      输出:新决策表$U'$

      bool ${\rm{is\_new = true}}$, $U' = \emptyset $ //初始化

      for $x$ in $U$//从原始决策表$U$依次取出样本$x$

      for $y$ in $U'$

      if $a(y) = a(x)$ and $d(y) = d(x)$

      ${\rm{set is\_new = false}}$ //样本库中存在一致样本

      ${\rm{set }}\omega (y) = f(\omega (y)) = \omega (y) + {\Delta ^ + }( \cdot )$ //更新$\omega (y)$

      else if $a(y) = a(x){\rm{ and }}d(y) \ne d(x)$

      ${\rm{set }}\omega (x) = {\omega _0}(a(x),d(x))$

      ${\rm{set }}\omega (y) = f(\omega (y)) = \omega (y) - {\Delta ^ - }( \cdot )$

      end if

      if $\omega (y) < \beta $

      $U' = U' - \{ y\} $ //从$U'$中删除样本$y$

      end if

      end for y

      if ${\rm{is\_new = true}}$ and $\omega (x) \geqslant \beta $

      ${\rm{set }}\omega (x) = {\omega _0}(a(x),d(x))$

      $U' = U' \cup \{ x\} $ //将新样本$x$添加到$U'$中

      end if

      end for x

      return U'

      示例:根据样本增量选择算法,新样本是从原样本库$U$中依次添加到新库$U'$中的,假设经过若干次样本添加后,样本库$U'$当前状态如表 1所示。

      表 1  样本库$U'$当前状态

      $U$ ${a_1}$ ${a_2}$ ${a_3}$ $d$ $\omega $
      ${x_1}$ 1 0 1 1 0.5
      ${x_2}$ 1 0 1 0
      ${x_3}$ 1 0 0 1 0.6

      继续添加新样本。设$x = (1,0,1,1)$是后续新样本,显然已有样本库中${x_1}$与$x$是一致样本,而${x_2}$是不一致样本。设${\Delta ^ + } = 0.1$,${\Delta ^ - } = 0.05$,$\beta = 0.28$,则根据过滤规则,各样本决策倾向度变化为:

      $$ \omega (\chi ) = \left\{ \begin{array}{l} \omega ({x_1}) = \omega (x) = 0.5 + 0.1 = 0.6\\ \omega ({x_2}) = 0.3 - 0.05 = 0.25\\ \omega ({x_3}) = 0.6(保持不变) \end{array} \right. $$

      由于$\omega ({x_2}) < \beta $,样本${x_2}$将被视为噪声过滤掉,更新后新样本库如表 2所示。

      表 2  更新后样本库

      $U$ ${a_1}$ ${a_2}$ ${a_3}$ $d$ $\omega $
      ${x_1}$ 1 0 1 1 0.6
      ${x_3}$ 1 0 0 1 0.6
    • 为了验证过滤函数和决策倾向度规则的有效性,选取来自于UCI数据库[17]的3种不同数量级的样本:Soybean、Kr-vs-Kp、Letter。

    • 为了检验算法的去噪能力,为每个数据集加入5%的随机噪声。

      噪声数据$\eta $满足条件$\{ x:x \in U,a(x) = a(\eta )\} \ne \emptyset $但$\{ x:x \in U,a(x) = a(\eta ),d(x) = d(\eta )\} = \emptyset $,即数据集中不存在与噪声属性相等且决策相等的一致样本。

      数据集信息如表 3所示(样本数量加号后面是人为增加的噪声数量)。

      表 3  实验样本

      数据集 样本数量 属性数量 决策类数
      Soybean 307+15 35 19
      Kr-vs-Kp 3 196+160 36 2
      Letter 20 000+1 000 16 26
    • 为了说明算法的运行过程,以Soybean为例,说明数据集增量式主动选择过程。关于Soybean样本的描述可参见表 3。算法步骤如下:

      1) 初始化决策表$(U,A \cup D \cup \Omega )$,其中$\left| U \right| = 322$,$\left| A \right| = 35$,$\left| D \right| = 19$。新决策表$U' = \emptyset $。设初值${\omega _0} = 1/\left| U \right| = 3.1 \times {10^{ - 3}},\beta = 0.1/\left| U \right| = 3.1 \times {10^{ - 4}}$,$\Delta = 1/\left| U \right| = 3.1 \times {10^{ - 3}}$。

      2) 依次取出样本$x \in U$,对已经加入新样本库的所有$y \in U'$,按照以下规则进行计算:

      ① 若$x$是全新样本,即$\forall y \in U',a(y) \ne a(x)$,则直接将$x$添加到新样本库$U'$。

      ② 若$a(y) = a(x),d(y) = d(x)$,即是一致样本,则更新$\omega '(y) = \omega (y) + \Delta $,并丢弃样本$x$。

      ③ 如$a(y) = a(x),d(y) \ne d(x)$,即不一致,则将样本$x$加入到$U'$中,并更新$\omega '(y) = $ $\omega (y)(1 - 1/\left| U \right|)$,若$\omega '(y) < \beta $,则从$U'$中删除样本$y$。

      3) 经过增量添加和过滤,得到新样本库$U'$,根据文献[18]的方法构造辨识矩阵${\mathit{\boldsymbol{M}}}$,并按照文献[19]实现的样本对选择算法,计算数据集的核属性及属性约简,计算依据为:${\rm{CORE}}(U') = \{ a:t(x,y) = a\} $,即约简核是辨识矩阵中所有单元素集合的并集。文献[19]给出了该计算依据的详细证明过程。

      本实例的运行结果如表 4所示。

      表 4  运行结果

      初始样本数量 过滤后样本数量 约简后属性数量 运行时长/ms
      322 296 32 754
    • 本实验采用样本增量过滤计算方法,表 5列出了各数据样本的实验结果。

      表 5  实验结果

      数据集 初始样本数量 β×100 过滤后样本数量 压缩率/%
      Soybean 322 0.031 296 92
      Kr-vs-Kp 3356 0.029 3 121 93
      Letter 21 000 0.004 7 18 284 87

      实验结果表明,人为加入的噪声数据都得到了有效地过滤,并且同时也清除了了原样本中的噪声和重复数据。

      图 1显示了3个数据集的数据量和运行时间(单位ms)的对比关系,从图上可以看出,过滤时间不会随着样本数据的增加而急剧增长。

      图  1  数据量与时间关系图

    • 通过引入决策倾向度指标,可以很方便地量化在不同属性值条件下,每种决策的可靠程度,通过设计过滤函数,为每一份新增的样本计算决策倾向度,并根据阈值指标决定是否过滤该样本,同时刷新已有样本库的决策倾向度,随着样本的增加,可以很好地加固稳定决策,同时去除噪声数据,实验证明,该方法可以有效地压缩数据,提高样本分析质量。

参考文献 (19)

目录

    /

    返回文章
    返回