模糊集与粗糙集的简单入门

模糊集与粗糙集的简单入门
1.前言
Zadeh在1965年创立了模糊集理论[1],Pawlak在1982年又给出了粗糙集的概念[2],模糊集理论和粗糙集理论都是研究信息系统中只是不完全,不确定问题的两种方法,是经典集合论的推广,它们各自具有优点和特点,并且分别在许多领域都有成功的应用,如模式识别、机器学习、决策分析、决策支持、知识获取、知识发现等.模糊理论是简历集合的子集边缘的病态定义模型,隶属函数多数是凭经验给出的,带有明显的主观性;粗糙集理论基于集合中对象间的不可分辨行的思想,作为一种刻画不完整想和不确定性的数学工具,它无需任何先验信息,能邮箱分析处理不精确、不完整等不完备信息,对不确定集合的分析方法是客观的.两种理论之间有着密切的关系和很强的互补性,同事粗糙集理论和模糊集理论可以进行结合,产生粗糙模糊集理论和模糊粗糙集理论,并且发挥着不同的优势.
本文在已有的模糊集理论和粗糙集理论的基础之上,分析和总结了模糊集和粗糙集理论,对二者进行了全面的比较.
2.基本概念
这部分将集中介绍模糊集和粗糙集的基本概念及其性质.
2.1模糊集
模糊理论[3][4]是一种用以数学模型来描述语意式的模糊信息的方法.模糊概念也是没有明确外延的概念.根据普通集合论的要求,一个对象对应于一个集合,要么属于,要么不属于,二者必居其一;而模糊集则通常用隶属函数表示模糊概念.
2.1.1模糊集合的基本定义
定义 1 设X是有限非空集合,称为论域,X上的模糊集A用隶属函数表示如下:
→→
A X x A x
:[0,1],()
其中()
A x表示元素x隶属于模糊集合A的程度,记X上的模糊集合全体为F X.
()
模糊集合的数学表示方式为
A x A x X where A x
=∈∈
{(,(x))|},()[0,1]
2.1.2模糊集合的运算
设,A B为X上的两个模糊集,它们的并集,交集和余集都是模糊集,且其隶属函数分别定义为
=∀∈
A B A x B x x X
max{(),()}
A B A x B x x X
=∀∈
min{(),()}
⌝=-
A A
1
2.1.3 模糊集合的关系
A x
B x作为
模糊集合之间关系的表示方式,是以集合所存在的隶属函数(),()
集合之间的关系表示的.
(1)模糊集合之间的相等:
=⇔=∀∈
A B A x B x x X
()()
(2)模糊集合之间的包含:
⊂⇔≤∀∈
()()
A B A x B x x X
2.1.4 截集与支集
定义2 对于()A F X ∈和任意[0,1]λ∈,定义
{}()A x A x λλ=≥
{}()s A x A x λλ=>
分别为A 的λ截集和A 的λ强截集.特别的,当1λ=时,1A 为A 的核;当0λ=时,0s A 为A 的支集.表示为如下:
{}1()()1core A A x A x ===
{}
0()()0s support A A x A x === 则根据上面截集的概念,模糊子集通过λ截集就变成了普通集合.截集就是将模糊集合转化为普通集合的方法,截集的概念是联系模糊集合与普通集合之间的桥梁.
2.2 粗糙集
2.2.1粗糙集合的基本定义
(1)粗糙集合提出的背景
由于经典逻辑只有真假二值之分,而在现实生活中存在许多含糊的现象,并不能简单的用真假值来表示.于是,在1904年,谓词逻辑的创始人G.frege 提出了含糊(vague)一词,他把含糊现象归结到边界线上.
1965年,L.A. Zadeh 提出Fuzzy Sets 的概念,试图通过这一理论解决G.frege 的含糊概念.Zadeh 的FS 方法是利用隶属函数描述边界上的不确定对象.
1982年,波兰华沙理工大学 Z.Pawlak 教授针对G. frege 的边界线区域思想提出了Rough Sets 理论.Pawlak 的RS 方法:把无法确认的个体都归属于边界区域,把边界区域定义为上近似集和下近似集的差集.
(2)粗糙集合的定义
粗糙集理论特点是不需要预先给定默写特征或属性的数量描述,直接从给定的问题的描述集合出发,通过不可分辨关系和不可分辨类确定给定问题的近似域,找出问题内在规律.
定义 2 设(,,,)K X A V f =是一个知识库,其中X 是一个非空集合,称为论域.A C D =是属性的非空有限集合,C 为D 的决策属性,C D =Φ,a V 是属性a A ∈的值域,:f X A V ⨯→是一个信息函数,它为每个对象赋予一个信息值.
定义 3 设X 是一个有限的非空论域,R 为X 上的等价关系,等价关系R 把集合X 划分为多个互不相交的子集,每个子集称为一个等价类,用[]R x 来表示,[]{}R x y X xRy =∈,其中x X ∈,称,x y 为关于R 的等价关系或者不可分辨关系.论域X 上的所有等价类的集合用/X R 来表示.
2.2.2 上、下近似集,粗糙度
(1)上下近似集的定义
定义4 对于任意的Y X ⊆,Y 的R 上、下近似集分别定义为
(){/|}R Y Z X R Z Y =∈≠Φ
(){/|}R Y Z X R Z Y =∈⊆
集合()posR Y 称为集合Y 的正域,()()posR Y R Y =;集合()()negR Y X R X =-称为集合Y 的负域;集合()()()bnR Y R Y R Y =-称为Y 的R 边界域.
集合的不确定性是由于边界域的存在,集合的边界域越大,精确性越低,粗糙度越大. 当()()R Y R Y =时,称Y 为R 的精确集;当()()R Y R Y ≠时,称Y 为R 的粗糙集,粗糙集可以近似使用精确集的两个上下近似集来描述.
(2) 粗糙度
粗糙度是表示知识的不完全程度,由等价关系R 定义的集合X 的粗糙度为:
()1R RX X RX ρ=-
其中X ≠Φ,X 表示集合X 的基数.
3 研究对象、应用领域及研究方法
3.1模糊集的研究对象、应用领域及研究方法
(1) 模糊集的研究对象
模糊集研究不确定性问题,主要着眼于知识的模糊性,强调的是集合边界的不分明性.
(2) 模糊集的应用领域
模糊集理论[5]广泛应用与现代社会与生活中,主要有以下几个方面:消费电子产品、工业控制器、语音辨识、影像处理、机器人、决策分析、数据探勘、数学规划以及软件工程等等.
(3)研究方法
模糊集理论的计算方法是知识的表达和简化.从知识的“粒度”的描述上来看,模糊集是通过计算对象关于集合的隶属程度来近似描述不确定性;从集合的关系来看,模糊集强调的是集合边界上的病态定义,也即集合边界的不分明性;从研究的对象来看,模糊集研究属于同一类的不同对象间的隶属关系,强调隶属程度;从隶属函数来看,模糊集的隶属函数反映了概念的模糊性,而且模糊集的隶属函数大多是专家凭经验给出的,带有强烈的主观意志.
3.2粗糙集的研究对象、应用领域及研究方法
(1)粗糙集的研究对象[6]
粗糙集理论研究不确定性问题,基于集合中对象间的不可分辨性思想,建立集合的子集边缘的病态定义模型.
(2)粗糙集的应用领域
粗糙集理论在近些年得到飞速发展,在数据挖掘,模式识别,粗糙逻辑方面取得较大进展.与粗糙集理论相关的学科主要有以下几方面:人工智能,离散数学,概率论,模糊集理论,神经网络,计算机控制,专家系统等等[7].
(3)粗糙集的研究方法
粗糙集理论的研究方法就是对知识的含糊度的一个刻画,其计算方法主要是连续特征函数的产生.粗糙集理论研究认知能力产生的集合对象之间的不可分辨性,通过引入一对上下近似集合,用它们的差集来描述不确定的对象.从集合的关
系来看,粗糙集强调的是对象间的不可分辨性,与集合上的等价关系相联系;从研究的对象来看,粗糙集研究的是不同类对象组成的集合关系,强调分类;从隶属函数来看,粗糙集的粗糙隶属函数的计算是从被分析的数据中直接获得,是客观的
[8].
4.基本研究内容
4.1 模糊集理论研究的主要内容
模糊集理论研究的内容很广泛,主要包括以下几方面:模糊控制,模糊聚类分析,模糊模式识别,模糊综合评判,模糊集的扩展.
4.1.1 模糊控制 自从Zadeh 发展出模糊集理论之后,对于不明确系统的控制有极大的贡献,自七十年代以后,便有一些实用的模糊控制器相继的完成,使得我们在控制领域中又向前迈进了一大步,在此将对模糊控制理论做一番浅介[6].
模糊控制利用模糊集理论的基本思想和理论的控制方法.在传统的控制领域里,控制系统动态模式的精确与否是影响控制优劣的最主要关键,系统动态的信息越详细,则越能达到精确控制的目的.然而,对于复杂的系统,由于变量太多,往往难以正确的描述系统的动态,于是工程师便利用各种方法来简化系统动态,以达成控制的目的,但却不尽理想.换言之,传统的控制理论对于明确系统有强而有力的控制能力,但对于过于复杂或难以精确描述的系统,则显得无能为力了.所以,模糊集理论便被用来处理这些控制问题.
4.1.2模糊聚类分析
模糊聚类分析的研究是基于模糊等价关系和以及模糊分类上的[4].主要有以下的定理以及定义.
定理1 令R 是一个模糊等价关系,并且01αβ≤<≤,则对y X ∀∈有
[][]R R y y βα⊆.
定义 5 设数据集12{,,,}n X x x x =,且12,,
,c A A A 是其一个分类,若该分类
满足以下条件:
(1) 对k ∀,存在i 使得k i x A ∈;
(2) 对所以i 均有i A ≠Φ;
则称该分类是X 的一个模糊划分.
基于上面的理论,我们可以用一个划分矩阵()ik c n D d ⨯=来刻画数据集的分类,其中
0 , 1 , k i ik k i x A d x A ∉⎧=⎨∈⎩ 定义6 对于上面的矩阵D ,若其满足以下三个条件:
(1){}0,1ik d ∈;
(2)11, c ik i d k ==∀∑;
(3)10, n ik k d i =>∀∑;
则称D 是X 上的一个精确的c -划分矩阵.
定义7 设c 和n 时两个给定的正整数若模糊矩阵()ik c n D d ⨯=满足以下三个条件:
(1) []0,1ik d ∈;
(2) 11, c ik i d k ==∀∑;
(3) 10, n ik k d n i =<<∀∑;
则称D 为X 上的一个模糊的c -划分矩阵.
定义8 设12{,,,}m n X x x x =⊆
,12{,,,}m c V v v v =⊆,()ik c n D d ⨯=()c n ≤是X 上的一个模糊的c -划分矩阵,则 ()211(,)c n p ik i k i k J D V d v x ===-∑∑(p ∈)
称为模糊划分上的一个聚类准则函数,这里
()12()21[]m i i x x
===∑ 定义9 如果对于任意的12{,,
,}m
n X x x x =⊆,存在****12{,,,}m c V v v v =⊆以及模糊的c -划分矩阵*D 使得 **(,)(,)J D V J D V ≤
对所有的12{,,
,}m n X x x x =⊆以及模糊的c -划分矩阵D 都成立,则称*D 为最优模糊c -划分矩阵,*V 为一个模糊聚类中心.
4.1.3模糊模式识别
模糊模式识别是利用模糊集理论对行为的识别.根据识别模式的性质,可以将模式识别分为两类:具体事物的识别,如对文字,音乐,语言等周围事物的识别;抽象事物的识别,如对已知的一个论点或者一个问题的理解等.下面介绍一些基本的定理及定义.
定义10 清晰度增强因子:令()A F X ∈是X 上的一个模糊集,定义另外一个模糊集(2)()()I A F X ∈,其中 2(2)22() , ()[0,0.5]()()12(1()), ()(0.5,1]A x A x I A x A x A x ⎧∈⎪⎨--∈⎪⎩ 称(2)()()I A x 为清晰度增强因子.
4.1.4模糊综合评判
模糊综合评判是利用模糊集理论对一个事物进行评价.具体的过程为:将评价目标看成是由多种因素组成的模糊集合X ,再设定这些因素所能选取的评审等级,组成评语的模糊集合(称为评判集V ),分别求出各单一因素对各个评审等级的归属程度(称为模糊矩阵D ),然后根据各个因素在评价目标中的权重分配,通过计算(称为模糊矩阵合成),求出评价的定量解值.
定义11 设:[0,1][0,1]n f →满足以下几个条件:
(1)1212(,,,)n n x x x x f x x x x ==
==⇒=; (2)(1)(2)(1)(2)111111(,
,,,,,)(,,,,,,)i i i i i n i i i n x x f x x x x x f x x x x x -+-+≤⇒≤,i ∀; (3)12(,,,)n f x x x 对每个变量都是连续的;
则称f 为n -维综合函数. 常用的n -维综合函数主要有加权平均函数,几何平均函数,单因素决策函数,显著因素准则函数等等.
4.2粗糙集理论研究的主要内容
粗糙集理论作为一种数据分析处理理论,无论是在理论方面还是在应用实践方面都取得了很大的进展,展示了它光明的前景,因而其研究内容以及领域也是非常广泛的,主要包括以下几方面:变精度粗糙集,集值信息系统,粗糙集理论的应用,支持向量基等.
4.2.1变精度粗糙集
变精度粗糙集模型[9]是Pawlak 粗糙集模型的扩充,它是在基本粗糙集模型的基础上引入了β(00.5β≤<),即允许一定的错误分类率存在,这一方面完善了近似空间的概率,另一方面也有利于用粗糙集理论从认为不相关的数据集中发现相关的数据.当然,变精度粗糙集模型的主要任务是解决属性间无函数或不确定关系的数据分类问题.当0β=时,Pawlak 粗糙集模型是变精度粗糙集模型的一个特例.
4.2.2集值信息系统
集值信息系统[5]是信息系统的一般化模型,在实际应用中信息系统随着对象的变化而不断地动态变化.
(,)S X AT =是信息系统,其中X 是对象的非空有限集合,AT 是属性的非空有限集合,对于每个a AT ∈有:a a X V →,其中a V 称为a 的值域.
每个属性子集A AT ⊆决定了一个不可区分关系()ind A :
(){(,)|,()()}ind A x y X X a A a x a y =∈⨯∀∈=.
关系()ind A (A AT ⊆)构成了X 的划分,用/()X ind A 来表示.
对于一个对象,一些属性值可能是缺省的.为了表明这种情况,通常给定一个区分值(即空值 null value )给出这些属性
定义12 如果至少有一个属性a AT ∈使得a V 含有空值,则称S 是一个不完备信息系统[5],否则称它是完备的,我们用*表示空值.
设S 是一个不完备信息系统,a AT ∈使得a V 含有空值*时,并且该空值*的取值为一个集合,该集合的元素是这个属性中其他所有可能值的集合,则S 就是集值信息系统.
下面是一个不完备信息系统的例子:
4.2.3 支持向量基
支持向量机(Support Vector Machine,SVM)[10][11]是Corinna Cortes和Vapnik8等于1995年首先提出的.SVM起初是广泛应用在神经信息处理系统(Neural Information Processing Systems,NIPS), 但是,现今,SVM 已经在所有的机器学习研究领域中起着重要作用.
SVM是一种学习系统,他利用高维空间中的线性分类器,在这个空间中建立一个最大的间隔超平面,这里的最大是基于最优化理论的.
广义的SVM起源于统计学习理论[12].
5.模糊集与粗糙集的结合
由上面的讨论可知,模糊集理论与粗糙集理论各具特点,两种理论有着很强的联系与互补性,因此将两者的特点结合起来形成研究不完全数据集的有效方法.
此外,通过模糊聚类和粗糙集两种方法进行属性的对象约简和属性约简,可以使数据得到横向和纵向两个方向上的约简,对象约简是引入了相似性的概念进行模糊聚类的过程,对象约简改变了标准粗糙集模型的不可分辨关系的确定条件;由于粗糙集所处理的都是离散数据,所以在数据分析中需要应用模糊聚类或隶属函数离散化,进而应用粗糙集理论属性约简、提取规则.所以结合模糊集、粗糙集理论能够有效地分析数据,提高生成规则的可信性和和合理性,倒出可信的规则集.
5.1模糊粗糙集及粗糙模糊集
结合模糊集和粗糙集两种理论可以得到模糊粗糙集及粗糙模糊集模型,当知识库中的知识模块是清晰的概念,而被描述的概念是一个模糊的概念,人们建立粗糙模糊集模型来解决此类问题的近似推理;当知识库中的知识模块是模糊知识,
而被近似的概念是模糊概念时,则需要建立模糊粗糙集模型,也有人将普通关系推广称模糊关系或者模糊划分而获得模糊粗糙集模型.
定义13 设R 是X 上的一个等价关系,()A F X ∈,[0,1]λ∈,模糊集A 、A λ以及s A λ的上下近似分别为:
(){|[]},(){|[]}R
R R A x X x A R A x X x A λλλλ=∈≠Φ=∈⊆ (){|[]},(){|[]}s s s s R R R A x X x A R A x X x A λλλλ=∈≠Φ=∈⊆
(){|[]},(){|[]}R
R R A x X x A R A x X x A =∈≠Φ=∈⊆ 可以验证,当A 是X 上的经典集合时,上面所介绍的上下近似就是Pawlak 意
义下的上下近似. 定义14 设R 是X 上的等价关系,A 是X 的一个模糊集合,()A F X ∈,则A 关于R 的上下近似分别定义如下:
()sup{()|[]},()inf{()|[]}R R R R A x A y y x A x A y y x =∈=∈
可以看出,模糊集()A F X ∈关于等价关系R 的上下近似仍为模糊集合,若 R R A A =,则称A 是可定义的,否则称A 是粗糙集,称R A 是A 关于近似空间(,)X R 的正域,称~R A 是A 关于(,)X R 的负域,称(~)R R A A 为A 的边界.R A 可以理解为对象x 肯定属于模糊集A 的隶属程度;R A 理解为对象x 可能属于模糊集A 的隶属程度,同样可以验证,当A 时X 上的经典集合时,就是Pawlak 意义下的上下近似.
在标准粗糙集模型中引入变精度,提高了相对近似精度,而在粗糙模糊集引入变精度,得到新定义:
()sup{()|[]()1}R R A x A y y x A y ββ=∈∧>-
()inf{()|[]()}R R A x A y y x A y ββ=∈∧≥
这样下近似集合中元素隶属度降低,而上近似的隶属度提高,提高了相对精度.
5.2粗糙隶属函数
粗糙隶属函数式借助模糊理论来研究粗糙集理论的方法,通过粗糙隶属度函数可以将粗糙集理论与模糊集理论联系起来,建立一种粗糙集理论与模糊集理论的关系,并得到一些性质.
定义15 设R 是论域X 上的一个相似关系,若A 是X 上的一个模糊集合,则A 关于R 的一个下近似()R A 和上近似()R A 分别定义为X 上的一个模糊集合,称
为粗糙隶属度函数[5],定义为 |[]|()|[]|
R R A x A x x = 粗糙隶属函数表示的是一个模糊概念,一般不是Zadeh 意义下的隶属函数.粗糙隶属函数()A x 表示的是x 的等价类[]R x 隶属于A 的程度.
由定义14和定义15可以得到:模糊集A 的下近似且关于等价关系R 的等价类隶属于A 的程度为1;模糊集A 的上近似且关于等价关系R 的等价类隶属于A 的程度为大于0小于1,因此有:
性质1 1(){|()1,/}Core A A x A x x X R RA ===∈=
0(){|()0,/}s support A A x A x x X R ==>∈
(){|0()1,/}bnR A RA RA x A x x X R =-=<<∈
(){|()0,/}negR A X RA x A x x X R =-==∈
性质2 []()()R y x A x A y ∈⇒=
[]()1R x A A x ⊆⇒=
[]()0R x A A x =Φ⇒=
[] []()(0,1)R R
x A and x A A x ⊄≠Φ⇒∈ 6 总结
本文系统的介绍了模糊集理论与粗糙集理论,二者研究的主要内容,以及二者的结合的相关理论.是对本学期所学的模糊计算和粗糙计算的一个简单的小结,也是我本人对该学科的一个简单的入门.
参考文献
[1] L.A.Zadeh, Fuzzy sets[J], Information and Control, 1965,8:338-353.
[2]Pawlak Z, Rough sets[J], International Journal of Computer and
Information science, 1982,1(11):341-356.
[3]胡宝清,模糊理论基础,武汉:武汉大学出版社,2010.
[4]张文修,模糊数学基础,西安:西安交通大学出版社,1984.
[5]张文修,粗糙集理论与方法,北京:科学出版社,2001
[6] /view/87377.htm
[7]K. Y. Chan, C.K. Kwong, B.Q. Hu, Market segmentation and ideal point
identification for new product design using fuzzy data compression and fuzzy clustering methods[J], Applied Soft Computing, 2012, 12, 1371-1378.
[8]Z.Pawlak, Rough sets and fuzzy sets [J], Fuzzy sets and Systems,
1985,17,99-102.
[9]Beynon M.Reducts within the variable precision rough sets model: a
further investigation[J], European Journal of Operational Research, 2001,134:592-605.
[10]邓乃扬,田英杰,数据挖掘中的新方法:支持向量基,北京:科学出版社,2004.
[11]邓乃扬,田英杰,支持向量基-理论、算法与拓展,北京:科学出版社,2009.
[12]V.Vapnik, Statistical Learning Theory, John Wiley & Sons, 1998.。