最新人工神经网络第四章ART课件ppt

n
n
N0XTtj* tij*xi ci
ຫໍສະໝຸດ Baidui1
i1
，该比较结果C’反映了在匹配阶段R
设输入模式样本中的非零分量数为：
层竞争排名第一的模式类的典型向量 与当前输入模式X 的相似程度。相似
n
N1 xi
程度的大小可用相似度N0 反映，定义
i 1
为：
4.5.1.2 网络运行原理
(2)比较阶段
用于比较的警戒门限为ρ，在0～1范围取值。检查输入模式与模式类典
型向量之间的相似性是否低于警戒门限，如果有
网
络
N0/N1<ρ
运
行
则X与的相似程度不满足要求，网络发出 Reset 信号使第一阶段的匹配失败
原 理
，竞争获胜节点无效，网络进入搜索阶段。如果有
N0/N1>ρ
表明X与获胜节点对应的类别模式非常接近，称X 与 T j * 发生“共振”，第一
阶段的匹配结果有效，网络进入学习阶段。
j=1,2,…，m
(4.22)
i1
选择具有最大匹配度(即具有最大点积)的竞争获胜节点：
nej*tmj a{nxej}t
使获胜节点输出 r j * =1，其它节点输出为0。
4.5.1.2 网络运行原理
(2)比较阶段
R层输出信息通过外星向量返回
R层
……
到C层。R 层获胜节点所连的外星权
t1j tij tnj
自
提出自适应共振理论(Adaptive Resonance
适 应
Theory，缩写为ART)，他多年来一直试图为
共 振 理 论
人类的心理和认知活动建立统一的数学理论， ART就是这一理论的核心部分。随后 G.A.Carpenter又与S.Grossberg提出了ATR网络。
共振现象的一些例子
4.5.1.1网络系统结构
G1=1，反馈回送信号为0，C层输出 应由输入信号决定，有C=X。
反馈回送信号不为0，G1=0，C层输 出应取决于输入信号与反馈信号的比较
情况，如果xi=，则ci=xi。否则ci=0。
4.5.1.1网络系统结构
（2）R层结构
R 层有m 个节点，用以表示m 个输
入模式类。m可动态增长，以设立新
模式类。
R层
……
网
络
系 统
t1j tij tnj
结 构
c1
ci
cn
…
…
G1
x1
xI
xn
(1)C 层结构
该层有n个节点，每个节点接受来自
3个方面的信号：
来自外界的输入信号xi； 来自R 层获胜神经元的外星向量的返 回信号Tj； 来自G1的控制信号。
C 层节点的输出ci是根据2/3的“多 数表决”原则产生的，即输出值ci与xi 、tij 、G1 3个信号中的多数信号值相同 。
内外星权向量，以使其以后遇到与当前输入模式接近的 样本时能得到更大的相似度；对其它权值向量则不做任
原 理
何变动。
②相似度不超过门限值
需在网络输出端设立一个代表新模式类的节点， 用以代表及存储该模式，以便于参加以后的匹配过程。
4.5.1.2 网络运行原理
对于每一个输入，模式网络运行过程可归纳为四个阶段：
行 原
由于上次获胜的节点受到持续的抑制，此次获胜的必然是上次匹配程
理 度排在第二的节点，将该节点对应的外星权向量与输入模式进行匹配计算
。如果对R层所有的模式类，在比较阶段的相似度检查中相似度都不能满
网 络 系
由C 层向上连接到R 第j 个节点的 内星权向量用Bj=（b1j，b2j，…,bnj
统
）表示。
结
C 层的输出向量C 沿m个内星权向
构
量Bj(j=1,2,…,m)向前传送，到达R
层各个神经元节点后经过竞争在产
生获胜节点j*，指示本次输入模式的
所属类别。
获胜节点输出=1，其余节点输出为 0。R 层各模式类节点的典型向量。
种事先设定的测量标准，与X未达到预先设定的相似度ρ，表明两
者未充分接近，于是系统发出Reset信号使竞争获胜神经元无效。
4.5.1.2 网络运行原理
相似程度可能出现的两种情况：
①相似度超过参考门限
选该模式类作为当前输入模式的代表类。权值调
网 整规则是，相似度超过参考门限的模式类调整其相应的
络 运 行
(1)匹配阶段
网络在没有输入之前处于等待状态，此时输入端X＝0，因此信
网
号G2＝0，R0= 0。当输入不全为0的模式X 时，G2＝1，R0=0，使得
络 运
G1==1。G1为1时允许输入模式直接从C层输出，并向前传至R 层，
行 原 理
与R 层节点对应的所有内星向量Bj 进行匹配计算：
n
nejtBTj X bijxi
网 络
•控制信号G1的作用是在网络开始运行时为1，以使C=X，其后为0以
系 使C 值由输入模式和反馈模式的比较结果决定。设R 层输出向量各
统 结
分量的逻辑“或”用R0表示，则信号G1G=2 R0 ，当R 层输出向量R
构 的各分量为全0而输入向量X不是零向量时，G1=1，否则G1=0。
•控制信号Reset的作用是使R层竞争获胜神经元无效，如果根据某
人工神经网络第四章ART
思考并回答以下几个问题
神经网络的学习和记忆特性
学习过程的本质？ 网络将知识存储（记忆）在什么地方？ 对于感知器/BP网络/SOM网络学习时，当新样
本输入时，权值的改变对旧样本的影响是什么？
自适应共振理论（ART）
历史
1976年，美国Boston大学学者G.A.Carpenter
网
向量激活，从节点j* 发出的n个权值
络 信号返回到C 层的n个节点。此时，R
c1
ci
…
cn
…
运 行 原
层输出不全为零，R0=1，而G1==0，所 G 1 以C 层最新输出状态C’取决于由R 层
x1
xI
xn
理 返回的外星权向量和网络输入模式X
的比较结果，即，i=1,2,…,n。由于 外星权向量是R 层模式类的典型向量
r1
…
rj
rm
…
… … … … b11 b1j b1m bn1 bnj bnm … … bi1 bij bim ……
C
层
4.5.1.1网络系统结构
(3)控制信号
•控制信号G2的作用是检测输入模式X 是否为0，它等于X 各分量的
逻辑“或”，如果xi(i =1,2,…,n)为全0，则G2=0，否则G2=1。
4.5.1.2 网络运行原理
(3)搜索阶段
网络发出Reset 重置信号后即进入搜索阶段，重置信号的作用是使前
面通过竞争获胜的神经元受到抑制，并且在后续过程中受到持续的抑制，
网 直到输入一个新的模式为止。由于R 层中的竞争获胜的神经元被抑制，从
络 运
而再度出现R0=0，G1=1，因此网络又重新回到起始的匹配状态。