人工神经网络及其应用第 5讲 Hopfield网络何建华电信系，华中科技大学
2003年 3月 3日
2009-7-25
2
一、反馈网络二,Hopfield网络简介三,DHNN网络四、稳定性与应用五、内容小结内容安排
2009-7-25
3
反馈网络如何通过网络神经元状态的变迁而最终稳定于平衡状态，得到联想存储或优化计算的结果
关心网络的稳定性问题
研究重点为怎样得到和利用稳定的反馈网络要点
2009-7-25
4
1.1 反馈网络简介
1.2 网络稳定性一、反馈网络
2009-7-25
5
1.1 反馈网络简介
反馈网络 (Recurrent Network)，又称自联想记忆网络
– 其目的是为了设计一个网络，储存一组平衡点，使得当给网络一组初始值时，网络通过自行运行而最终收敛到这个设计的平衡点上。
反馈网络能表现出非线性动力学系统动态特性
– 网络系统具有若干个稳定状态。当网络从某一初始状态开始运动，网络系统总可以收敛到某一个稳定的平衡状态；
– 系统稳定的平衡状态可以通过设计网络的权值而被存储到网络中
2009-7-25
6
1.1 反馈网络简介
反馈网络分类
– 如果激活函数 f(·)是一个二值型的硬函数，即 ai＝
sgn(ni),i＝ l,2,… r，则称此网络为离散型反馈网络；
– 如果 f(·)为一个连续单调上升的有界函数，这类网络被称为连续型反馈网络
2009-7-25
7
1.2 网络稳定性
状态轨迹
– 设状态矢量 N=[n1,n2,…,nr]，网络的输出矢量为 A＝ [a1,a2…,as]T
– 在一个 r维状态空间上，可以用一条轨迹来描述状态变化情况
– 从初始值 N(t0)出发，
N(t0+Δt)→N(t 0+2Δt)→ … →N(t 0+mΔt),这些在空间上的点组成的确定轨迹，是演化过程中所有可能状态的集合，我们称这个状态空间为相空间
2009-7-25
8
1.2 网络稳定性
状态轨迹
– 离散与连续轨迹
2009-7-25
9
1.2 网络稳定性
状态轨迹分类：对于不同的连接权值 wij和输入
Pj(i,j=1,2,… r)，反馈网络可能出现不同性质的状态轨迹
– 轨迹为稳定点
– 轨迹为极限环
– 轨迹为混沌现象
– 轨迹发散
2009-7-25
10
1.2 网络稳定性
稳定轨迹
– 状态轨迹从系统在 t0时状态的初值 N(t0)开始，经过一定的时间 t(t＞ 0)后，到达 N(t0+t)。如果
N(t0+t+Δt)=N(t 0+t),Δt ＞ 0，则状态 N(t0+t)称为网络的稳定点，或平衡点
– 反馈网络从任一初始态 P(0)开始运动，若存在某一有限时刻 t，从 t以后的网络状态不再发生变化
（ P(t+Δt)= P(t),Δt ＞ 0）则称网络是稳定的
– 处于稳定时的网络状态叫做稳定状态，又称为定吸引子
2009-7-25
11
1.2 网络稳定性
稳定点分类
– 在一个反馈网络中，存在很多稳定点
– 稳定点收敛域
渐近稳定点：在稳定点 Ne周围的 N(σ) 区域内，从任一个初始状态 N(t0)出发，当 t→∞ 时都收敛于 Ne，则称 Ne为渐近稳定点
不稳定平衡点 Nen：在某些特定的轨迹演化过程中，网络能够到达稳定点 Nen，但对其它方向上任意小的区域 N(σ),
不管 N(σ) 取多么小，其轨迹在时间 t以后总是偏离 Nen；
– 期望解
网络的解：如果网络最后稳定到设计人员期望的稳定点，
且该稳定点又是渐近稳定点，那么这个点称为网络的解；
网络的伪稳定点：网络最终稳定到一个渐近稳定点上，但这个稳定点不是网络设计所要求的解
2009-7-25
12
1.2 网络稳定性
状态轨迹为极限环
– 在某些参数的情况下，状态 N(t)的轨迹是一个圆，
或一个环
– 状态 N(t)沿着环重复旋转，永不停止，此时的输出
A(t)也出现周期变化（即出现振荡）
– 如果在 r种状态下循环变化，称其极限环为 r
– 对于离散反馈网络，轨迹变化可能在两种状态下来回跳动，其极限环为 2
2009-7-25
13
1.2 网络稳定性
状态轨迹为混沌
– 如果状态 N(t)的轨迹在某个确定的范围内运动，但既不重复，又不能停下来
– 状态变化为无穷多个，而轨迹也不能发散到无穷远，
这种现象称为混沌 (chaos)
– 出现混沌的情况下，系统输出变化为无穷多个，并且随时间推移不能趋向稳定，但又不发散
2009-7-25
14
1.2 网络稳定性
状态轨迹发散
– 状态 N(t)的轨迹随时间一直延伸到无穷远。此时状态发散，系统的输出也发散
– 在人工神经网络中，由于输入、输出激活函数上一个有界函数，虽然状态 N(t)是发散的，但其输出
A(t)还是稳定的，而 A（ t）的稳定反过来又限制了状态的发散。
– 一般非线性人工神经网络中发散现象是不会发生的，
除非神经元的输入输出激活函数是线性的
2009-7-25
15
1.3 网络工作方式
目前的反馈神经网络是利用稳定的特定轨迹来解决某些问题
– 如果视系统的稳定点为一个记忆，则从初始状态朝此稳定点移动的过程即为寻找该记忆的过程
– 状态的初始值可以认为是给定的有关该记忆的部分信息，状态 N(t)移动的过程，是从部分信息去寻找全部信息，这就是联想记忆的过程
– 将系统的稳定点考虑为一个能量函数的极小点。在状态空间中，从初始状态 N(t0)＝ N(t0+t)，最后到达 N*。若 N*为稳定点，则可以看作是 N*把 N(t0)吸引了过去，在 N(t0)时能量比较大，而吸引到 N*时能量已为极小了
2009-7-25
16
1.3 网络工作方式
考虑具体应用，可以将能量的极小点作为一个优化目标函数的极小点，把状态变化的过程看成是优化某一个目标函数的过程
因此反馈网络的状态移动的过程实际上是一种计算联想记忆或优化的过程。
它的解并不需要真的去计算，只需要形成一类反馈神经网络，适当地设计网络权值 wij，使其初始输入 A(t0)向稳定吸引子状态移动就可以达到目的
2009-7-25
17
1.3 网络工作方式
权值设计目标
– 网络系统能够达到稳定收敛
– 设计网络的稳定点
– 设计吸引域
2009-7-25
18
二,Hopfield网络简介
2.1 网络模型
2.2 DHNN
2.3 CHNN
2.4 联想记忆与优化计算
2009-7-25
19
2.1 网络模型
2009-7-25
20
2.1 网络模型
分类
– 离散 Hopfield网络（ DHNN）
– 连续 Hopfield网络（ CHNN）
DHNN中的激活函数 CHNN中的激活函数
2009-7-25
21
2.2 DHNN
DHNN
– 取 b＝ 0,wii＝ 0
– 权矩阵中有 wij＝ wji
2009-7-25
22
2.2 DHNN
– DHNN网络结构可以用一个加权元向量图表示
2009-7-25
23
2.3 CHNN
将霍普菲尔德网络推广到输入和输出都取连续数值的情形
网络的基本结构不变，状态输出方程形式上也相同。则网络的状态转移方程可写为
2009-7-25
24
2.3 CHNN
神经元的激活函数 f为 S型的函数 (或线性饱和函数）
2009-7-25
25
2.3 CHNN
神经元的激活函数 f为 S型的函数 (或线性饱和函数）
2009-7-25
26
2.3 CHNN
电路实现
– 神经元模型（见参见教材）
– 电阻 Ri和电容 Ci并联，模拟生物神经元输出的时间常数
– 跨导 Tij模拟神经元之间互连的突触特性
– 运算放大器模拟神经元的非线性特性
– ui为第 i个神经元的输入,Vi为输出
网络模型
2009-7-25
27
2.3 CHNN
定义系统计算能量
定理
– 推论 系统的稳定平衡点就是能量函数 E的极小点，
反之亦然
2009-7-25
28
2.3 CHNN
定理
– 系统在状态空间中正交稳定平衡点的任意放臵可以通过 Tij的学习来实现
增加存储与消除记忆
– 如果在已设计的系统中加入一个新的存储，只要修正 Tij,新的存储的加入并不改变原有的存储，且与原存储无关
2009-7-25
29
2.4 联想记忆与优化计算
联想记忆问题
– 稳定状态已知并且通过学习和设计算法寻求合适的权值矩阵将稳定状态存储到网络中
优化计算
– 权值矩阵 W已知，目的为寻找具有最小能量 E的稳定状态
– 主要工作为设计相应的 W和能量函数公式
2009-7-25
30
三,DHNN
3.1 神经元状态更新方式
3.2 网络学习
3.3 网络记忆容量
3.4 权值设计
2009-7-25
31
3.1 状态更新
由 -1变为 1；由 1变为 -1；状态保持不变
串行异步方式
– 任意时刻随机地或确定性地选择网络中的一个神经元进行状态更新，而其余神经元的状态保持不变
并行同步方式
– 任意时刻网络中部分神经元 (比如同一层的神经元 )
的状态同时更新。如果任意时刻网络中全部神经元同时进行状态更新，那么称之为全并行同步方式
2009-7-25
32
3.1 状态更新
串行异步方式
– 任一时刻，网络中只有一个神经元被选择进行状态更新或保持，所以异步状态更新的网络从某一初态开始需经过多次更新状态后才可以达到某种稳态。
– 实现上容易，每个神经元有自己的状态更新时刻，
不需要同步机制；
– 异步状态更新更接近实际的生物神经系统的表现
并行同步方式
2009-7-25
33
3.2 网络学习
联想记忆
– 联想记忆功能是 DHNN的一个重要应用范围。
– DHNN用于联想记忆有两个突出的特点，即记忆是分布式的，
而联想是动态的
– 反馈网络实现联想记忆必须具备的两个基本条件
网络能收敛到稳定的平衡状态，并以其作为样本的记忆信息；
具有回忆能力，能够从某一残缺的信息回忆起所属的完整的记忆信息
学习目的
– 具有 q个不同的输入样本组 Pr× q＝ [P1,P2 … Pq]
– 通过学习方式调节计算有限的权值矩阵 W
– 以每一组输入样本 Pk,k=1,2,…,q 作为系统的初始值
– 经过网络工作运行后，系统能收敛到各自输入样本矢量本身
2009-7-25
34
3.2 网络学习
DHNN中运用海布调节规则
– 海布法则是一种无指导的死记式学习算法
– 当神经元输入与输出节点的状态相同 (即同时兴奋或抑制 )时，从第 j个到第 i个神经元之间的连接强度则增强，否则减弱
当 k＝ 1时，对于第 i个神经元，由海布学习规则可得网络权值对输入矢量的学习关系式为
– 其中,α ＞ 0,i＝ 1,2…,r； j=1,2…,r。在实际学习规则的运用中，一般取 α ＝ 1或 1/r
2009-7-25
35
3.2 网络学习
当 k由 1增加到 2，直至 q时，是在原有己设计出的权值的基础上，增加一个新量 pjkpik,k＝ 2…,q
对网络所有输入样本记忆权值的设计公式为
– 其中,α ＞ 0,i＝ 1,2…,r； j=1,2…,r。在实际学习规则的运用中，一般取 α ＝ 1或 1/r
2009-7-25
36
3.2 网络学习
向量形式表示
α ＝ 1时
神经网络工具箱中采用海布公式求解网络权矩阵变化的函数为 learnh.m和 learnhd.m。 后者为带有衰减学习速率的函数
– dW＝ 1earnh(P,A,lr)
– dW＝ learnhd(W,P,A,lr,dr)；
– 对于简单的情况,lr可以选择 1；对于复杂的应用,可取 lr＝
0.1~0.5,dr＝ lr／ 3
2009-7-25
37
3.2 网络学习
简单验证
– q＝ 1,α ＝ l
– 求出的权值 wij是否能够保证 ai＝ pi？
– 对于第 i个输出节点，有
2009-7-25
38
3.3 记忆容量
设计 DHNN网络的目的，是希望通过所设计的权值矩阵 W储存多个期望模式
当网络只记忆一个稳定模式时，该模式肯定被网络准确无误地记忆住，即所设计的 W值一定能够满足正比于输入和输出矢量的乘积关系
但当需要记忆的模式增多时，网络记忆可能出现问题
– 权值移动
– 交叉干扰
2009-7-25
39
3.3 记忆容量
权值移动
– 当 k＝ 2时，为了记忆样本 T2，需要在记忆了样本 Tl的权值上加上对样本 T2的记忆项 T2T2T-I，将权值在原来值的基础上产生了移动
– 由于在学习样本 T2时，权矩阵 W是在已学习了 T1的基础上进行修正的,W起始值不再为零，所以由此调整得出的新的 W值，
对记忆样本 T2来说，也未必对所有的 s个输出同时满足符号函数的条件，即难以保证网络对 T2的精确的记忆
– 随着学习样本数 k的增加，权值移动现象将进一步发生，当学习了第 q个样本 Tq后，权值又在前 q-1个样本修正的基础上产生了移动，这也是网络在精确的学习了第一个样本后的第 q-1次移动
– 对已记忆的样本发生遗忘，这种现象被称为,疲劳,
2009-7-25
40
3.3 记忆容量
交叉干扰
– 设输入矢量 P维数为 r× q，取 α=1/r 。 Pk∈{ -1,1}，所以
pik*pjk＝ pjk*pjk＝ 1。当网络某个矢量 Pl,l∈[1,q],作为网络的输入矢量时，可得网络的加权输入和 nil为
– 上式右边中第一项为期望记忆的样本，而第二项则是当网络学习多个样本时，在回忆阶段即验证该记忆样本时，所产生的相互干扰，称为交叉干扰项
2009-7-25
41
3.3 记忆容量
有效容量
– 从对网络的记忆容量产生影响的权值移动和交叉干扰上看，
采用海布学习法则对网络记忆样本的数量是有限制的
– 通过上面的分析已经很清楚地得知，当交叉干扰项幅值大于正确记忆值时，将产生错误输出
在什么情况下，能够保证记忆住所有样本?
– 当所期望记忆的样本是两两正交时，能够准确得到一个可记忆数量的上限值
2009-7-25
42
3.3 记忆容量
有效容量的上界
– 正交特性
神经元为二值输出的情况下，即 Pj∈{ -1,1}，当两个 r维样本矢量的各个分量中，有 r/2是相同,r/2是相反。对于任意一个数 l，
l∈[1,r]，有 Pl(Pk)T＝ 0,l≠k ；而有 Pl(Pl)T＝ r,l＝ k
– 用外积和公式所得到的权矩阵进行迭代计算，在输入样本 Pk，
k=1,2…,q中任取 Pl为初始输入，求网络加权输入和 Nl
只要满足,r＞ q，则有 sgn(Nl)＝ Pl
保证 Pl为网络的稳定解
2009-7-25
43
3.4 权值设计
δ 学习规则：
– 通过计算每个神经元节点的实际激活值 A(t)，与期望状态 T(t)进行比较，若不满足要求，则将二者的误差的一部分作为调整量，若满足要求，则相应的权值保持不变
2009-7-25
44
3.4 权值设计
伪逆法
– 对于输入样本 P＝ [P1 P2 … Pq]，设网络输出可以写成一个与输入样本相对应的矩阵 A，输入和输出之间可用一个权矩阵 W来映射，即有,W*P＝ N,A
＝ sgn(N)，由此可得
W＝ N*P*
– 其中 P*为 P的伪逆，有 P*＝ (PTP)-1PT
– 如果样本之间是线性无关的，则 PTP满秩，其逆存在，
则可求出权矩阵 W
– 但当记忆样本之间是线性相关的，由海布法所设计出的网络存在的问题，伪逆法也解决不了，甚至无法求解，相比之下，由于存在求逆等运算，伪逆法较为繁琐，而海布法则要容易求得多
2009-7-25
45
3.4 权值设计
正交化的权值设计
– 这一方法的基本思想和出发点
1)保证系统在异步工作时的稳定性；
2)保证所有要求记忆的稳定平衡点都能收敛到自己；
3)使伪稳定点的数目尽可能的少；
4)使稳定点的吸引域尽可能的大。
正交化设计方法的数学设计较为复杂，类似于
Gram-Schmidt正交化过程
与外积和法相比较，所设计出的平衡稳定点能够保证收敛到自己并且有较大的稳定域
在 MATLAB工具箱中已将此设计方法写进了函数
solvehop.m中：
[W,b]＝ solvehop(T)
2009-7-25
46
四、稳定性与应用
3.1 联想存储器特性
3.2 稳定平衡点判定
3.3 TSP问题求解
2009-7-25
47
4.1 联想存储器特性
性质
– 如果 X是一个系统的稳定状态,则－ X也一定是一个稳定状态
– 如果 X1,X2,…,Xk为系统的稳定状态,Y是它们的线性组合而得到的向量,则 Y为稳定状态
– 对于任意 X1,X2,…,Xk,k<=n-1,则总可以找到
W,并且 rank(W)<n）,使得 X1,X2,…,Xk是网络的稳定状态
2009-7-25
48
4.2 稳定平衡点判定
定理 （ 稳定平衡点判定 ）
– 对于 CHNN,Us为一个 n维向量 。 Us为系统的一个稳定平衡点的充分条件如下,
2009-7-25
49
4.3 TSP问题求解
所谓 TSP(Traveling Salesman Problem)问题,即,旅行商问题,是一个十分有名的难以求解的优化问题,
其要求很简单：在 n个城市的集合中,找出一条经过每个城市各一次,最终回到起点的最短路径
问题描述
– 如果已知城市 A,B,C,D,…,之间的距离为 dAB,dBC,dCD… ；
那么总的距离 d＝ dAB+dBC+dCD+…,对于这种动态规化问题,要去求其 min(d)的解
对于 n个城市的全排列共有 n!种,而 TSP并没有限定路径的方向,即为全组合,所以对于固定的城市数 n的条件下,其路径总数 Sn为 Sn＝ n!／ 2n (n≥ 4)
在 n个城市基础上,每添加一个城市,路径总数要添加
n倍
2009-7-25
50
2009-7-25
51
4.3 TSP问题
TSP的解是若干城市的有序排列,任何一个城市在最终路径上的位臵可用一个 n维的 0,1矢量表示,对于所有
n个城市,则需要一个 n× n维矩阵 。
以 5个城市为例,一种可能的排列矩阵为
2009-7-25
52
4.3 TSP问题
若用 dxy表示从城市 x到城市 y的距离,则上面路径的总长度为,dxy＝ dCA+dAD+dDB+dBE+dCE
TSP的最优解是求长度 dxy为最短的一条有效的路径
采用连续时间的霍普菲尔德网络模型来求解 TSP,开辟了一条解决这一问题的新途径 。
其基本思想是把 TSP映射到 CHNN上,通过网络状态的动态演化逐步趋向稳态而自动地搜索出优化解
2009-7-25
53
4.3 TSP问题
目标函数 f(V)
约束条件 g(V)
– 约束条件要保证关联矩阵的每一行每一列中只有一个值为 1，
其他值均为零,用三项表示为
总的能量函数 E
2009-7-25
54
4.3 TSP问题
选择使用高增益放大器,从而能量函数中的积分分项可以忽略不计 。 求解得网络的联接权值为
式中
外部输入偏臵电流为
2009-7-25
55
4.3 TSP问题
求解 TSP的连接神经网络模型的运动方程可表示为
霍普菲尔德和泰克 (Tank)经过实验,认为取初始值为,S＝ Q＝ P＝
500,T＝ 200,RC＝ 1,U0＝ 0.02时,其求解 10个城市的 TSP得到良好的效果 。
人们后来发现,用连续霍普菲尔德网络求解像 TSP这样约束优化问题时,系统 S,Q,P,T的取值对求解过程有很大影响
2009-7-25
56
五、内容小结
设计 Hopfield网络的目的是用来存储一些平衡点集,
当给定初始状态后,该网络最终能在设计点上平衡 。
该网络是递归的,其输出反馈为网络的输入 。 在理想状态下,网络的输出恰好是原始的设计点
网络的分类和模型
DHNN的学习、性能与设计
反馈网络的稳定性
Hopfield网络可以作为误差纠正或向量归类网络。从理论上说,Hopfield网络有意义，但实际上很少使用。
因为即使是最好的 Hopfield网络，也会有伪平衡点，
从而导致错误结果
2009-7-25
57
五、内容小结
下次课内容
– 自组织网络
2009-7-25
58
The End
Questions & Suggestions
Thanks！
2003年 3月 3日
2009-7-25
2
一、反馈网络二,Hopfield网络简介三,DHNN网络四、稳定性与应用五、内容小结内容安排
2009-7-25
3
反馈网络如何通过网络神经元状态的变迁而最终稳定于平衡状态，得到联想存储或优化计算的结果
关心网络的稳定性问题
研究重点为怎样得到和利用稳定的反馈网络要点
2009-7-25
4
1.1 反馈网络简介
1.2 网络稳定性一、反馈网络
2009-7-25
5
1.1 反馈网络简介
反馈网络 (Recurrent Network)，又称自联想记忆网络
– 其目的是为了设计一个网络，储存一组平衡点，使得当给网络一组初始值时，网络通过自行运行而最终收敛到这个设计的平衡点上。
反馈网络能表现出非线性动力学系统动态特性
– 网络系统具有若干个稳定状态。当网络从某一初始状态开始运动，网络系统总可以收敛到某一个稳定的平衡状态；
– 系统稳定的平衡状态可以通过设计网络的权值而被存储到网络中
2009-7-25
6
1.1 反馈网络简介
反馈网络分类
– 如果激活函数 f(·)是一个二值型的硬函数，即 ai＝
sgn(ni),i＝ l,2,… r，则称此网络为离散型反馈网络；
– 如果 f(·)为一个连续单调上升的有界函数，这类网络被称为连续型反馈网络
2009-7-25
7
1.2 网络稳定性
状态轨迹
– 设状态矢量 N=[n1,n2,…,nr]，网络的输出矢量为 A＝ [a1,a2…,as]T
– 在一个 r维状态空间上，可以用一条轨迹来描述状态变化情况
– 从初始值 N(t0)出发，
N(t0+Δt)→N(t 0+2Δt)→ … →N(t 0+mΔt),这些在空间上的点组成的确定轨迹，是演化过程中所有可能状态的集合，我们称这个状态空间为相空间
2009-7-25
8
1.2 网络稳定性
状态轨迹
– 离散与连续轨迹
2009-7-25
9
1.2 网络稳定性
状态轨迹分类：对于不同的连接权值 wij和输入
Pj(i,j=1,2,… r)，反馈网络可能出现不同性质的状态轨迹
– 轨迹为稳定点
– 轨迹为极限环
– 轨迹为混沌现象
– 轨迹发散
2009-7-25
10
1.2 网络稳定性
稳定轨迹
– 状态轨迹从系统在 t0时状态的初值 N(t0)开始，经过一定的时间 t(t＞ 0)后，到达 N(t0+t)。如果
N(t0+t+Δt)=N(t 0+t),Δt ＞ 0，则状态 N(t0+t)称为网络的稳定点，或平衡点
– 反馈网络从任一初始态 P(0)开始运动，若存在某一有限时刻 t，从 t以后的网络状态不再发生变化
（ P(t+Δt)= P(t),Δt ＞ 0）则称网络是稳定的
– 处于稳定时的网络状态叫做稳定状态，又称为定吸引子
2009-7-25
11
1.2 网络稳定性
稳定点分类
– 在一个反馈网络中，存在很多稳定点
– 稳定点收敛域
渐近稳定点：在稳定点 Ne周围的 N(σ) 区域内，从任一个初始状态 N(t0)出发，当 t→∞ 时都收敛于 Ne，则称 Ne为渐近稳定点
不稳定平衡点 Nen：在某些特定的轨迹演化过程中，网络能够到达稳定点 Nen，但对其它方向上任意小的区域 N(σ),
不管 N(σ) 取多么小，其轨迹在时间 t以后总是偏离 Nen；
– 期望解
网络的解：如果网络最后稳定到设计人员期望的稳定点，
且该稳定点又是渐近稳定点，那么这个点称为网络的解；
网络的伪稳定点：网络最终稳定到一个渐近稳定点上，但这个稳定点不是网络设计所要求的解
2009-7-25
12
1.2 网络稳定性
状态轨迹为极限环
– 在某些参数的情况下，状态 N(t)的轨迹是一个圆，
或一个环
– 状态 N(t)沿着环重复旋转，永不停止，此时的输出
A(t)也出现周期变化（即出现振荡）
– 如果在 r种状态下循环变化，称其极限环为 r
– 对于离散反馈网络，轨迹变化可能在两种状态下来回跳动，其极限环为 2
2009-7-25
13
1.2 网络稳定性
状态轨迹为混沌
– 如果状态 N(t)的轨迹在某个确定的范围内运动，但既不重复，又不能停下来
– 状态变化为无穷多个，而轨迹也不能发散到无穷远，
这种现象称为混沌 (chaos)
– 出现混沌的情况下，系统输出变化为无穷多个，并且随时间推移不能趋向稳定，但又不发散
2009-7-25
14
1.2 网络稳定性
状态轨迹发散
– 状态 N(t)的轨迹随时间一直延伸到无穷远。此时状态发散，系统的输出也发散
– 在人工神经网络中，由于输入、输出激活函数上一个有界函数，虽然状态 N(t)是发散的，但其输出
A(t)还是稳定的，而 A（ t）的稳定反过来又限制了状态的发散。
– 一般非线性人工神经网络中发散现象是不会发生的，
除非神经元的输入输出激活函数是线性的
2009-7-25
15
1.3 网络工作方式
目前的反馈神经网络是利用稳定的特定轨迹来解决某些问题
– 如果视系统的稳定点为一个记忆，则从初始状态朝此稳定点移动的过程即为寻找该记忆的过程
– 状态的初始值可以认为是给定的有关该记忆的部分信息，状态 N(t)移动的过程，是从部分信息去寻找全部信息，这就是联想记忆的过程
– 将系统的稳定点考虑为一个能量函数的极小点。在状态空间中，从初始状态 N(t0)＝ N(t0+t)，最后到达 N*。若 N*为稳定点，则可以看作是 N*把 N(t0)吸引了过去，在 N(t0)时能量比较大，而吸引到 N*时能量已为极小了
2009-7-25
16
1.3 网络工作方式
考虑具体应用，可以将能量的极小点作为一个优化目标函数的极小点，把状态变化的过程看成是优化某一个目标函数的过程
因此反馈网络的状态移动的过程实际上是一种计算联想记忆或优化的过程。
它的解并不需要真的去计算，只需要形成一类反馈神经网络，适当地设计网络权值 wij，使其初始输入 A(t0)向稳定吸引子状态移动就可以达到目的
2009-7-25
17
1.3 网络工作方式
权值设计目标
– 网络系统能够达到稳定收敛
– 设计网络的稳定点
– 设计吸引域
2009-7-25
18
二,Hopfield网络简介
2.1 网络模型
2.2 DHNN
2.3 CHNN
2.4 联想记忆与优化计算
2009-7-25
19
2.1 网络模型
2009-7-25
20
2.1 网络模型
分类
– 离散 Hopfield网络（ DHNN）
– 连续 Hopfield网络（ CHNN）
DHNN中的激活函数 CHNN中的激活函数
2009-7-25
21
2.2 DHNN
DHNN
– 取 b＝ 0,wii＝ 0
– 权矩阵中有 wij＝ wji
2009-7-25
22
2.2 DHNN
– DHNN网络结构可以用一个加权元向量图表示
2009-7-25
23
2.3 CHNN
将霍普菲尔德网络推广到输入和输出都取连续数值的情形
网络的基本结构不变，状态输出方程形式上也相同。则网络的状态转移方程可写为
2009-7-25
24
2.3 CHNN
神经元的激活函数 f为 S型的函数 (或线性饱和函数）
2009-7-25
25
2.3 CHNN
神经元的激活函数 f为 S型的函数 (或线性饱和函数）
2009-7-25
26
2.3 CHNN
电路实现
– 神经元模型（见参见教材）
– 电阻 Ri和电容 Ci并联，模拟生物神经元输出的时间常数
– 跨导 Tij模拟神经元之间互连的突触特性
– 运算放大器模拟神经元的非线性特性
– ui为第 i个神经元的输入,Vi为输出
网络模型
2009-7-25
27
2.3 CHNN
定义系统计算能量
定理
– 推论 系统的稳定平衡点就是能量函数 E的极小点，
反之亦然
2009-7-25
28
2.3 CHNN
定理
– 系统在状态空间中正交稳定平衡点的任意放臵可以通过 Tij的学习来实现
增加存储与消除记忆
– 如果在已设计的系统中加入一个新的存储，只要修正 Tij,新的存储的加入并不改变原有的存储，且与原存储无关
2009-7-25
29
2.4 联想记忆与优化计算
联想记忆问题
– 稳定状态已知并且通过学习和设计算法寻求合适的权值矩阵将稳定状态存储到网络中
优化计算
– 权值矩阵 W已知，目的为寻找具有最小能量 E的稳定状态
– 主要工作为设计相应的 W和能量函数公式
2009-7-25
30
三,DHNN
3.1 神经元状态更新方式
3.2 网络学习
3.3 网络记忆容量
3.4 权值设计
2009-7-25
31
3.1 状态更新
由 -1变为 1；由 1变为 -1；状态保持不变
串行异步方式
– 任意时刻随机地或确定性地选择网络中的一个神经元进行状态更新，而其余神经元的状态保持不变
并行同步方式
– 任意时刻网络中部分神经元 (比如同一层的神经元 )
的状态同时更新。如果任意时刻网络中全部神经元同时进行状态更新，那么称之为全并行同步方式
2009-7-25
32
3.1 状态更新
串行异步方式
– 任一时刻，网络中只有一个神经元被选择进行状态更新或保持，所以异步状态更新的网络从某一初态开始需经过多次更新状态后才可以达到某种稳态。
– 实现上容易，每个神经元有自己的状态更新时刻，
不需要同步机制；
– 异步状态更新更接近实际的生物神经系统的表现
并行同步方式
2009-7-25
33
3.2 网络学习
联想记忆
– 联想记忆功能是 DHNN的一个重要应用范围。
– DHNN用于联想记忆有两个突出的特点，即记忆是分布式的，
而联想是动态的
– 反馈网络实现联想记忆必须具备的两个基本条件
网络能收敛到稳定的平衡状态，并以其作为样本的记忆信息；
具有回忆能力，能够从某一残缺的信息回忆起所属的完整的记忆信息
学习目的
– 具有 q个不同的输入样本组 Pr× q＝ [P1,P2 … Pq]
– 通过学习方式调节计算有限的权值矩阵 W
– 以每一组输入样本 Pk,k=1,2,…,q 作为系统的初始值
– 经过网络工作运行后，系统能收敛到各自输入样本矢量本身
2009-7-25
34
3.2 网络学习
DHNN中运用海布调节规则
– 海布法则是一种无指导的死记式学习算法
– 当神经元输入与输出节点的状态相同 (即同时兴奋或抑制 )时，从第 j个到第 i个神经元之间的连接强度则增强，否则减弱
当 k＝ 1时，对于第 i个神经元，由海布学习规则可得网络权值对输入矢量的学习关系式为
– 其中,α ＞ 0,i＝ 1,2…,r； j=1,2…,r。在实际学习规则的运用中，一般取 α ＝ 1或 1/r
2009-7-25
35
3.2 网络学习
当 k由 1增加到 2，直至 q时，是在原有己设计出的权值的基础上，增加一个新量 pjkpik,k＝ 2…,q
对网络所有输入样本记忆权值的设计公式为
– 其中,α ＞ 0,i＝ 1,2…,r； j=1,2…,r。在实际学习规则的运用中，一般取 α ＝ 1或 1/r
2009-7-25
36
3.2 网络学习
向量形式表示
α ＝ 1时
神经网络工具箱中采用海布公式求解网络权矩阵变化的函数为 learnh.m和 learnhd.m。 后者为带有衰减学习速率的函数
– dW＝ 1earnh(P,A,lr)
– dW＝ learnhd(W,P,A,lr,dr)；
– 对于简单的情况,lr可以选择 1；对于复杂的应用,可取 lr＝
0.1~0.5,dr＝ lr／ 3
2009-7-25
37
3.2 网络学习
简单验证
– q＝ 1,α ＝ l
– 求出的权值 wij是否能够保证 ai＝ pi？
– 对于第 i个输出节点，有
2009-7-25
38
3.3 记忆容量
设计 DHNN网络的目的，是希望通过所设计的权值矩阵 W储存多个期望模式
当网络只记忆一个稳定模式时，该模式肯定被网络准确无误地记忆住，即所设计的 W值一定能够满足正比于输入和输出矢量的乘积关系
但当需要记忆的模式增多时，网络记忆可能出现问题
– 权值移动
– 交叉干扰
2009-7-25
39
3.3 记忆容量
权值移动
– 当 k＝ 2时，为了记忆样本 T2，需要在记忆了样本 Tl的权值上加上对样本 T2的记忆项 T2T2T-I，将权值在原来值的基础上产生了移动
– 由于在学习样本 T2时，权矩阵 W是在已学习了 T1的基础上进行修正的,W起始值不再为零，所以由此调整得出的新的 W值，
对记忆样本 T2来说，也未必对所有的 s个输出同时满足符号函数的条件，即难以保证网络对 T2的精确的记忆
– 随着学习样本数 k的增加，权值移动现象将进一步发生，当学习了第 q个样本 Tq后，权值又在前 q-1个样本修正的基础上产生了移动，这也是网络在精确的学习了第一个样本后的第 q-1次移动
– 对已记忆的样本发生遗忘，这种现象被称为,疲劳,
2009-7-25
40
3.3 记忆容量
交叉干扰
– 设输入矢量 P维数为 r× q，取 α=1/r 。 Pk∈{ -1,1}，所以
pik*pjk＝ pjk*pjk＝ 1。当网络某个矢量 Pl,l∈[1,q],作为网络的输入矢量时，可得网络的加权输入和 nil为
– 上式右边中第一项为期望记忆的样本，而第二项则是当网络学习多个样本时，在回忆阶段即验证该记忆样本时，所产生的相互干扰，称为交叉干扰项
2009-7-25
41
3.3 记忆容量
有效容量
– 从对网络的记忆容量产生影响的权值移动和交叉干扰上看，
采用海布学习法则对网络记忆样本的数量是有限制的
– 通过上面的分析已经很清楚地得知，当交叉干扰项幅值大于正确记忆值时，将产生错误输出
在什么情况下，能够保证记忆住所有样本?
– 当所期望记忆的样本是两两正交时，能够准确得到一个可记忆数量的上限值
2009-7-25
42
3.3 记忆容量
有效容量的上界
– 正交特性
神经元为二值输出的情况下，即 Pj∈{ -1,1}，当两个 r维样本矢量的各个分量中，有 r/2是相同,r/2是相反。对于任意一个数 l，
l∈[1,r]，有 Pl(Pk)T＝ 0,l≠k ；而有 Pl(Pl)T＝ r,l＝ k
– 用外积和公式所得到的权矩阵进行迭代计算，在输入样本 Pk，
k=1,2…,q中任取 Pl为初始输入，求网络加权输入和 Nl
只要满足,r＞ q，则有 sgn(Nl)＝ Pl
保证 Pl为网络的稳定解
2009-7-25
43
3.4 权值设计
δ 学习规则：
– 通过计算每个神经元节点的实际激活值 A(t)，与期望状态 T(t)进行比较，若不满足要求，则将二者的误差的一部分作为调整量，若满足要求，则相应的权值保持不变
2009-7-25
44
3.4 权值设计
伪逆法
– 对于输入样本 P＝ [P1 P2 … Pq]，设网络输出可以写成一个与输入样本相对应的矩阵 A，输入和输出之间可用一个权矩阵 W来映射，即有,W*P＝ N,A
＝ sgn(N)，由此可得
W＝ N*P*
– 其中 P*为 P的伪逆，有 P*＝ (PTP)-1PT
– 如果样本之间是线性无关的，则 PTP满秩，其逆存在，
则可求出权矩阵 W
– 但当记忆样本之间是线性相关的，由海布法所设计出的网络存在的问题，伪逆法也解决不了，甚至无法求解，相比之下，由于存在求逆等运算，伪逆法较为繁琐，而海布法则要容易求得多
2009-7-25
45
3.4 权值设计
正交化的权值设计
– 这一方法的基本思想和出发点
1)保证系统在异步工作时的稳定性；
2)保证所有要求记忆的稳定平衡点都能收敛到自己；
3)使伪稳定点的数目尽可能的少；
4)使稳定点的吸引域尽可能的大。
正交化设计方法的数学设计较为复杂，类似于
Gram-Schmidt正交化过程
与外积和法相比较，所设计出的平衡稳定点能够保证收敛到自己并且有较大的稳定域
在 MATLAB工具箱中已将此设计方法写进了函数
solvehop.m中：
[W,b]＝ solvehop(T)
2009-7-25
46
四、稳定性与应用
3.1 联想存储器特性
3.2 稳定平衡点判定
3.3 TSP问题求解
2009-7-25
47
4.1 联想存储器特性
性质
– 如果 X是一个系统的稳定状态,则－ X也一定是一个稳定状态
– 如果 X1,X2,…,Xk为系统的稳定状态,Y是它们的线性组合而得到的向量,则 Y为稳定状态
– 对于任意 X1,X2,…,Xk,k<=n-1,则总可以找到
W,并且 rank(W)<n）,使得 X1,X2,…,Xk是网络的稳定状态
2009-7-25
48
4.2 稳定平衡点判定
定理 （ 稳定平衡点判定 ）
– 对于 CHNN,Us为一个 n维向量 。 Us为系统的一个稳定平衡点的充分条件如下,
2009-7-25
49
4.3 TSP问题求解
所谓 TSP(Traveling Salesman Problem)问题,即,旅行商问题,是一个十分有名的难以求解的优化问题,
其要求很简单：在 n个城市的集合中,找出一条经过每个城市各一次,最终回到起点的最短路径
问题描述
– 如果已知城市 A,B,C,D,…,之间的距离为 dAB,dBC,dCD… ；
那么总的距离 d＝ dAB+dBC+dCD+…,对于这种动态规化问题,要去求其 min(d)的解
对于 n个城市的全排列共有 n!种,而 TSP并没有限定路径的方向,即为全组合,所以对于固定的城市数 n的条件下,其路径总数 Sn为 Sn＝ n!／ 2n (n≥ 4)
在 n个城市基础上,每添加一个城市,路径总数要添加
n倍
2009-7-25
50
2009-7-25
51
4.3 TSP问题
TSP的解是若干城市的有序排列,任何一个城市在最终路径上的位臵可用一个 n维的 0,1矢量表示,对于所有
n个城市,则需要一个 n× n维矩阵 。
以 5个城市为例,一种可能的排列矩阵为
2009-7-25
52
4.3 TSP问题
若用 dxy表示从城市 x到城市 y的距离,则上面路径的总长度为,dxy＝ dCA+dAD+dDB+dBE+dCE
TSP的最优解是求长度 dxy为最短的一条有效的路径
采用连续时间的霍普菲尔德网络模型来求解 TSP,开辟了一条解决这一问题的新途径 。
其基本思想是把 TSP映射到 CHNN上,通过网络状态的动态演化逐步趋向稳态而自动地搜索出优化解
2009-7-25
53
4.3 TSP问题
目标函数 f(V)
约束条件 g(V)
– 约束条件要保证关联矩阵的每一行每一列中只有一个值为 1，
其他值均为零,用三项表示为
总的能量函数 E
2009-7-25
54
4.3 TSP问题
选择使用高增益放大器,从而能量函数中的积分分项可以忽略不计 。 求解得网络的联接权值为
式中
外部输入偏臵电流为
2009-7-25
55
4.3 TSP问题
求解 TSP的连接神经网络模型的运动方程可表示为
霍普菲尔德和泰克 (Tank)经过实验,认为取初始值为,S＝ Q＝ P＝
500,T＝ 200,RC＝ 1,U0＝ 0.02时,其求解 10个城市的 TSP得到良好的效果 。
人们后来发现,用连续霍普菲尔德网络求解像 TSP这样约束优化问题时,系统 S,Q,P,T的取值对求解过程有很大影响
2009-7-25
56
五、内容小结
设计 Hopfield网络的目的是用来存储一些平衡点集,
当给定初始状态后,该网络最终能在设计点上平衡 。
该网络是递归的,其输出反馈为网络的输入 。 在理想状态下,网络的输出恰好是原始的设计点
网络的分类和模型
DHNN的学习、性能与设计
反馈网络的稳定性
Hopfield网络可以作为误差纠正或向量归类网络。从理论上说,Hopfield网络有意义，但实际上很少使用。
因为即使是最好的 Hopfield网络，也会有伪平衡点，
从而导致错误结果
2009-7-25
57
五、内容小结
下次课内容
– 自组织网络
2009-7-25
58
The End
Questions & Suggestions
Thanks！
