模糊系统辨识
模糊系统辨识的问题分类
1、静态系统的辨识,它包括:
1)参数辨识
2)结构辨识
2、动态系统的辨识
1)结构辨识
2)系统行为的辨识
● 一般情况下的静态模糊辨识问题
在一般情况下,规则具有以下的形式:
R,If f(x1是 A1,…,xk是 Ak),Then y = g(x1,x2…,xk)
这里,x1 ~ xk 是前提(前件)变量;
y:是结论(后件)变量;
A1 ~ Ak 是具有非线性的隶属函数的模糊集合。它表示
模糊子空间。规则 R在 子空间所组成的空间中推理。
f,连结前件命题的逻辑函数
g,非线性函数,当 x1 ~ xk满足前件条件时,表明 y的值
辨识对象输入数据 期望数据
模糊规则
模糊辨识的基本要求
.,...2,1
..,
,...,,,
110
2211
ni
xpxppyT h en
AxAxAxIf
k
i
k
ii
i
kk
ii
?
????
是是是
ix
ikA
ikp
iAix
iU
ix
32121 2T h e n b i g,s m a l l,xxxyxxIf ???为
式中 即为无条件满足。在前提中 可不必列出。3x
在线性的情况下,规则可以写成:
Ri:
这是 Takagi—Sugeno一阶模型。要辨识的内容有:
1) 前件变量 的数目,决定系统的阶次,属于结构辨识
2) 隶属函数 — 前件参数
3) 后件参数
在前件中,如果 等于 的整个论域,(即 ),此项可
略去,无限定,成为无条件。譬如:
3x
4 4.5 7.0 8.5 10
R2
R3
R1
在输入空间已划分的情况下,模糊辨识的实质就是在所定义
的空间下,给出规则的集合。
X
Y举例,
用 3条规则逼近原函数(如
右图 )。输入 -输出对的数据
已知,这里假定只有 1个输
入变量,它被划分为 3个模糊
集合,即大、中、小。可描
述的规则如下:
R1
R2
R3
If x 是
If x 是
If x 是
big
small
middle
4 10
0 7
4 7 8.5
Then y = 0.2x + 9
Then y = 0.6x + 0.2
Then y = 1.2x - 3
与传统的辨识方法相比,模糊辨识的特点在于:
1)可以用较少的规则来逼近函数;
2)可以用语言变量来表达。
模糊辨识的一种方法及步骤
针对 Takagi—Sugeno( T—S)模型,辨识步骤:
⑴ 选择前件变量
⑵ 前件参数辨识
⑶ 后件参数辨识
非线性规划法
最小二乘法算法的框架
1
4 7 8, 5 10
前件变量的组合
前件参数的辨识
后件参数的辨识
搜索法
small middle big
?
?
????
..,
,...,,,
1
1
1
1
1
0
1
11
22
1
11
kk
kk
xpxppyTh e n
AxAxAxIf 是是是
.,,
,.,,,,,
110
2211
k
n
k
nnn
n
kk
nn
xpxppyT h en
AxAxAxIf
????
是是是
★ 后件参数辨识
考虑一般化系统,由 n条规则组成:
R1
Rn
k
i
ki
iii
i
R
ii
R
xpxppy
y
y
???????
?
?
?
?
10式中
则
?
?
? ?
? ??
?
?
?
?????
????????????
?
n
i
k
i
k
i
n
i
k
i
ki
ii
k
i
k
i
xAxA
xpxppxAxA
y
1
11
1
1011
)( )(
) ()( )(
得输出:,对输入 ),...,( 1 kxx
? ?
? ??
?
?????
?????
? n
i
k
i
k
i
k
i
k
i
i
xAxA
xAxA
1
11
11
)( )(
)( )(
?
令
) (
) (
110
110
ik
i
ki
i
i
i
n
i
k
i
k
ii
n
i
i
xpxpp
xpxppy
???
?
???????
???????
?
?则
当输入数据
ni
yyyYxxxx
imiii
mikiii
,.,,,2,1 ),.,,,,(
),.,,,,( ),.,,,,(
21
2111
??
??
给定,
已知,
????
),...,,......,,...,,,,...,,( 211211102010 nkkknn pppppppppP ?
后件参数
可以用最小二乘法进行计算。
输入与输出的关系用矩阵形式表示:
XPY ?
m
xxxx
xxxx
xxxx
X
kn
nmkmmknmmmnmm
nkmknmn
nkmknmn
?
?
?
?
?
?
?
?
?
??????
???????
??
?????????? ??????????? ??
)1(
1111111
2121211211212
1111111111111
...............
...............
...............
??????
??????
??????
)1(
...............
...............
...............
1
2
1
3
0
2
0
1
0
)1(
1111111
2121211211212
1111111111111
??
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
??????
???????
?
??
kn
p
p
p
p
p
p
p
xxxx
xxxx
xxxx
Y
n
k
n
k
k
k
kn
nmkmmknmmmnmm
nkmknmn
nkmknmn
?????????? ??????????? ??
??????
??????
??????
的参数矩阵是 )1( ??? knmX
? ?
? ??
?
?????
?????
?
n
i
kj
i
kj
i
kj
i
kj
i
ij
xAxA
xAxA
1
11
11
)( )(
)( )(
?
其中
后件参数按最小二乘法计算 YXXXP TT 1)( ??
★ 前件参数辨识
在已知输入空间(变量)划分和后件参数的条件下,给
定性能指标,求解非线性规划,使隶属函数的参数最优化,即:
KkniAts
AA
yy
i
k
i
k
,.,,,2,1,,.,,2,1 10,.
?M i n
2
????
?
?
y? 是期望输出
维向量。为矩阵;为系数向量;为此处 mYknmXknP )1( 1)1( ??????
★ 前件空间(变量)的划分
开始
第一步
第二步
第三步
x1 x i x k
xi-xj
xi-xk
xi -xj-x1
解决 2个问题:
①变量空间的划分;
②模糊子空间的选择,2个
(大、小),3个(大、中
小)或多个 。
步骤 1 把 xi (i=1,2,…k)
划分成 2个模糊子集,从
中选择使特性指标为
最小的 xi, 称 1-i模型的
稳态。
用搜索法
步骤 2 从稳态开始,将 xi 与其它变量组合,xi –xj, 称 2-j
模型,各模型有 4个组合,选其中最小的 1组,形成 2-j的稳
态;
稳态
稳态
稳态
步骤 3 将 xi – xj 与其它变量进行 3变量的组合,形成 xi-xj-xk,
选择最优者,直到
1)特性指标达到预定值;或
2)稳态隐含 过预定值
● 模糊聚类 —模糊结构辨识的一种方法
基本思想,设置合理的指标,按此指标,确定模糊聚类中心,
使模糊输入空间划分优化。
优点,① 分类可自动进行;
② 可利用非结构知识,实行搜索或智能方法。
原理,假定 p维实数空间有 n个样本(模式),即
pn Rxxx ?,.,,,,21
假定结构有 c类,设定目标函数为:
? ?
? ?
?
c
i
n
k
ik
m
ikJ
1 1
)( ??
18(样本)
1
1
??
?
c
i
ik?
?
?
??
n
k
ik in
1
0 对所有?
2/1
1
22
22
)),((
]1,0[ )1(
?
?
?
?
?
?
? ????
??
????
?
r
j
jikikik
ikik
ikikik
svxvxD
vxd
ggdDg?
式中,]1,0[?
ik? 是第 k个模式属于第 i类的程度,满足:
ⅰ )
ⅱ )所有类非空,
m为参数,控制隶属对指标的影响,
ik? 描述第 k个模式( x K)和聚类中心 vi 之间的距离。
1/1
1
1
?
? ?
?
?
?
?
?
?
?
mc
i jk
ik
ik
?
?
?
?
?
?
??
n
k
m
ik
n
k
k
m
ik
i
x
v
1
1
)(
)(
?
?
? ? ?????? ???
?i
n
k
T
ikikik vxvx
1
))((?
xk
vi
siikd
ikD
是 xk 与 vi 之间的距离,
的第二项维数为 r的线性簇,
用标积< ·,·>表示,其大小
反映了样本的分布密度。该
簇由通过 vi, r 个线性独立变量
张成。 r = 1时线性簇的表示rsss,...,,21
g 是 0,1之间参数
定义, 1) 划分矩阵 U
2) 聚类中心
3)广义扩充矩阵
? ?ikU ??
kx
ikd ikD
iv is
js
r = 2的情况下几何解释
模糊聚类的算法流程
计算 v
i
计算∑
i
更新 U
计算 r 个主特征值和相应特征向量
S
j,
j =1,2,… r
| U
t
- U
t +1
| < ?
初始化,确定 c,r,m,v 和 μ
i k
的初值
停止
C = 1,2,…,
( 计算特性指标 )
14
2/1
1
22 )),((
??
?
??
? ? ????
?
r
j jikikik
svxvxD
)1( 22 ikikik gdDg ????
? ?
? ?
?
c
i
n
k
ik
m
ikJ
1 1
)( ??
可以证明,只有当 为上述表达式时,特性指标iik v 和?
才能达到最小,
对 求特征值,选择 r个最大的特征值,对应于其中
第 j个特征值的特征向量,即为
?i
js
结论, 模糊聚类比试探性 的搜索法,能更好的
划分输入变量空间,
12 回到结构辨识
111
1
2
3
4
5
1
1聚类中心隶属函数 1
2
聚类中心隶属函数 2
3
聚类中心隶属函数 3
4
聚类中心隶属函数 4
5
聚类中心隶属函数 5
模糊系统辨识的问题分类
1、静态系统的辨识,它包括:
1)参数辨识
2)结构辨识
2、动态系统的辨识
1)结构辨识
2)系统行为的辨识
● 一般情况下的静态模糊辨识问题
在一般情况下,规则具有以下的形式:
R,If f(x1是 A1,…,xk是 Ak),Then y = g(x1,x2…,xk)
这里,x1 ~ xk 是前提(前件)变量;
y:是结论(后件)变量;
A1 ~ Ak 是具有非线性的隶属函数的模糊集合。它表示
模糊子空间。规则 R在 子空间所组成的空间中推理。
f,连结前件命题的逻辑函数
g,非线性函数,当 x1 ~ xk满足前件条件时,表明 y的值
辨识对象输入数据 期望数据
模糊规则
模糊辨识的基本要求
.,...2,1
..,
,...,,,
110
2211
ni
xpxppyT h en
AxAxAxIf
k
i
k
ii
i
kk
ii
?
????
是是是
ix
ikA
ikp
iAix
iU
ix
32121 2T h e n b i g,s m a l l,xxxyxxIf ???为
式中 即为无条件满足。在前提中 可不必列出。3x
在线性的情况下,规则可以写成:
Ri:
这是 Takagi—Sugeno一阶模型。要辨识的内容有:
1) 前件变量 的数目,决定系统的阶次,属于结构辨识
2) 隶属函数 — 前件参数
3) 后件参数
在前件中,如果 等于 的整个论域,(即 ),此项可
略去,无限定,成为无条件。譬如:
3x
4 4.5 7.0 8.5 10
R2
R3
R1
在输入空间已划分的情况下,模糊辨识的实质就是在所定义
的空间下,给出规则的集合。
X
Y举例,
用 3条规则逼近原函数(如
右图 )。输入 -输出对的数据
已知,这里假定只有 1个输
入变量,它被划分为 3个模糊
集合,即大、中、小。可描
述的规则如下:
R1
R2
R3
If x 是
If x 是
If x 是
big
small
middle
4 10
0 7
4 7 8.5
Then y = 0.2x + 9
Then y = 0.6x + 0.2
Then y = 1.2x - 3
与传统的辨识方法相比,模糊辨识的特点在于:
1)可以用较少的规则来逼近函数;
2)可以用语言变量来表达。
模糊辨识的一种方法及步骤
针对 Takagi—Sugeno( T—S)模型,辨识步骤:
⑴ 选择前件变量
⑵ 前件参数辨识
⑶ 后件参数辨识
非线性规划法
最小二乘法算法的框架
1
4 7 8, 5 10
前件变量的组合
前件参数的辨识
后件参数的辨识
搜索法
small middle big
?
?
????
..,
,...,,,
1
1
1
1
1
0
1
11
22
1
11
kk
kk
xpxppyTh e n
AxAxAxIf 是是是
.,,
,.,,,,,
110
2211
k
n
k
nnn
n
kk
nn
xpxppyT h en
AxAxAxIf
????
是是是
★ 后件参数辨识
考虑一般化系统,由 n条规则组成:
R1
Rn
k
i
ki
iii
i
R
ii
R
xpxppy
y
y
???????
?
?
?
?
10式中
则
?
?
? ?
? ??
?
?
?
?????
????????????
?
n
i
k
i
k
i
n
i
k
i
ki
ii
k
i
k
i
xAxA
xpxppxAxA
y
1
11
1
1011
)( )(
) ()( )(
得输出:,对输入 ),...,( 1 kxx
? ?
? ??
?
?????
?????
? n
i
k
i
k
i
k
i
k
i
i
xAxA
xAxA
1
11
11
)( )(
)( )(
?
令
) (
) (
110
110
ik
i
ki
i
i
i
n
i
k
i
k
ii
n
i
i
xpxpp
xpxppy
???
?
???????
???????
?
?则
当输入数据
ni
yyyYxxxx
imiii
mikiii
,.,,,2,1 ),.,,,,(
),.,,,,( ),.,,,,(
21
2111
??
??
给定,
已知,
????
),...,,......,,...,,,,...,,( 211211102010 nkkknn pppppppppP ?
后件参数
可以用最小二乘法进行计算。
输入与输出的关系用矩阵形式表示:
XPY ?
m
xxxx
xxxx
xxxx
X
kn
nmkmmknmmmnmm
nkmknmn
nkmknmn
?
?
?
?
?
?
?
?
?
??????
???????
??
?????????? ??????????? ??
)1(
1111111
2121211211212
1111111111111
...............
...............
...............
??????
??????
??????
)1(
...............
...............
...............
1
2
1
3
0
2
0
1
0
)1(
1111111
2121211211212
1111111111111
??
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
?
??????
???????
?
??
kn
p
p
p
p
p
p
p
xxxx
xxxx
xxxx
Y
n
k
n
k
k
k
kn
nmkmmknmmmnmm
nkmknmn
nkmknmn
?????????? ??????????? ??
??????
??????
??????
的参数矩阵是 )1( ??? knmX
? ?
? ??
?
?????
?????
?
n
i
kj
i
kj
i
kj
i
kj
i
ij
xAxA
xAxA
1
11
11
)( )(
)( )(
?
其中
后件参数按最小二乘法计算 YXXXP TT 1)( ??
★ 前件参数辨识
在已知输入空间(变量)划分和后件参数的条件下,给
定性能指标,求解非线性规划,使隶属函数的参数最优化,即:
KkniAts
AA
yy
i
k
i
k
,.,,,2,1,,.,,2,1 10,.
?M i n
2
????
?
?
y? 是期望输出
维向量。为矩阵;为系数向量;为此处 mYknmXknP )1( 1)1( ??????
★ 前件空间(变量)的划分
开始
第一步
第二步
第三步
x1 x i x k
xi-xj
xi-xk
xi -xj-x1
解决 2个问题:
①变量空间的划分;
②模糊子空间的选择,2个
(大、小),3个(大、中
小)或多个 。
步骤 1 把 xi (i=1,2,…k)
划分成 2个模糊子集,从
中选择使特性指标为
最小的 xi, 称 1-i模型的
稳态。
用搜索法
步骤 2 从稳态开始,将 xi 与其它变量组合,xi –xj, 称 2-j
模型,各模型有 4个组合,选其中最小的 1组,形成 2-j的稳
态;
稳态
稳态
稳态
步骤 3 将 xi – xj 与其它变量进行 3变量的组合,形成 xi-xj-xk,
选择最优者,直到
1)特性指标达到预定值;或
2)稳态隐含 过预定值
● 模糊聚类 —模糊结构辨识的一种方法
基本思想,设置合理的指标,按此指标,确定模糊聚类中心,
使模糊输入空间划分优化。
优点,① 分类可自动进行;
② 可利用非结构知识,实行搜索或智能方法。
原理,假定 p维实数空间有 n个样本(模式),即
pn Rxxx ?,.,,,,21
假定结构有 c类,设定目标函数为:
? ?
? ?
?
c
i
n
k
ik
m
ikJ
1 1
)( ??
18(样本)
1
1
??
?
c
i
ik?
?
?
??
n
k
ik in
1
0 对所有?
2/1
1
22
22
)),((
]1,0[ )1(
?
?
?
?
?
?
? ????
??
????
?
r
j
jikikik
ikik
ikikik
svxvxD
vxd
ggdDg?
式中,]1,0[?
ik? 是第 k个模式属于第 i类的程度,满足:
ⅰ )
ⅱ )所有类非空,
m为参数,控制隶属对指标的影响,
ik? 描述第 k个模式( x K)和聚类中心 vi 之间的距离。
1/1
1
1
?
? ?
?
?
?
?
?
?
?
mc
i jk
ik
ik
?
?
?
?
?
?
??
n
k
m
ik
n
k
k
m
ik
i
x
v
1
1
)(
)(
?
?
? ? ?????? ???
?i
n
k
T
ikikik vxvx
1
))((?
xk
vi
siikd
ikD
是 xk 与 vi 之间的距离,
的第二项维数为 r的线性簇,
用标积< ·,·>表示,其大小
反映了样本的分布密度。该
簇由通过 vi, r 个线性独立变量
张成。 r = 1时线性簇的表示rsss,...,,21
g 是 0,1之间参数
定义, 1) 划分矩阵 U
2) 聚类中心
3)广义扩充矩阵
? ?ikU ??
kx
ikd ikD
iv is
js
r = 2的情况下几何解释
模糊聚类的算法流程
计算 v
i
计算∑
i
更新 U
计算 r 个主特征值和相应特征向量
S
j,
j =1,2,… r
| U
t
- U
t +1
| < ?
初始化,确定 c,r,m,v 和 μ
i k
的初值
停止
C = 1,2,…,
( 计算特性指标 )
14
2/1
1
22 )),((
??
?
??
? ? ????
?
r
j jikikik
svxvxD
)1( 22 ikikik gdDg ????
? ?
? ?
?
c
i
n
k
ik
m
ikJ
1 1
)( ??
可以证明,只有当 为上述表达式时,特性指标iik v 和?
才能达到最小,
对 求特征值,选择 r个最大的特征值,对应于其中
第 j个特征值的特征向量,即为
?i
js
结论, 模糊聚类比试探性 的搜索法,能更好的
划分输入变量空间,
12 回到结构辨识
111
1
2
3
4
5
1
1聚类中心隶属函数 1
2
聚类中心隶属函数 2
3
聚类中心隶属函数 3
4
聚类中心隶属函数 4
5
聚类中心隶属函数 5