1、学习n 学习就是对信息进行编码,其目的就是通过向 有限个例子（训练样本）的学习来找到隐藏在例子背后（即产生这些例子）的规律（如函数形式）。1感谢你的欣赏2019-9-15编码n我们使用状态级（behavioristic）编码准则。如果输入激励为 ，而响应为 ，则认为系统学会了激励响应对 。n输入输出对 表示函数 的一个采样。函数将n维矢量X映射到p维矢量Y ixiy(,)iix y(,)iix y:npf RR2感谢你的欣赏2019-9-15学习过程n由所有的输入 得到响应 那么系统就学习了函数。X Yf X3感谢你的欣赏2019-9-15学习过程n若输入 系统就会得到响应 ，则表明系统近似或
2、部分的学习了函数，即系统把相似的输入映射为相似的输出，由此估计出一个连续的函数。/XX/YYfX4感谢你的欣赏2019-9-15学习与改变n当样本数据改变系统参数时，系统学习、自适应或自组织这些改变。在神经网络中表现为突触的改变，而不是神经元的改变（尽管有时神经元也学习新的状态）。n注：突触的改变就是权值的学习过程，而神经元的改变只是网络的演化。5感谢你的欣赏2019-9-15结论n当激励改变了记忆介质并使改变维持相当长一段时间后，系统才学会了。这也说明了传统的解释学习是半永久的变化。如果我们通过了微积分的考试，那么可以说我们学会了微积分，并且可以持续这种“会“的状态一段时间。6感谢你的欣赏2
3、019-9-15举例n画家画画n除草机除草7感谢你的欣赏2019-9-15学习与量化n学习模式与样本模式之间存在严重的不匹配。n通常系统只能学会样本模式环境中一小部分样本模式，而可能的样本数量使无穷的。8感谢你的欣赏2019-9-15学习与量化n量化的必要性n系统的存储量是有限的，这就要求系统要通过学习学会用新的样本模式替换旧的样本模式，从而形成样本模式的内部表达或采样模式的样机。n学会了的样机定义量化模式。9感谢你的欣赏2019-9-15学习与量化n量子化 量子化，把样本模式空间 分成k个区域：量子化区域决策组。被学习的原型矢量在一个足够大的模式空间 中定义了个 突触点。当且仅当某个 在 中
4、移动时，系统才进行学习。nRnRmnRim10感谢你的欣赏2019-9-15学习与量化n矢量量子化规则 矢量量子化可以按照不同的规则进行优化。原型可以扩展以使矢量量子化均方误差最小或使某些数字性能规则最优。更一般的，量子化矢量可以估计样本模式的未知的概率分布，即，原型矢量的分布可以统计的代表样本模式的未知分布。11感谢你的欣赏2019-9-15非监督学习n描述样本模式x在样本空间 中的连续分布的概率密度函数 未知，通过学习来更精确的估计 。n非监督学习不作 的假设，只是利用最少限度的信息 。n利用“无标志”的模式样本，“盲目”处理模式样本 ，其计算复杂度小，精确度小，但是速度快，适用于高速环境
5、。nR p x p x p xX12感谢你的欣赏2019-9-15监督学习n监督器假设了一种样本模式分组结构或 性能。n监督学习算法依赖于每个学习样本的分组隶属度信息，即，假设 分成：所以算法可以检查出错误分组或计算出“错误”信息或矢量。p xnR12ji,.,ijKD DDXDXD而并且13感谢你的欣赏2019-9-15监督学习n计算较复杂，精确度较高，但是速度较慢。14感谢你的欣赏2019-9-15在神经网络中的区别n监督学习利用在所有可能的突触值的联系空间中估计出的梯度下降，来估计依赖于的未知均方性能的测度梯度。监督器利用分组隶属度信息来确定数字误差信号或矢量，以引导估计出的梯度下降。1
6、5感谢你的欣赏2019-9-15在神经网络中的区别n非监督学习类似与生物突触，利用神经信号的局部信息来改变参数，而不利用分组隶属度信息，处理未标志的原始数据。它自适应的把样本模式分成模式簇 ，突触扇入矢量估计样本模式的分组轨迹，这个过程依赖于未知概率密度函数 ，其它非监督神经系统具有模式状态空间（pss）的吸引子低谷AB,AB对应于模式分组。jD p x16感谢你的欣赏2019-9-15在神经网络中的区别n一阶差分或一阶微分方程可以用来定义非监督学习定律。一般来说，随机微分方程定义了非监督学习定律，并且描述了突触如何处理局部信息。17感谢你的欣赏2019-9-15局部信息 n局部信息：突触可以
7、简单获得的，经常是表示突触性质和神经信号性质的信息。n局部化使突触可以实时、异步地学习，不需要全局的误差信息，也使非监督学习定律的函数空间缩小，即，突触只能获得局部非常有限的信息。18感谢你的欣赏2019-9-15局部信息n局部的非监督突触把信号和信号联系起来，形成由局部化限定的共轭或相关学习定律。n学习定律中只包含神经元、突触和噪声三项。n借助于联想可以进一步缩小函数空间，它把模式联系起来。通过 把 、联系起来，神经网络估计函数 和未知的联合概率密度函数 。:f XYXYf,p x y19感谢你的欣赏2019-9-15四个非监督学习定律 n主要介绍了信号Hebbian学习、微分Hebbian
8、学习、竞争学习、微分竞争学习 这四种非监督学习定律。20感谢你的欣赏2019-9-15四个非监督学习定律n首先介绍这四种非监督学习定律的确定性形式；n为了在实际中严密论述学习定律的随机形式，再简单回顾一下概率论、随机过程、布朗运动和白噪声；n最后，对这四种非监督学习的学习定律的性质分别加以简单介绍。21感谢你的欣赏2019-9-15确定信号的Hebbian学习定律n局部神经信号：或简化为：xyijijiijjmmsx sy ijijiijjmms x sy22感谢你的欣赏2019-9-15确定信号的Hebbian学习定律n若 ，则第 个连接被激活n若 ，则第 个连接被抑制n ：是单调非下降函数
9、，其作用就是把激励或膜电位 转化为有界信号 。0ijm 0ijm ijij()is ix iis x23感谢你的欣赏2019-9-15确定性的竞争学习定律（Grossberg，1969）n用是竞争信号调整信号突触的差，即：ijjjiiijmsysxm11jjjcysye(0)c 24感谢你的欣赏2019-9-15确定性的竞争学习定律 （Grossberg，1969）n若 ，则输出神经元场 中的第 个神经元赢得竞争；n若 ，则输出神经元场 中的第 个神经元输掉竞争。1jjsyYFYFjj 0jjs y 25感谢你的欣赏2019-9-15确定性的竞争学习定律 （Grossberg，1969）n竞争
10、可以归结为最近的模式匹配。是一个度量指示器函数。1,min,0,min,jkkjjjkkd S Xmd S XmSyd S Xmd S Xm jjS y26感谢你的欣赏2019-9-15确定性的竞争学习定律 （Grossberg，1969）n实际中，是线线性的，即，输入模式矢量 就代表了神经元场 中的输出。此时，竞争学习准则就成为线性竞争学习准则：iiiS xxXFXFXjiijmSyXm27感谢你的欣赏2019-9-15确定性的微分Hebbian学习准则（Kosko，1988）n学习准则 信号速度：虽然信号是非负的，但是速度则可正可负 ijijijiijjijmmS x SySx Syiii
11、iiiidSxdS dxS xdtdxdt28感谢你的欣赏2019-9-15确定性的微分竞争学习定律n学习法则：微分竞争，只有改变了才学习，速度 使局部奖惩强化。ijjjiiijmSyS xmjS29感谢你的欣赏2019-9-15确定性的微分竞争学习定律n线性微分竞争学习法则：ijjjijmSyXm30感谢你的欣赏2019-9-15布朗运动和白噪声 n布朗运动的样本是一个连续的不断抖动的曲线。n白噪声是理想化的布朗运动的时间导数，是在无限宽的频带上的一个平的频谱，因而具有无穷大的平均能量 2tE n 31感谢你的欣赏2019-9-15三概率空间和随机过程n随机过程是随机变量族的序列，更一般的讲
12、，是随机矢量族的序列（即多维随机矢量）。n随机过程也是有序号的随机变量，不同序号的集合定义了不同的随机过程。n一个有限序号集定义了一个随机矢量，如 n一个有限可数的序号集定义了一个随机序列。n一个连续或不连续的序号集定义了一个随机过程。1,nXxx32感谢你的欣赏2019-9-15可测性n随机过程 是 的函数，就是在算子T的作用下将 映射成 。n映射X必须是可测的。tXnmRTRnRmR33感谢你的欣赏2019-9-15可测性n假设，的子集 由区间乘积构成：n假设 的子集 由n个被映射到 的矢量构成：如果，则集合 是 的一个可测子集，或Borel集，则概率 也确定了。mRB1,mByy 111
13、,ppppbbR bybynRABr 1:nAXBrRX rBnAB RAnB R p A34感谢你的欣赏2019-9-15可测性n一般来说，函数或映射当且仅当可测集的反向映射集是可测集时，才是可测的。35感谢你的欣赏2019-9-15概率空间n 定义了概率空间，a.为概率空间提供点或元素事件b.集合集 为概率空间提供点或事 件的集合c.概率测度 把集合事件在 上以数字加权。,nnR B RPnRnB R:0,1nP B R0,136感谢你的欣赏2019-9-15Sigma代数 nSigma代数或Sigma场，是样本空间的集合族。n若 表示Boerl场，的拓扑Sigma代数，它包含了 的Bor
14、el可测子集nB RnRnR37感谢你的欣赏2019-9-15概率测度 n定义：若 在 的不相交子集 上是可数、加性的，即：则 定义了一个概率测度PnB R12,A A 110iiijiiPAAAAif ij:0,1nP B R38感谢你的欣赏2019-9-15概率测度n概率测度把有限的非负数赋予 的集合。概率空间 上，。nB R,nnRB RP1nP R39感谢你的欣赏2019-9-15累积概率函数n随机矢量 其累积概率函数 为 简记为 ，或直接记为:npX RR pXPYYR 11:;nXnPYPrRXrYPrRxry XFy F X40感谢你的欣赏2019-9-15概率密度函数 n假设
15、有连续的偏导数，则概率密度 函数为：是非负的实数，其和或积分为1：FXp X 1nnp XF Xxxp X101nnnRp XXRp X dXp X dxdx41感谢你的欣赏2019-9-15高斯密度函数 n高斯密度函数 是最重要的概率密度函数之一 其中，为随机矢量x的平均值GpX 112211exp22TGXXnpXX m KX mKXm42感谢你的欣赏2019-9-15数学期望 n数学期望是 1,XnRnmE XXp X dXE xE x43感谢你的欣赏2019-9-15互相关n互相关是,TR X ZE XZ44感谢你的欣赏2019-9-15互协方差n互协方差是cov,XZXZX ZEX
16、mZ mE XZm m45感谢你的欣赏2019-9-15互协方差阵n互协方差阵是 cov,TXXijijiiiK E X mX mkx xkV x46感谢你的欣赏2019-9-15互相关协方差矩阵n互相关协方差矩阵 TXZXZXZKEXmZm47感谢你的欣赏2019-9-15不相关 n若X、Z不相关，则EXZEXE Z48感谢你的欣赏2019-9-15独立n若X、Z相互独立，则 ,p x zp x p z49感谢你的欣赏2019-9-15条件概率密度函数 n条件概率密度函数 是 p x z ,0p x zp x zp zp z50感谢你的欣赏2019-9-15条件期望n条件期望是E x zxp
17、 x zdx51感谢你的欣赏2019-9-15条件独立n条件独立 E xy zE x zE y z52感谢你的欣赏2019-9-15指示器函数 则可以定义 指示器函数 n,Borel SigmaB RnDR属于代数10BorelDDifXDIXifXDI是可测的53感谢你的欣赏2019-9-15指示器函数 n 数学期望 EnDDRDIIX p X dXp X dXp D54感谢你的欣赏2019-9-15收敛定义 n收敛定义 00,0,nrRnnnx rx r 存在一个整数以使当时，有下式成立：55感谢你的欣赏2019-9-15四种收敛方法：n以概率1收敛：n依概率收敛 :lim1nnp rRx
18、 rx r :00nprR xrx r 56感谢你的欣赏2019-9-15四种收敛方法：n均方收敛n依分布收敛2lim0nnE xx limnxxnFrF r57感谢你的欣赏2019-9-15四种收敛方法n四者关系：以概率1收敛 均方收敛 依概率1收敛 依分布收敛，上述逆不成立。58感谢你的欣赏2019-9-15高斯白噪声n高斯白噪声是布朗运动的伪导数过程 ：连续的布朗运动扩散或Wiener过程 定义：tB tdBnndt为理想的白噪声过程59感谢你的欣赏2019-9-15高斯白噪声n白噪声过程是零均值和时间域不相关的 00tE ntE n t n t ss60感谢你的欣赏2019-9-15高
19、斯白噪声n 具有有限的方差 tn 22tV nE n61感谢你的欣赏2019-9-15高斯白噪声n 有一个确定性的自相关函数tn 2,nnRt tsE n t n tsRss 62感谢你的欣赏2019-9-15高斯白噪声n自相关函数为 222222,min,BBRt sRt st st st sSTEP tsttss 63感谢你的欣赏2019-9-15宽平稳随机过程n当且仅当时间变化不影响一、二阶矩时，一个随机过程才是宽平稳随机过程，即 tan,E x tconsttR t t sR ss64感谢你的欣赏2019-9-15噪声随机非监督学习定律 n首先考虑一般的情况,ijijijmfX Y M
20、n c65感谢你的欣赏2019-9-15噪声随机非监督学习定律n引理：2ijijE m66感谢你的欣赏2019-9-15噪声随机非监督学习定律n引理说明：随机突触在平衡态振动，而且至少和驱动的噪声过程的振动的一样大，突触矢量 在每个t都振动，其平均值为一常数，即围绕常值 作布朗运动。jmjE m 67感谢你的欣赏2019-9-15随机平衡n当突触 停止运动，确定的Hebbian学习定律出现了随机平衡jm0jm 68感谢你的欣赏2019-9-15竞争学习定律 n随机竞争学习定律用随机竞争信号 调制随机矢量差 ，并加上独立高斯白噪声矢量 来模型化那些未模型化的效应 jjS y jS Xmjn jjjjjmS yS Xmn69感谢你的欣赏2019-9-15线性竞争学习定律 n线性竞争学习定律以X代替线性信号矢量 S X jjjjjmSyXmn70感谢你的欣赏2019-9-15离散随机差分方程系统 n常用竞争学习算法作为离散随机差分方程系统 111jjkkjkjjjkkjkjjjm km kc Xm kXDm km kc Xm kXDm km kij71感谢你的欣赏2019-9-15自组织映射系统nKohonen把下面简化的非监督随机系统称为自组织映射系统 11jjkkjjjm km kC Xm km km kij 72感谢你的欣赏2019-9-15
