1、原创神经网络PPTTitle“神经网络神经网络”这一概念于这一概念于20世纪七世纪七十年代提出。十年代提出。但实际上多层感知器早在但实际上多层感知器早在50年代就年代就已经有人提出,多层感知器是神经已经有人提出,多层感知器是神经网络的雏形。网络的雏形。因此,首先简单介绍背景知识因此,首先简单介绍背景知识感知器感知器感知器首先看一个线性可分问题首先看一个线性可分问题x1x2Title把这两类点分开非常简单,只要定义一个线性判别函数把这两类点分开非常简单,只要定义一个线性判别函数那线性不可分怎么办呢?看一个例子Title黑色代表一类点,红色代表一类点。怎黑色代表一类点,红色代表一类点。怎么把他们分
2、开呢?么把他们分开呢?Title 也就是将向量x映射到y空间 y=(1,x,x2)T g(x)=a1+a2x+a3x2 这样用一个简单的二次函数就可以判断了Title 简单起见,我们设x0=1 y=(1,x1,x2xd)T a=(w0,w1,w2wd)这个简单线性分类器的图示它的输出就是一个简单的符号函数。大于某一值,输出1;否则,输出零。把这些单元组成多层结构,就是多层感知器Title 1969年Minsky和Paper发表感知器一书,论证了简单线型感知器的局限性。并且指出多层感知器还不能找到有效的计算方法。 70代中后期重新提起神经网络概念。 80年代BP网络神经网络 理论上讲,三层神经网
3、络就可以以任意精度逼近任意函数TitleTitle净函数,激活函数净函数要具备的几个特征:首先f要有非线性,否则三层网络将不提供高于两层网络的计算能力第二:饱和性,即存在最大最小值第三是连续性和光华性第四是单调性反向传播算法BP网络解决了训练和学习问题!BP(Back Propagation)训练过程:给它一组输入,有对应的输出。我们定义期望的输出值是tk ,实际的输出值zk。定义一种平方和这里括号里的W表示所有的权值。反向传播学习规则是基于梯度下降法的:沿着梯度的负方向,收敛速度最快。首先随机赋予权值,一般来说权值应该比较小。然后向误差减小的方向调整。BP学习率只表示权值的相对变化尺度在第m
4、步迭代将权向量更新为以三层网络为例。考虑第一个隐含层到输出层的权值wjk,BP敏感度BP输入层到隐含层的权值计算是分配问题的关键。右边的第一项包含了所有的权值wkjBP隐单元的敏感度BPBPBP隐含节点数的选取:目前没有太好的理论证明,具体的问题不太一样。但是在经验中人们总结,对于一个确定输入节点数和输出节点数的网络,确定隐含节点数,使权值数大致为训练样本数的十分之一实例本文根据经验公式和多方面的试验,选取风速预测神经网络模型的输入变量为 8 个,从而输入层节点数为 8;隐层数为一个,其节点数为 17;网络的输出为下一小时风速的预测值,从而输出层节点数为 1。在风速预测网络模型中,隐层采用 t
5、ansig 转移函数,输出层采用 pureline转移函数,将神经网络的输入变量确定该为序列的最近 6 个历史值以及最近两个残差值,共需 8 个输入层节点。时间序列法。神经网络法风速预测的绝对平均误差在 21%左右神经网络非线性问题对于函数未知的复杂问题训练和学习速率2. 生活如海,宽容作舟,泛舟于海,方知海之宽阔;生活如山,宽容为径,循径登山,方知山之高大;生活如歌,宽容是曲,和曲而歌,方知歌之动听。1. 感谢上苍我所拥有的,感谢上苍我所没有的。9. 自己打败自己的远远多于比别人打败的。4. 凡真心尝试助人者,没有不帮到自己的。15. 火柴如果躲避燃烧的痛苦,它的一生都将黯淡无光。( )14
6、. 进入黑名单就意味着你不再是我看重的人,连陌生人都比不上。9. 岩石下的小草教我们坚强,峭壁上的野百合教我们执著,山顶上的松树教我们拼搏风雨,严寒中的腊梅教我们笑迎冰雪。15、夫妇一条心,泥土变黄金。4、人生伟业的建立 ,不在能知,乃在能行。15. 恐惧自己受苦的人,已经因为自己的恐惧在受苦。20. 在世界的历史中,每一伟大而高贵的时刻都是某种热忱的胜利。5、拥有梦想只是一种智力,实现梦想才是一种能力。14. 不要吝惜自己的爱,敞开自己的胸怀,多多给予,你会发现,你也已经沐浴在了爱河里。3. 贫穷是不需要计划的,致富才需要一个周密的计划15. 孤独是空气,你呼吸着它而感觉到自己存在。11. 只向最顶端的人学习,只和最棒的人交往,只做最棒的人做的事。16. 你可以选择这样的“三心二意”:信心、恒心、决心;创意、乐意。3. 空想会想出很多绝妙的主意,但却办不成任何事情。9. 感情一再疏远的原因,或许就是,我需要你的时候,而你恰好都不在。两人之间的爱,不要猜测心意,不需要担心行踪;不害怕在无意之间激怒,不怀疑做任何事情的动机。两人之间的爱,有一点牵挂却不会纠缠,有一点想念却不会伤心。一个真正值得去爱、也懂得回爱的人,自然会让爱情变得简单而长久。10. 你的强势之下缺少一种开放的心态。8. 没有退路时潜能就发挥出来了。