1、1 清华大学 计算机系 马少平2姓名：马少平l单位：智能技术与系统 国家重点实验室l电话：6278 3191l办公室：FIT楼3-517lE-mail：l网上课堂：l主页：www.thuir.org3l很早人类就有制造机器人的幻想黄帝的“指南车”诸葛亮的“木牛流马”亚里士多德的形式逻辑布莱尼茨的关于数理逻辑的思想“机器人”一词的来源l捷克剧作家卡雷尔恰佩克于1922年搬上纽约舞台的戏剧罗萨姆的万能机器人 4l现代人工智能（Artificial Intelligence，简称AI），一般认为起源于美国1956年的一次夏季讨论（达特茅斯会议），在这次会议上，第一次提出了“Artificial In
2、telligence”这个词。5l至今没有统一的定义l从“计算”到“算计”6像人一样思考的系统理性地思考的系统l“要使计算机能够思考.意思就是：有头脑的机器”（Haugeland,1985）l“与人类的思维相关的活动，诸如决策、问题求解、学习等活动”（Bellman,1978）l“通过利用计算模型来进行心智能力的研究”（Chamiak和McDermott,1985）l“对使得知觉、推理和行为成为可能的计算的研究”（Winston,1992）像人一样行动的系统理性地行动的系统l“一种技艺，创造机器来执行人需要智能才能完成的功能”（Kurzweil,1990）l“研究如何让计算机能够做到那些目前人
3、比计算机做得更好的事情”（Rich和Knight,1991）l“计算智能是对设计智能化智能体的研究”（Poole等，1998）l“AI.关心的是人工制品中的智能行为”（Nilsson,1998）7l如何知道一个系统是否具有智能呢？l1950年，计算机科学家图灵提出了著名的“图灵测试”。8l罗杰施安克的故事理解程序（举例）l机器是否真的理解了呢？l希尔勒的中文屋子l问题：通过了图灵测试就具有了智能吗？l思考题：如何理解希尔勒的中文屋子？9l“一个人进入餐馆并订了一份汉堡包。当汉堡包端来时发现被烘脆了，此人暴怒地离开餐馆，没有付帐或留下小费。”l“一个人进入餐馆并订了一份汉堡包。当汉堡包端来后他非
4、常喜欢它，而且在离开餐馆付帐之前，给了女服务员很多小费。”l作为对“理解”故事的检验，可以向计算机询问，在每一种情况下，此人是否吃了汉堡包。返回10研究如何制造出人造的智能机器或系统，来模拟人类智能活动的能力，以延伸人们智能的科学。11数据数据平台平台应用系统应用系统AI12l第一阶段（40年代中50年代末）神经元网络时代双层网络 M-P模型、感知器模型等问题：XOR问题不能解决 13lXOR问题（异或问题）输入1输入2输出000011101110(0,0)(1,1)(0,1)(1,0)14lMinsky的著作：Perceptions（感知器）从理论上证明了一层神经元网络不可能解决XOR问题致
5、使世界范围内有关神经网络的研究停滞十多年15l第二阶段（50年代中60年代中）通用方法时代物理符号系统主要研究的问题：GPS、游戏、翻译等对问题的难度估计不足，陷入困境16l一个笑话（英俄翻译）：The spirit is willing but the flesh is week.（心有余而力不足）The vodka is strong but meat is rotten.（伏特加酒虽然很浓，但肉是腐烂的）17l出现这样的错误的原因：Spirit：1）精神 2）烈性酒l结论：必须理解才能翻译，而理解需要知识18l知识就是力量培根l知识蕴涵着力量费根鲍姆l一个例子：lThe pen is i
6、n the box and the box is in the pen.19l第三阶段（60年代中80年代初）知识工程时代专家系统知识工程知识工程席卷全球各国发展计划：l美国星球大战计划l英国ALVEY计划l法国UNIKA 计划l日本五代机计划l中国“863”计划20l遇到的困难：知识获取的瓶颈问题21l第四阶段（80年代中90年代初）新的神经元网络时代BP网（算法），解决了多层网的学习问题Hopfield网，成功求解了旅行商问题二层网络可以任意逼近任何有界连续函数三层网络可以任意逼近任何函数存在问题：l理论依据l解决大规模问题的能力2006年，深度学习（Deep Learning）兴起22l
7、第五阶段（90年代初现在）l海量信息处理与网络时代l统计机器学习时代l大数据l深度学习统计机器学习大发展网络给AI带来无限的机会l网络拯救了人工智能知识发现与数据挖掘网络信息检索与挖掘AI走向实用化l百度成立深度学习研究院（IDL，2013.4）lGoogle与NASA合作，成立量子人工智能实验室（2013.5）半年内收购了8加机器人公司lFacebook成立人工智能实验室（2013.12）lIBM成立沃森业务集团lIBM、微软也分别开展仿人脑研究23l大数据l深度学习l奇点临近2425l符号主义认知基元是符号，认知过程即符号操作过程 l链接主义思维基元是神经元，智能通过神经元的链接实现l行为
8、主义智能取决于感知和行动 不需要知识、不需要表示、不需要推理 26l搜索技术l知识表示l规划方法l机器学习l认知科学27l自然语言理解与机器翻译l专家系统与知识工程l定理证明l博弈l机器人l数据挖掘与知识发现28l网络信息检索与挖掘l社交网络的分析与挖掘l情感分析与计算l观点挖掘l多Agent系统l人机交互技术l大数据29l近六十年来，人工智能的研究虽然步履艰难，但也取得了一些很突出的成绩。下面列举一些实例。30l50年代中期，世界上最早的启发式程序“逻辑理论家”，证明了数学名著数学原理中的38个定理。经改进后，62年证明了该书中全部的52个定理。被认为是用计算机探讨人类智力活动的第一个真正的
9、成果。31l四色定理l从1852年发现四色问题，世界上很多著名的科学家试图证明，当一直未能完成。l1976年6月，哈肯在美国伊利诺斯大学的两台不同的电子计算机上，用了1200个小时，作了100亿次判断，终于完成了四色定理的证明，从而解决了一个历时100多年的问题，轰动了世界。32l从1957年开始，Newell等人开始研究一种不依赖于具体领域的通用解题程序，这个程序的设计是从模仿人类问题求解的规程开始的。在它能处理的有限类别的问题中，它显示出程序决定的子目标及可能采取的行动的次序，与人类求解同样问题是类似的。因此，GPS很可能是第一个实现了“像人一样思考”方法的程序。33l人类之所以能求解问题
10、，是因为人类具有知识。l专家系统就是把有关领域专家的知识整理出来，让计算机利用这些知识求解专门领域的问题。l1968年世界上第一个专家系统DENDRAL问世。lMYCIN，一个著名的医疗诊断专家系统34l世界上第一个成功的商用专家系统，1982年开始正式在DEC公司使用。该程序帮助为新计算机系统配置订单；到1986年为止，估计它为公司每年节省了4千万美元。35l在1991年的海湾危机中，美国军队使用专家系统用于自动的后勤规划和运输日程安排。这项工作同时涉及到50000个车辆、货物和人，而且必须考虑到起点、目的地、路径以及解决所有参数之间的冲突。AI规划技术使得一个计划可以在几小时内产生，而用旧
11、的方法需要花费几个星期。36l深蓝l沃森37 北京时间1997年5月12日凌晨4点50分，美国纽约公平大厦，当IBM公司的“深蓝”超级电脑将棋盘上的一个兵走到C4的位置上时，国际象棋世界冠军卡斯帕罗夫对“深蓝”的人机大战落下帷幕，“深蓝”以3.5：2.5的总比分战胜卡斯帕罗夫。3839l96年2月第一次比赛结果：“深蓝”：胜、负、平、平、负、负l97年5月第二次比赛结果：“深蓝”：负、胜、平、平、平、胜40l“深蓝”的技术指标：32个CPU每个CPU有16个协处理器每个CPU有256M内存每个CPU的处理速度为200万步/秒41l2006年8月9日，经过了三个小时的激烈搏战，浪潮天梭击败大师联
12、盟。柳大华等五位中国象棋大师组成的大师队，在十局比赛中，2胜5平3负，最终以 9：11的总比分最终负于浪潮天梭。l2006年8月15日，中国象棋第一人许银川与天梭大战两个回合，不分胜负（两盘均和棋）4243l1958年，IBM704成为第一台能同人下棋的计算机，名为“思考”，思考速度每秒200步l60年代中期，科学家德里夫斯断言，计算机将无法击败一位年仅10岁的棋手l1973年，国际象棋软件4.0被开发出来，这是未来程序的基础l1979年，国际象棋软件4.9达到专家级水平l1981年，CRAYBLITZ新的超级计算机拥有特殊的集成电路，预言将可在1995年击败世界棋王44l1983年，BELL
13、EATT开发了国际象棋硬件，达到了大师水平l80年代中期，皮兹堡的CARNEGIEMELLON大学开始研究世界级的国际象棋计算机程序l1987年，“深思”首次以每秒钟75万步的思考速度露面，它的水平相当于拥有国际等级分为2450的棋手l1988年，“深思”击败丹麦特级大师拉尔森l1989年，“深思”已经有6台信息处理器，每秒思考速度达200万步，但在与世界棋王卡斯帕罗夫进行的“人机大战”中对阵以0比2败北45l1990年，“深思”第二代产生，使用IBM的硬件，吸引了前世界棋王卡尔波夫与之对抗l1991年，“弗里茨”问世l1993年，“深思”二代击败了丹麦国家队，在与世界优秀女棋手小波尔加的对抗
14、中获胜l1995年，“深蓝”更新程序，新的集成电路将其思考速度达到每秒300万步l1996年，“深蓝”在与卡斯帕罗夫的挑战赛中，以2比4不敌卡斯帕罗夫l1997年，“超级深蓝”开发出了更加高级的“大脑”，4名国际大师参与IBM的挑战小组为电脑与卡斯帕罗夫重战出谋划策，最后“超级深蓝”以3比2击败了卡斯帕罗夫，卡斯帕罗夫要求重赛，但没有得到回应46l1999年，“弗里茨”升级为“更弗里茨”(Deep Fritz)l2001年，“更弗里茨”更新了程序，击败了卡斯帕罗夫和阿南德，以及除了克拉姆尼克之外的所有排名世界前十位的棋手l2002年10月，“更弗里茨”与克拉姆尼克在巴林进行“人机大战”，思考速
15、度为每秒600万步，双方4比4战平l2003年12月“更年少者”与卡斯帕罗夫举行人机对抗，双方3比3战平47l谷歌的AlphaGo战胜欧洲冠军l2016年3月9日15日挑战韩国棋手李世石Nature 封面论文：封面论文：Mastering the game of Go with deep neural networks and tree search（通过深度神经网络和搜索树，学会围棋游戏）4849l第一阶段：2005年以前，初学者水平基本上是基于规则的方法l第二阶段：2006年2015年，业余五段水平蒙特卡洛树方法+上限信心界策略2012年3月，由日本研发的被认为是当时世界上最先进的电脑围棋
16、软件“ZEN”，在先后受五子和受四子的情况下，均击败日本武宫正树九段，这是电脑围棋首次被让四子战胜第一流职业棋手。2013年3月，电脑围棋软件“Zen”与“CrazyStone”在受四子的情况下，均战胜日本石田芳夫九段。2014年3月，日本依田纪基九段在均让四子的情况下，以1目的优势战胜“Zen”，以2目半的劣势不敌“CrazyStone”。50l第三阶段：2015年，职业水平蒙特卡洛树+深度学习+强化学习谷歌的AlphaGo，5:0战胜 欧洲冠军樊麾（职业二段）2016年3月挑战李世石5152 新浪科技讯 北京时间2011年2月17日消息，据国外媒体报道，由IBM和美国德克萨斯大学联合研制的
17、超级电脑“沃森”(Watson)今日在美国最受欢迎的智力竞猜电视节目危险边缘中击败该节目历史上两位最成功的选手肯-詹宁斯和布拉德-鲁特，成为危险边缘节目新的王者。5354l90个跑在Linux系统上的POWER 750服务器l16T内存l2800多个核l共10个机架l总价大概100万美元 l3秒内完成一个答案 l实际使用了100多个技术 lIBM成立沃森业务集团，通过分析海量大数据的思考、通过学习实现提升、并发现解决复杂问题答案l在http:/ieeexplore.ieee.org网站，搜“Watson”可以找到有关沃森系统的论文。5556l下面介绍图灵和几位获得图灵奖的人工智能大师57计算机
18、科学理论的创始人58l1912年出生于英国伦敦，1954年去世l1936年发表论文“论可计算数及其在判定问题中的应用”，提出图灵机理论l1950年发表论文“计算机与智能”，阐述了计算机可以具有智能的想法，提出图灵测试l1966年为纪念图灵的杰出贡献，ACM设立图灵奖59人工智能之父框架理论的创立者首位获得图灵奖的人工智能学者60l1927年出生于美国纽约l1951年提出思维如何萌发并形成的基本理论l1956年达特茅斯会议的发起人之一l1958年在MIT创建世界上第一个AI实验室l1969年获得图灵奖l1975年首创框架理论61l人工智能之父lLISP语言的发明人l首次提出AI的概念62l192
19、7年出生于美国波士顿l1956年发起达特茅斯会议，并提出“人工智能”的概念l1958年与明斯基一起创建世界上第一个人工智能实验室l发明剪枝算法l1959年开发LISP语言l开创逻辑程序研究，用于程序验证和自动程序设计l1971年获得图灵奖63符号主义学派的创始人爱好广泛的全能科学家中国科学院外籍院士64l1916年出生于美国的威斯康辛州l1943年在匹兹堡大学获政治学博士学位l1969年因心理学方面的贡献获得杰出科学贡献奖l1975年和他的学生艾伦纽厄尔共同获得图灵奖l1978年获得诺贝尔经济学奖l1986年因行为学方面的成就获得美国全国科学家奖章65l50年代至60年代初开发了世界上最早的启
20、发式程序“逻辑理论家”LT，证明了数学原理第二章中的全部52个定理，开创了机器定理证明这一新的学科领域l57年开发了IPL(Information Processing Language)语言，是最早的AI语言。l60年开发了“通用问题求解系统”GPSl66年开发了最早的下棋程序之一MATERl70年发展与完善了语义网络的概念和方法l70年代提出了“物理符号系统假说”l70年代提出决策过程模型，成为DSS的核心内容66l符号主义学派的创始人之一l西蒙的学生与同事l1975年与西蒙同获图灵奖 67发明“分枝界限法”的三栖学者68l1935年出生于美国波士顿l是加州大学伯克利分校三个系的教授：电气
21、工程和计算机系数学系工业工程和运筹学系l60年代提出“分枝界限法”，成功求解含有65个城市的旅行商问题，创当时的记录l1985年获得图灵奖69知识工程的提出者大型人工智能系统的开拓者70l1936年出生于美国的新泽西州l通过实验和研究，证明了实现智能行为的主要手段是知识l1977年提出知识工程，使人工智能从理论转向应用l名言：知识蕴藏着力量l1994年和劳伊雷迪共同获得图灵奖71l1963年主编了计算机与思想一书，被认为是世界上第一本有关人工智能的经典性专著l1965年开发出世界上第一个专家系统l开发出著名的专家系统MYCINl80年代合著了四卷本的人工智能手册l开设Teknowledge和I
22、ntelliGenetics两个公司，是世界上第一家以开发和将专家系统商品化的公司72大型人工智能系统的开拓者 73l37年出生于印度，66年在美国获得博士l1994年与费根鲍姆共同获得图灵奖l主持过一系列大型AI系统的开发Navlab 能在道路行驶的自动车辆项目LISTEN 用于扫盲的语音识别系统以诗人但丁命名的火山探测机器人项目自动机工厂项目，提出“白领机器人学”74鼠标的发明人超文本研究的先驱75l1925年出生于美国俄勒冈州l60年代提出计算机是人类智力的放大器的观点l1964年发明鼠标，67年申请专利，70年取得专利l对超文本技术作出了巨大贡献，以他的名字命名ACM超文本会议最佳论文
23、奖76l机器学习领域中的概率近似正确理论的开创性贡献l枚举和计算代数复杂性l并行和分布式系统方面的其他贡献77l1949年3月28日出生于英国l曾在英国剑桥大学国王学院、伦敦帝国学院和华威大学接受教育。1974年获得英国华威大学计算机科学博士学位。l曾在卡内基梅隆大学、利兹大学、爱丁堡大学任教。l1982年，成为美国哈佛大学教授，任教于哈佛大学工程和应用科学学院。l2010年获得图灵奖78l颁奖词指出，Valiant最大的贡献是1984年的论文 A Theory of the Learnable 使诞生于1950年代的机器学习领域第一次有了坚实的数学基础，从而扫除了学科发展的障碍，这对人工智能
24、诸多领域包括加强学习、机器视觉、自然语言处理和手写识别等都产生了巨大影响。可以说，没有他的贡献，IBM也不可能造出Watson这样神奇的机器来。l2011年图灵奖获得者l提出概率和因果性推理演算法，彻底改变了人工智能最初基于规则和逻辑的方向79l出生于以色 列，本科毕业于以色列理工学院l1965年在美国罗格斯大学获物理学硕士学位l同年在布鲁克林理工学院获得电机工程博士学位80l2003 年被 ACM 和 AAAI 提名Allen Newell 奖 l2008年获得富兰克林研究所计算机与认知科学专业的富兰克林奖章l2012年获得了以色列理工学院颁发的科学技术领域奖项 Harvey Prize。2
25、008年，他获得富兰克林研究所计算机与认知科学专业的富兰克林奖章81l其著作Causality:Models,Reasoning,and Inference创立了因果推理演算法，为他赢得了 2011 年英国伦敦经济和政治科学学院的 Lakatos 奖82lJudea Pearl的工作改变了人工智能，他通过在不确定的条件下为信息处理创造了一个具有代表性的计算基础。他的工作超出了基于逻辑理论基础的人工智能以及基于规则科技的专家系统范畴。他指出智能系统所面临的不确定性是一个核心问题，并且提出概率论算法作为知识获取及表现的有效基础。8384l第第1章绪论章绪论l什么是人工智能；图灵测试；希尔勒的中文屋
26、子；人工智能的研究目标；人工智能的发展简史；人工智能研究的问题；历史上的人工智能大师；课程内容及要求l第第2章搜索问题章搜索问题l回溯式搜索；一般的图搜索算法；深度优先搜索；宽度优先搜索；迭代的深度优先算法；A*算法；改进的A*算法；迭代的A*算法l第第3章章 博弈搜索博弈搜索l-剪枝，蒙特卡洛树搜索 l第第4章高级搜索问题章高级搜索问题l局部搜索；模拟退火算法；遗传算法l第第5章统计机器学习章统计机器学习l朴素贝叶斯法；决策树；支持向量机；神经网络l第第6章人工智能中的谓词演算及其应用章人工智能中的谓词演算及其应用l一阶谓词演算简介；归结方法；基于归结的问答系统；基于规则的演绎系统；l第第7
27、章专家系统原理章专家系统原理l什么是专家系统？专家系统的组成，知识表示方法，推理方法，不确定性推理方法85人工智能导论程序设计离散数学机器学习模式识别信息检索人工智能原理计算语言学知识工程信息检索前沿研究计算智能及机器人学搜索引擎技术基础86l期末考试（70）l大作业（30）l平时作业，采用“负分制”，基数分为负30分，完成一次作业累加一次，全部作业正确完成者为0分，否则为负分。l以上三者累加为总成绩l必要时，会考虑按照比例调整分数87l人工智能导论讲义，电子版，网络学堂l林尧瑞，马少平，人工智能导论，清华大学出版社l马少平，朱小燕，人工智能，清华大学出版社lStuart Russell,Peter Norvig著，姜哲等译，人工智能，人民邮电出版社出版l陆汝钤，人工智能（上下），科学出版社l李航，统计学习方法，清华大学出版社l罗杰彭罗思，皇帝新脑，湖南科学技术出版社l吴军，数学之美，人民邮电出版社
