人工智能导论调研报告

《人工智能导论》调研报告《人工智能导论》调研报告 BP 神经网络的非线性函数拟合 1 人工智能相关介绍 1.1 人工神经网络与 matlab 人工神经网络（Artificial Neural Networks，NN）是由大量的、简单的处理 单元（称为神经元）广泛地互相连接而形成的复杂网络系统，它反映了人脑功能 的许多基本特征，是一个高度复杂的非线性动力学系统。神经网络具有大规模并 行、分布式存储和处理、自组织、自适应和自学习能力，特别适合处理需要同时 考虑许多因素和条件的、不精确和模糊的信息处理问题。神经网络的发展与神经 科学、数理科学、认知科学、计算机科学、人工智能、信息科学、控制论、机器 人学、微电子学、心理学、微电子学、心理学、光计算、分子生物学等有关，是 一门新兴的边缘交叉学科。 神经网络具有非线性自适应的信息处理能力， 克服了传统人工智能方法对于 直觉的缺陷，因而在神经专家系统、模式识别、智能控制、组合优化、预测等领 域得到成功应用。神经网络与其他传统方法相组合，将推动人工智能和信息处理 技术不断发展。近年来，神经网络在模拟人类认知的道路上更加深入发展，并与 模糊系统、遗传算法、进化机制等组合，形成计算智能，成为人工智能的一个重 要方向。 MATLAB 是一种科学与工程计算的高级语言，广泛地运用于包括信号与图 像处理，控制系统设计，系统仿真等诸多领域。为了解决神经网络问题中的研究 工作量和编程计算工作量问题，目前工程领域中较为流行的软件 MATLAB，提 供了现成的神经网络工具箱（Neural Network Toolbox，简称 NNbox），为解决 这个矛盾提供了便利条件。神经网络工具箱提供了很多经典的学习算法，使用它 能够快速实现对实际问题的建模求解。在解决实际问题中，应用 MATLAB 语言 构造典型神经网络的激活传递函数，编写各种网络设计与训练的子程序，网络的 设计者可以根据需要调用工具箱中有关神经网络的设计训练程序， 使自己能够从 烦琐的编程中解脱出来，减轻工程人员的负担，从而提高工作效率。 1.2 人工神经网络的研究背景和意义 人工神经网络是由具有适应性的简单单元组成的广泛并行互连的网络， 它的 组织能够模拟生物神经系统对真实世界物体所作出的交互反应。 人工神经网络就是模拟人思维的一种方式，是一个非线性动力学系统， 其特 色在于信息的分布式存储和并行协同处理。虽然单个神经元的结构极其简单，功 能有限，但大量神经元构成的网络系统所能实现的行为却是极其丰富多彩的。 近年来通过对人工神经网络的研究， 可以看出神经网络的研究目的和意义有 以下三点：（1）通过揭示物理平面与认知平面之间的映射，了解它们相互联系 和相互作用的机理，从而揭示思维的本质，探索智能的本源。（2）争取构造出 尽可能与人脑具有相似功能的计算机，即神经网络计算机。（3）研究仿照脑神 经系统的人工神经网络，将在模式识别、 组合优化和决策判断等方面取得传统计 算机所难以达到的效果。 人工神经网络特有的非线性适应性信息处理能力， 克服了传统人工智能方法 对于直觉，如模式、语音识别、非结构化信息处理方面的缺陷，使之在神经专家 系统、模式识别、智能控制、组合优化、预测等领域得到成功应用。人工神经网 络与其它传统方法相结合，将推动人工智能和信息处理技术不断发展。近年来， 人工神经网络正向模拟人类认知的道路上更加深入发展， 与模糊系统、 遗传算法、 进化机制等结合，形成计算智能，成为人工智能的一个重要方向，将在实际应用 中得到发展。 将信息几何应用于人工神经网络的研究，为人工神经网络的理论研 究开辟了新的途径。神经计算机的研究发展很快，已有产品进入市场。光电结合 的神经计算机为人工神经网络的发展提供了良好条件。 1.3 神经网络的发展与研究现状 1.3.1 神经网络的发展 神经网络起源于 20 世纪 40 年代，至今发展已半个多世纪，大致分为三个阶 段。 1）20 世纪 50 年代-20 世纪 60 年代：第一次研究高潮 自 1943 年 M-P 模型开始，至20 世纪 60 年代为止，这一段时间可以称为神 经网络系统理论发展的初期阶段。 这个时期的主要特点是多种网络的模型的产生 与学习算法的确定。 2）20 世纪 60 年代-20 世纪 70 年代：低潮时期 到了 20 世纪 60 年代，人们发现感知器存在一些缺陷，例如，它不能解决异 或问题，因而研究工作趋向低潮。不过仍有不少学者继续对神经网络进行研究。 Grossberg 提出了自适应共振理论； Kohenen 提出了自组织映射； Fukushima 提出了神经认知网络理论；Anderson 提出了 BSB 模型；Webos 提出了 BP 理论 等。这些都是在 20 世纪 70 年代和 20 世纪 80 年代初进行的工作。 3）20 世纪 80 年代-90 年代：第二次研究高潮 进入 20 世纪 80 年代，神经网络研究进入高潮。这个时期最具有标志性的人 物是美国加州工学院的物理学家 John Hopfield。 他于 1982 年和 1984 年在美国科 学院院刊上发表了两篇文章，提出了模拟人脑的神经网络模型，即最著名的 Hopfield 模型。Hopfield 网络是一个互连的非线性动力学网络，它解决问题的方 法是一种反复运算的动态过程，这是符号逻辑处理方式做不具备的性质。20 世 纪 80 年代后期到 90 年代初，神经网络系统理论形成了发展的热点，多种模型、 算法和应用被提出，研究经费重新变得充足， 使得研究者们完成了很多有意义的 工作。 1.3.2 神经网络的现状 进入 20 世纪 90 年代以来，神经网络由于应用面还不够宽，结果不够精确， 存在可信度问题，从而进入了认识与应用研究期。 1）开发现有模型的应用，并在应用中根据实际运行情况对模型、算法加以 改造，以提高网络的训练速度和运行的准确度。 2）充分发挥两种技术各自的优势是一个有效方法。 3）希望在理论上寻找新的突破，建立新的专用/通用模型和算法。 4）进一步对生物神经系统进行研究，不断地丰富对人脑的认识。 1.4 神经网络的应用 神经网络理论的应用取得了令人瞩目的发展， 特别是在人工智能、 自动控制、 计算机科学、信息处理、机器人、模式识别、 CAD/CAM 等方面都有重大的应用 实例。下面列出一些主要应用领域： （1）模式识别和图像处理。印刷体和手写字符识别、语音识别、签字识别、 指纹识别、人体病理分析、目标检测与识别、图像压缩和图像复制等。 （2）控制和优化。化工过程控制、机器人运动控制、家电控制、半导体生 产中掺杂控制、石油精炼优化控制和超大规模集成电路布线设计等。 （3）预报和智能信息管理。股票市场预测、地震预报、有价证券管理、借 贷风险分析、IC 卡管理和交通管理。 （4）通信。自适应均衡、回波抵消、路由选择和 ATM 网络中的呼叫接纳 识别和控制。 （5）空间科学。空间交汇对接控制、导航信息智能管理、飞行器制导和飞 行程序优化管理等。 2 神经网络结构及 BP 神经网络 2.1 神经元与网络结构 人工神经网络（artificial neural network，ANN）是模仿生物神经网