第1章 神经网络绪论
1.1 人工神经网络的介绍
在你阅读本书时,你正在用到一个复杂的生物神经网络,大约有1011个相互连接的神经元帮助你进行阅读、呼吸、思考,完成各种动作,部分神经网络的结构和功能是与生具有的,比如支配呼吸、哭、吮吸等本能动作的功能;而大多数的功能则需要通过后天的学习才能获得。
虽然人们还并不完全清楚生物神经网络是如何进行工作的,但幻想构造一些“人工神经元”,进而将它们以某种方式连接起来,可以模拟“人脑”的某些功能。
1.2 神经网络的发展历程
人工神经网络这项研究始于20世纪40年代,它的发展经历了起始、萧条和兴盛三个阶段。
1.2.1 神经网络的起始
1943年,精神病学家和神经解剖学家McCulloch与数学家Pitts在数学生物物理学会期刊《Bulletin ofMathematical Biophysics》上发表文章,总结了生物神经元的一些基本生理特征,提出了形式神经元的数学描述与结构,即MP模型。McCulloch和Pitts描述了一个逻辑微积分的神经网络,这个网络由神经生理学和数学逻辑学组成,他们定义的神经元的正规模型被认为遵循着“全或无”法则。McCulloch和Pitts证明:原则上,在拥有了数量众多的简单单元和适当的神经元连接且运行同步的情况下,所构建的网络能计算任何可计算的函数。MP的提出兴起了NN研究,同时产生了人工智能(Artificial Intelligence,AI)这一学科。
1948年,Wiener所著的**的《Cybernetics》一书出版,提出了控制、通信和统计信号处理的重要概念,在学科之间抓住了统计方法的物理意义。
……