2024年1月30日发(作者：段亦玉)
十几种著名的神经网络
名 称
Perceptron
（感知机）
发明人或开发人
Frank Rosenblatt
（康奈尔大学）
起止年代
1957
主 要 应 用 领 域 局 限 性 评 述
是一组可训练的线性分类的单层网络。这是最古老的网络，已制成硬件，这种最简单的感知机已很少用。
具有最小方差学习功能的线性网络，学习功能强。Madaline是Adaline的扩展，商业上应用已有二十多年了。
只是一类网络而已，没有一种简单的网络能做所有这些任务。
文学识别（打字字母识别），不能识别复杂字形（如声音识别，声纳信号识别以汉字），对字的大小，平及学习记忆问题的研究。 移和歪斜敏感。
雷达天线控制、自适应均衡机回波抵消，雷达干扰的适应性消除，适应性调制解调，电话线中适应性补偿等方面。
连续读音识别，机器人手臂运动的教学指令。
控制机器人的手臂运动。
假定输入和输出之间呈线性关系。
Adaline（Adaptive linear
Bernard Widrow
element）和Madaline（多（斯坦福大学）
适应线性单元）
1960—1962
Avalanche
（雪崩网）
Cerellatron
（小脑自动机）
Back Propagation
（反传网络）
S．Grossberg
（波士顿大学）
1967
会重演一系列错误动作，不易改变运动速度和插入运动。
D．marr（麻省理工学院） 1969—1982
J．Albus（NBS）
A．Pellionez（NYU）
P．Werbos（哈佛大学）
David Rumelhart
James McClelland
（斯坦福大学）
D．Parker
（斯坦福大学）
and
1974—1985
需要复杂的控制输入。 类似于Avalanche网络，能调和各种指令序列，按需要缓慢地插入动作。
仅是有教师（指导）的训练，必须有大量的输入输出样本来纠正。
是多层映射网络，采用最小均方差的学习方式。时至今日，仍然是最普及和最广泛应用的网络，工作良好，容易学习。
Adaptive G Carpenter and
S Grossberg（波士顿大Resonance Theory
（自适应谐振理论学）
ART）现已有ART1到ART3三种类型
1976—1990
课文的语言合成，机器人手臂的适应控制，语言识别，慢过程有滞后环节的工业过程控制，银行贷款的信用打分，股票和保险等方面，自适应控制。
模式识别，特别是复杂模式或者对人来说不熟悉的模式（雷达或声纳讯号，声控打印等）。最近在图像识别、语音识别及生产中得到应用
受平移、歪斜及尺度的影响。
ART1和ART2可以对任意多和任意复杂的二维模式进行自组织、自稳定和大规模并行处理，前者用于二进制输入，后者用于连续信号输入。系统太复杂，难以用硬件实现，应用受到限制
名 称
Brain State in a Box
（BSB网络）
Neocognition
（新认知机）
发明人或开发人
James Anderson
（布朗大学）
Fukushima K
福岛邦彦（日本广播协会）
起止年代
1977
主要应用领域 局限性 评述
这是具有最小均方差的单层自联想网络。类似于双向联想记忆，可对片断输入补全。
是一多层结构化学符识别网络。是已开发的最复杂网络之一，对输入模式的大小、平移和旋转无关，能识别复杂字（如汉字）。
描述某种最优映射，能把某一几何区域映射到另一区。对于空气动力学计算优于许多数值计算方法。
解释概念形成，分类和知识只能作一次性决策，无处理（从资料中抽取知识） 重复性共振。
手写字母识别 需要大量加工单元和联系。
1978—1984
Self-Organizing feature
Tuevo Kohonen（芬兰map（自组织特征映射Helsinki技术大学）
网络）
1980
Hopfield网络
John Hopfield
（加州理工学院）
1982
语音识别，机器人控制，工业过程控制（特别是半导体生产中的扩散工艺过程），通信自适应器、图像压缩、雷达、专家系统等。
求解TSP问题，线性规划，货流问题，联想记忆和用于辨识。
图像、声纳、雷达等模式识别。
需要大量的联系和训练。
不能学习，权重必须实由相同元件构成的单层而且现给定。连续需要对称。 不带学习功能的自联想网络。从片断资料或图像取回完整的。能在大规模尺度中实现。
玻尔兹曼机训练时间这是使用一噪声过程来取代长，柯希机在某些统计价函数的全局极小值的网络，分布情况下产生噪声。 在这种简单的网络中使用噪声函数去寻找全局最优。
Boltzman and Cauchy
J．Hinton（多伦多大学）machines（玻尔兹曼机T．Sejnowski
和柯希机） （霍布金斯大学）
Ackley
Harold H Szu（斯华龄）（海军研究所实验室）
Bidirectional Bart Kosko
Associative Memory（南加州大学）
（BAM）（双向联想记忆自适应BAM）
Counter
Propagation
（CPN）
Robert
Hecht-Nielsen
1985—1986
1985—1988 内容寻址的联想记忆。 存储的密度低。
资料数据必须适应编码。
1986
神经网络计算机Mark 3，需要大量处理单元和连Mark 4（1985），Anza接，需要高度准确。
（1987），Anza Plus（1988）图像分析和统计分析。
由相同神经元构成的双向联想式单层网络，具有学习功能。最容易学的一种网络，是一种好的教具，能把对象的片断联系称完整的对子。
这是一种在功能上作为统计最优化和概率密度函数分析的网络。
2024年1月30日发(作者：段亦玉)
十几种著名的神经网络
名 称
Perceptron
（感知机）
发明人或开发人
Frank Rosenblatt
（康奈尔大学）
起止年代
1957
主 要 应 用 领 域 局 限 性 评 述
是一组可训练的线性分类的单层网络。这是最古老的网络，已制成硬件，这种最简单的感知机已很少用。
具有最小方差学习功能的线性网络，学习功能强。Madaline是Adaline的扩展，商业上应用已有二十多年了。
只是一类网络而已，没有一种简单的网络能做所有这些任务。
文学识别（打字字母识别），不能识别复杂字形（如声音识别，声纳信号识别以汉字），对字的大小，平及学习记忆问题的研究。 移和歪斜敏感。
雷达天线控制、自适应均衡机回波抵消，雷达干扰的适应性消除，适应性调制解调，电话线中适应性补偿等方面。
连续读音识别，机器人手臂运动的教学指令。
控制机器人的手臂运动。
假定输入和输出之间呈线性关系。
Adaline（Adaptive linear
Bernard Widrow
element）和Madaline（多（斯坦福大学）
适应线性单元）
1960—1962
Avalanche
（雪崩网）
Cerellatron
（小脑自动机）
Back Propagation
（反传网络）
S．Grossberg
（波士顿大学）
1967
会重演一系列错误动作，不易改变运动速度和插入运动。
D．marr（麻省理工学院） 1969—1982
J．Albus（NBS）
A．Pellionez（NYU）
P．Werbos（哈佛大学）
David Rumelhart
James McClelland
（斯坦福大学）
D．Parker
（斯坦福大学）
and
1974—1985
需要复杂的控制输入。 类似于Avalanche网络，能调和各种指令序列，按需要缓慢地插入动作。
仅是有教师（指导）的训练，必须有大量的输入输出样本来纠正。
是多层映射网络，采用最小均方差的学习方式。时至今日，仍然是最普及和最广泛应用的网络，工作良好，容易学习。
Adaptive G Carpenter and
S Grossberg（波士顿大Resonance Theory
（自适应谐振理论学）
ART）现已有ART1到ART3三种类型
1976—1990
课文的语言合成，机器人手臂的适应控制，语言识别，慢过程有滞后环节的工业过程控制，银行贷款的信用打分，股票和保险等方面，自适应控制。
模式识别，特别是复杂模式或者对人来说不熟悉的模式（雷达或声纳讯号，声控打印等）。最近在图像识别、语音识别及生产中得到应用
受平移、歪斜及尺度的影响。
ART1和ART2可以对任意多和任意复杂的二维模式进行自组织、自稳定和大规模并行处理，前者用于二进制输入，后者用于连续信号输入。系统太复杂，难以用硬件实现，应用受到限制
名 称
Brain State in a Box
（BSB网络）
Neocognition
（新认知机）
发明人或开发人
James Anderson
（布朗大学）
Fukushima K
福岛邦彦（日本广播协会）
起止年代
1977
主要应用领域 局限性 评述
这是具有最小均方差的单层自联想网络。类似于双向联想记忆，可对片断输入补全。
是一多层结构化学符识别网络。是已开发的最复杂网络之一，对输入模式的大小、平移和旋转无关，能识别复杂字（如汉字）。
描述某种最优映射，能把某一几何区域映射到另一区。对于空气动力学计算优于许多数值计算方法。
解释概念形成，分类和知识只能作一次性决策，无处理（从资料中抽取知识） 重复性共振。
手写字母识别 需要大量加工单元和联系。
1978—1984
Self-Organizing feature
Tuevo Kohonen（芬兰map（自组织特征映射Helsinki技术大学）
网络）
1980
Hopfield网络
John Hopfield
（加州理工学院）
1982
语音识别，机器人控制，工业过程控制（特别是半导体生产中的扩散工艺过程），通信自适应器、图像压缩、雷达、专家系统等。
求解TSP问题，线性规划，货流问题，联想记忆和用于辨识。
图像、声纳、雷达等模式识别。
需要大量的联系和训练。
不能学习，权重必须实由相同元件构成的单层而且现给定。连续需要对称。 不带学习功能的自联想网络。从片断资料或图像取回完整的。能在大规模尺度中实现。
玻尔兹曼机训练时间这是使用一噪声过程来取代长，柯希机在某些统计价函数的全局极小值的网络，分布情况下产生噪声。 在这种简单的网络中使用噪声函数去寻找全局最优。
Boltzman and Cauchy
J．Hinton（多伦多大学）machines（玻尔兹曼机T．Sejnowski
和柯希机） （霍布金斯大学）
Ackley
Harold H Szu（斯华龄）（海军研究所实验室）
Bidirectional Bart Kosko
Associative Memory（南加州大学）
（BAM）（双向联想记忆自适应BAM）
Counter
Propagation
（CPN）
Robert
Hecht-Nielsen
1985—1986
1985—1988 内容寻址的联想记忆。 存储的密度低。
资料数据必须适应编码。
1986
神经网络计算机Mark 3，需要大量处理单元和连Mark 4（1985），Anza接，需要高度准确。
（1987），Anza Plus（1988）图像分析和统计分析。
由相同神经元构成的双向联想式单层网络，具有学习功能。最容易学的一种网络，是一种好的教具，能把对象的片断联系称完整的对子。
这是一种在功能上作为统计最优化和概率密度函数分析的网络。