最新消息: USBMI致力于为网友们分享Windows、安卓、IOS等主流手机系统相关的资讯以及评测、同时提供相关教程、应用、软件下载等服务。

基于人工免疫网络的联想记忆器

IT圈 admin 42浏览 0评论

2024年3月1日发(作者:商宏盛)

维普资讯

Ⅸ皇萱但燕 皇直卧 2冬舅_1搠 智能控制技术 lNTELLGENT CONTROL TECHNlCS 基于人工免疫网络的联想记忆器 Associative Memory Unit Based on Artificial lmmune Network 哈尔滨工程文学自动化学院奠宏伟 MoH 摘要:本文提出一种利用人工免疫网络模型设计联想记忆 的方法人工免疫网络-prese nt d赫 g 联想I已忙神经网络 着重指出通过定义适当的补充机制形式,人工免疫系统如何应用 丁解决联想记忆问题.仿真结果与其他熟知的模型所得 - 果进行了比较 毙键埘:免疫系统Ahstrm'l:Th ( ( ,“ Hx iati rm ,JJ『” Jolit of“ “ Ⅲ ' u。 mMel, z∞atical prints f “meckanisz ̄t mla hc ̄.t。drt— m“mm s !㈨}{ applied to the t i|叫 m。fn5 iut ̄bn !Pim , deinifng , } ∞"t缸 thm result is compared |th the result t rrI othe ̄b 2lntⅥ t,d“s :immune ̄ J art “ , 川 ti H ,  ̄lemory fu 嚏 中图分类号 TP183『文献标识码:A 文章编号 1003 724【(2002)01—0018 03 1 引言 联想记忆是神经网络中一个主要研究问题之一 自从Hop— field关于神经网络的论文发表 来 tl,许多研究人员一直致力于 研究一种具有良好的补充性能和最佳记忆能力的神经网络联想 记忆器模型l2一。虽然现有模型具有快速收敛性和较强鲁棒性等 一面章节,将会指出如何利用该模型实现记忆以及如何抵制噪声输 ^。最后给出仿真结果验证这种模型的良好性能 2记忆器模型 把联想记忆器比做一种不规则的n维空间中的超平面,其上 存在许多与记忆的模型相关的低答。由此引^称为吸引子概念 也就是描述该空间的函数极小值。这样,记忆问题转化为超平面 的摸型化,该平面可以充分表示要记忆的摸型集台,或者辨别所 用模型集合的等价表示函数的最小值。 些比较好的性质,但也表现出诸如模型规模小、对正交性有要 求等局限性。 免疫网络是近年国际上刚刚发展起来的一种新型人工智能 技术。它是基于生物体免疫系统发展起来的 免疫网络模型首 先由Jeme提出1]・,在此基础上,许多研究人员提出了独特型免疫 网络 、互联耦台免疫网络 、免疫反映网络 等多种模型,并应 用于模式识别【 、图像识别 等实际领域。免疫网络的初次反应 和再次反应机理、骨髓摸型免疫网络模型使内容可访的自动联想 记忆成为可能。文献 j中提出的免疫网络主要包括两方面研究: 一人工免疫网络(A1N)已经用于解决优化问题 】,同时,通过 研究人工免疫机制,就可以利用这些方法创建~种新型的联想记 忆器。这种机制用于定义在rl维空间上的点群。点群表示上述 超平面。这拌一个点群中最佳点等价于吸引子。 所设计的记忆器学习和记忆阶段流程图如图1,图2所示。 需要指出的是,在学习阶段首先必须定义形式空间。假设被 记忆摸型是一个用n维双极性向量表示的P模型集合。则形式 空间是一个超立方体,它的中心在轴心,并且边长为2 势为 的初始群体,是在整个形式空间产生的。对群体中每一个个体I, 在那些表示群体中的个体中,通过调换一个随机选择的基因位来 确定候选个体 。 方面称为系统动态性。也就是控制一组确定的淋巴细胞繁殖 和相应的免疫蛋白的数量增减的微分方程。另一方面称为系统 的后动态性。这是一种算法。谈算法控制从群体免疫细胞中除 去一定的克隆细胞,同时控制来自骨髓产生的新淋巴细胞池中的 新繁殖细胞的补充机制。免疫网络的学习和自适应特性来自于 生物免疫系统的自修复机制。利用这些特性,在实数空间和海明 空间中都可以产生新的最优方法。本文中,基于这些最优方法简 述了人工免疫阿错联想记忆器模型的设计思想和实现方法 下 18 I Te n .瞒of m佃n a A ̄plicalions 

维普资讯

智能控制技术 喜 9化j壹塞与瘴用”2002 ̄萎1期 NTELLGENT CONTROL TECHNICS 果不考虑群体状态,也可 把整个补充新点的最大次数设定为终 止的条件。当实际应用模型有时间条件约束时,这种限制形式很 有用处。 在学习阶段末期,群体点在期望模型附近集结成许多丛。学 习的目的实际上是定义一十群体,该群体中含有代表训练集模型 的最佳点。 在记忆阶段.考虑一个单个元素组成的新群体。也就是说, 系统的输入和进化过程与在学习阶段相同,但是只分析该群体中 围绕单十点的区域。在围绕这些点的区域中选择的新候选个体, 如果它具有更高的适应度函数值,将会取代该单个点。这种情况 下计算适应度,只需要考虑在学习阶段定义的群体中的最佳点。 也就是,利用(3)定义的同一个适应度函数,计算出的具有最高适 应度的 点。 终止条件下学习阶段相同。最后群体的单个元素表示记忆 围1学习阶段藏程围 围2记忆阶段流程围 阶段的输出模型。 这一阶段需要定义一个适应度函数,该函数用于补充过程 这1、函数能够充分表示要记忆的模型的集台。定义如下函数: 3仿真结果 l厂f )=nm ( . )=1,P (1) 本文中描述的模型,已经通过几次仿真验证了它的有效性。 其中 是一般个体,l , . )是训练集。埘是亲和度函 首先,用一些实验确定模型记忆能力。特别是做为群体势的函数 数。定义如下: 而记忆的模型数的记忆仿真实验,更能体现模型的有救性。 m( , )=1 ( , )/n (2) 图3表示在Nt=50和Nt=100以及由随机产生的模型组成 y是训练集的一般模型。幽是海明距离。 是形式空间的 训练集(这些模型的势分别是群体热的1/5,2/5.3/5,4/5,5/5)情 维数。 况下,模型的记忆百分比 如圈所示,一个势为训练集的势的五 选取适应度值在0和l之间。当模型与训练集中的某一十 倍的群体足以做到正确记忆。还应注意到,即使模型系统记忆超 相同时,值为l。随着训练集和模型之间的距离增加,适应度值降 出其记忆能力,记忆结果仍能达到50%。 低。与适应度函数最高值相对应的群体点称为最佳点。 补充操作只包括I的替换,如果满足条件 ,(r)≥l厂(j) (3) 为候选个体。 (3)式的条件表明,最好在更严格意义上应用该不等式。从 和训练集中的模型类似的观点看,这样能做到只补充那些比现存 的点更好的点。 学习阶段的位置使初始群体中每一个点能够朝着代表训练 集中的一个模型的最近的点移动。应该注意的是,由于不可能确 圈3设计模型的记忆能力 定每一个期望模型的邻近关系中的群体点的数目,所 在训练进 另一系列实验目的是评价对给定模型的误差校正能力。 5 程中, 会有形式空间的优先子空间产生。或者说,围绕群体点 ×5矩阵形式组成的十进制数字作为训练集_l。。学习阶段使用 的区域可能会重叠但是不会影响群体进化,因为每一十点都是孤 的群体势为Nt=50。在记忆阶段,每一个模型会有100个干扰副 立点。 本。当系统鞫出 记忆模型的原始版本相同时,与这些副本相应 最后,学习阶段必须设立终止条件。这个条件应能够表示群 的系统的辅出可以认为是正确的。为了评价记 的效率.与著名 体进化不能再进行下去。由于不能准确的表示这一条件.这里仅 的HopfieN模型和拇明稳定感知器学习规则 进行了比较。 简单把在补充新点时得到的失败的最大次数作为终止条件 如 图4是实验结果。如图所示,该模型表现出良好的误差校正 TeOlr.oJssofAutomallon andApplcial ̄ns I l9 

维普资讯

f{直动地燕术与麈旦)) QQ2皇蔓l朔 智能控制技术 IbtTELLGENT C0NTROL q-ECHNlCS 表 忆时间 秒 学习 时间 d:0 d=1 d=2 d=3 d:4 d:5 d=6 d=7 d=8 d=9 d:10 GIRM 2 995 0 142 0.165 0 190 0 193 0 211 0 201 0 213 0.216 0 215 0.223 0.228 Pl吼 9 901 0 1)04 0.0Ll 0 014 0 026 0.033 0 036 0 036 0.045 0 043 0 050 0.052 能力,对于较高的海明值也是如此。显然,该结果优于用PHSL neurat net,,,,orks”,IEEE Gontr.sy Mag.,pP 6-17, 模型得到的结果。 Ap,il 1990 [3:Jmle N K.Yhe[nmatme System.Scientific Arr ̄ican, 1973,229(1):52—60 [4:IshigumA Kubc ̄Nki S,Ichikawa S,et 81 Gait Control of He,=ap0d Watk ̄Robots Using Mutual—Coupted lm— muneNet, ̄rks Advanced RelJotics,1996.10(2):179— 195 [5:MitsumotoN,FukuclaT,Ara/F,et al Contro]ot"theDis— 围4海明距离函数的误差校正 tribured Au[[ a1 us Robotic System Based oil the Bio— logicatty Inspired Immunkgical Architecture ln:Proc the 表1对两个模型进行了学习和记忆时间比较。这种情况下, 1997 IEEE[nt Conf on Rot ̄ies and Au[cH1日t Albu— 注意到该模型的对训练集的学习速度确实比PHSL模型快。但 querque,NM,USA.,1997 4:3551—3556 是记忆阶段需要较长时间。需要指出结果受运行设备影响很大。 [6]} ntj E C0。keDE.Le锄血 Using anAni矗c Iar- CPU的使用率也能优化模型的效果。 murl ̄S tⅢ】j Network and Cc ̄aputer Appticati ̄, 1996.19:189—212 4结论 [7]Mr'CoyDF,De, ̄araianV Artiifaca]Immune Systen ̄and 本文研究了基于人工免疫网络设计联想记忆器的可能性 Aerial Image enatat In:Proc 1997 IEEE Im 数字模型仿真韧步结果验证了所提出方案的有效性,同时指出了 Conf otl ∞,Man and Cybemeti ̄,Orlando,FL, 记忆模型诸如良好的误差校正能力这样一些主要的特点。再者, USA,1997,1:879—884 该方法具有普遍性,可以用于设计多值记忆器。今后的工作将会 :8]H Betsin[,F J Varela,“Hint/or aclaptb ̄e pr。bIⅢ】solv一 在提高模型记・ 能力、研究记忆模型数的影响以及提高误差校正 gleaned irtliiiilrtt ̄networks ,proeee ̄ngs。f the 质量方面进一步展开。 first workship on Parallel ProNern Sotving f唧I Nature, PP.345—354,Oct&er 1990 [9:H B eersinJ F.J Varela“The immune recruitment mechanism:a seteetive e、 删 st ̄tegy ,Proceedings 参考文献 of the/orth Intm' ̄ational Co ̄lferenoe on Genetic Algo- rithm,pp 520・526,July 1991 J J He,field,“Ne ̄Jral nt ̄twc)rk mnd ph ̄ical ㈣with [10]X.Zhuang,H Huang F A Yu,“l ̄esign 0f Hc ̄fietd  ̄neegent。d th 。dm∞utat abitities”Porc Natt A Content—Addressabte Memories”,IEEE Transaction on 曲d sc .USA,Vot 79,PP 2554—2558,April 1982 S gnalPrcees ̄ng,Vol+N 2,pp492(N95 February1994 [2] A.Michd,J Fan'et“Asgcei ̄ti','e m廿r10 es via artificial ∞I T氍h'iq 日sofA 州l。na州 ppl c IO憾 

2024年3月1日发(作者:商宏盛)

维普资讯

Ⅸ皇萱但燕 皇直卧 2冬舅_1搠 智能控制技术 lNTELLGENT CONTROL TECHNlCS 基于人工免疫网络的联想记忆器 Associative Memory Unit Based on Artificial lmmune Network 哈尔滨工程文学自动化学院奠宏伟 MoH 摘要:本文提出一种利用人工免疫网络模型设计联想记忆 的方法人工免疫网络-prese nt d赫 g 联想I已忙神经网络 着重指出通过定义适当的补充机制形式,人工免疫系统如何应用 丁解决联想记忆问题.仿真结果与其他熟知的模型所得 - 果进行了比较 毙键埘:免疫系统Ahstrm'l:Th ( ( ,“ Hx iati rm ,JJ『” Jolit of“ “ Ⅲ ' u。 mMel, z∞atical prints f “meckanisz ̄t mla hc ̄.t。drt— m“mm s !㈨}{ applied to the t i|叫 m。fn5 iut ̄bn !Pim , deinifng , } ∞"t缸 thm result is compared |th the result t rrI othe ̄b 2lntⅥ t,d“s :immune ̄ J art “ , 川 ti H ,  ̄lemory fu 嚏 中图分类号 TP183『文献标识码:A 文章编号 1003 724【(2002)01—0018 03 1 引言 联想记忆是神经网络中一个主要研究问题之一 自从Hop— field关于神经网络的论文发表 来 tl,许多研究人员一直致力于 研究一种具有良好的补充性能和最佳记忆能力的神经网络联想 记忆器模型l2一。虽然现有模型具有快速收敛性和较强鲁棒性等 一面章节,将会指出如何利用该模型实现记忆以及如何抵制噪声输 ^。最后给出仿真结果验证这种模型的良好性能 2记忆器模型 把联想记忆器比做一种不规则的n维空间中的超平面,其上 存在许多与记忆的模型相关的低答。由此引^称为吸引子概念 也就是描述该空间的函数极小值。这样,记忆问题转化为超平面 的摸型化,该平面可以充分表示要记忆的摸型集台,或者辨别所 用模型集合的等价表示函数的最小值。 些比较好的性质,但也表现出诸如模型规模小、对正交性有要 求等局限性。 免疫网络是近年国际上刚刚发展起来的一种新型人工智能 技术。它是基于生物体免疫系统发展起来的 免疫网络模型首 先由Jeme提出1]・,在此基础上,许多研究人员提出了独特型免疫 网络 、互联耦台免疫网络 、免疫反映网络 等多种模型,并应 用于模式识别【 、图像识别 等实际领域。免疫网络的初次反应 和再次反应机理、骨髓摸型免疫网络模型使内容可访的自动联想 记忆成为可能。文献 j中提出的免疫网络主要包括两方面研究: 一人工免疫网络(A1N)已经用于解决优化问题 】,同时,通过 研究人工免疫机制,就可以利用这些方法创建~种新型的联想记 忆器。这种机制用于定义在rl维空间上的点群。点群表示上述 超平面。这拌一个点群中最佳点等价于吸引子。 所设计的记忆器学习和记忆阶段流程图如图1,图2所示。 需要指出的是,在学习阶段首先必须定义形式空间。假设被 记忆摸型是一个用n维双极性向量表示的P模型集合。则形式 空间是一个超立方体,它的中心在轴心,并且边长为2 势为 的初始群体,是在整个形式空间产生的。对群体中每一个个体I, 在那些表示群体中的个体中,通过调换一个随机选择的基因位来 确定候选个体 。 方面称为系统动态性。也就是控制一组确定的淋巴细胞繁殖 和相应的免疫蛋白的数量增减的微分方程。另一方面称为系统 的后动态性。这是一种算法。谈算法控制从群体免疫细胞中除 去一定的克隆细胞,同时控制来自骨髓产生的新淋巴细胞池中的 新繁殖细胞的补充机制。免疫网络的学习和自适应特性来自于 生物免疫系统的自修复机制。利用这些特性,在实数空间和海明 空间中都可以产生新的最优方法。本文中,基于这些最优方法简 述了人工免疫阿错联想记忆器模型的设计思想和实现方法 下 18 I Te n .瞒of m佃n a A ̄plicalions 

维普资讯

智能控制技术 喜 9化j壹塞与瘴用”2002 ̄萎1期 NTELLGENT CONTROL TECHNICS 果不考虑群体状态,也可 把整个补充新点的最大次数设定为终 止的条件。当实际应用模型有时间条件约束时,这种限制形式很 有用处。 在学习阶段末期,群体点在期望模型附近集结成许多丛。学 习的目的实际上是定义一十群体,该群体中含有代表训练集模型 的最佳点。 在记忆阶段.考虑一个单个元素组成的新群体。也就是说, 系统的输入和进化过程与在学习阶段相同,但是只分析该群体中 围绕单十点的区域。在围绕这些点的区域中选择的新候选个体, 如果它具有更高的适应度函数值,将会取代该单个点。这种情况 下计算适应度,只需要考虑在学习阶段定义的群体中的最佳点。 也就是,利用(3)定义的同一个适应度函数,计算出的具有最高适 应度的 点。 终止条件下学习阶段相同。最后群体的单个元素表示记忆 围1学习阶段藏程围 围2记忆阶段流程围 阶段的输出模型。 这一阶段需要定义一个适应度函数,该函数用于补充过程 这1、函数能够充分表示要记忆的模型的集台。定义如下函数: 3仿真结果 l厂f )=nm ( . )=1,P (1) 本文中描述的模型,已经通过几次仿真验证了它的有效性。 其中 是一般个体,l , . )是训练集。埘是亲和度函 首先,用一些实验确定模型记忆能力。特别是做为群体势的函数 数。定义如下: 而记忆的模型数的记忆仿真实验,更能体现模型的有救性。 m( , )=1 ( , )/n (2) 图3表示在Nt=50和Nt=100以及由随机产生的模型组成 y是训练集的一般模型。幽是海明距离。 是形式空间的 训练集(这些模型的势分别是群体热的1/5,2/5.3/5,4/5,5/5)情 维数。 况下,模型的记忆百分比 如圈所示,一个势为训练集的势的五 选取适应度值在0和l之间。当模型与训练集中的某一十 倍的群体足以做到正确记忆。还应注意到,即使模型系统记忆超 相同时,值为l。随着训练集和模型之间的距离增加,适应度值降 出其记忆能力,记忆结果仍能达到50%。 低。与适应度函数最高值相对应的群体点称为最佳点。 补充操作只包括I的替换,如果满足条件 ,(r)≥l厂(j) (3) 为候选个体。 (3)式的条件表明,最好在更严格意义上应用该不等式。从 和训练集中的模型类似的观点看,这样能做到只补充那些比现存 的点更好的点。 学习阶段的位置使初始群体中每一个点能够朝着代表训练 集中的一个模型的最近的点移动。应该注意的是,由于不可能确 圈3设计模型的记忆能力 定每一个期望模型的邻近关系中的群体点的数目,所 在训练进 另一系列实验目的是评价对给定模型的误差校正能力。 5 程中, 会有形式空间的优先子空间产生。或者说,围绕群体点 ×5矩阵形式组成的十进制数字作为训练集_l。。学习阶段使用 的区域可能会重叠但是不会影响群体进化,因为每一十点都是孤 的群体势为Nt=50。在记忆阶段,每一个模型会有100个干扰副 立点。 本。当系统鞫出 记忆模型的原始版本相同时,与这些副本相应 最后,学习阶段必须设立终止条件。这个条件应能够表示群 的系统的辅出可以认为是正确的。为了评价记 的效率.与著名 体进化不能再进行下去。由于不能准确的表示这一条件.这里仅 的HopfieN模型和拇明稳定感知器学习规则 进行了比较。 简单把在补充新点时得到的失败的最大次数作为终止条件 如 图4是实验结果。如图所示,该模型表现出良好的误差校正 TeOlr.oJssofAutomallon andApplcial ̄ns I l9 

维普资讯

f{直动地燕术与麈旦)) QQ2皇蔓l朔 智能控制技术 IbtTELLGENT C0NTROL q-ECHNlCS 表 忆时间 秒 学习 时间 d:0 d=1 d=2 d=3 d:4 d:5 d=6 d=7 d=8 d=9 d:10 GIRM 2 995 0 142 0.165 0 190 0 193 0 211 0 201 0 213 0.216 0 215 0.223 0.228 Pl吼 9 901 0 1)04 0.0Ll 0 014 0 026 0.033 0 036 0 036 0.045 0 043 0 050 0.052 能力,对于较高的海明值也是如此。显然,该结果优于用PHSL neurat net,,,,orks”,IEEE Gontr.sy Mag.,pP 6-17, 模型得到的结果。 Ap,il 1990 [3:Jmle N K.Yhe[nmatme System.Scientific Arr ̄ican, 1973,229(1):52—60 [4:IshigumA Kubc ̄Nki S,Ichikawa S,et 81 Gait Control of He,=ap0d Watk ̄Robots Using Mutual—Coupted lm— muneNet, ̄rks Advanced RelJotics,1996.10(2):179— 195 [5:MitsumotoN,FukuclaT,Ara/F,et al Contro]ot"theDis— 围4海明距离函数的误差校正 tribured Au[[ a1 us Robotic System Based oil the Bio— logicatty Inspired Immunkgical Architecture ln:Proc the 表1对两个模型进行了学习和记忆时间比较。这种情况下, 1997 IEEE[nt Conf on Rot ̄ies and Au[cH1日t Albu— 注意到该模型的对训练集的学习速度确实比PHSL模型快。但 querque,NM,USA.,1997 4:3551—3556 是记忆阶段需要较长时间。需要指出结果受运行设备影响很大。 [6]} ntj E C0。keDE.Le锄血 Using anAni矗c Iar- CPU的使用率也能优化模型的效果。 murl ̄S tⅢ】j Network and Cc ̄aputer Appticati ̄, 1996.19:189—212 4结论 [7]Mr'CoyDF,De, ̄araianV Artiifaca]Immune Systen ̄and 本文研究了基于人工免疫网络设计联想记忆器的可能性 Aerial Image enatat In:Proc 1997 IEEE Im 数字模型仿真韧步结果验证了所提出方案的有效性,同时指出了 Conf otl ∞,Man and Cybemeti ̄,Orlando,FL, 记忆模型诸如良好的误差校正能力这样一些主要的特点。再者, USA,1997,1:879—884 该方法具有普遍性,可以用于设计多值记忆器。今后的工作将会 :8]H Betsin[,F J Varela,“Hint/or aclaptb ̄e pr。bIⅢ】solv一 在提高模型记・ 能力、研究记忆模型数的影响以及提高误差校正 gleaned irtliiiilrtt ̄networks ,proeee ̄ngs。f the 质量方面进一步展开。 first workship on Parallel ProNern Sotving f唧I Nature, PP.345—354,Oct&er 1990 [9:H B eersinJ F.J Varela“The immune recruitment mechanism:a seteetive e、 删 st ̄tegy ,Proceedings 参考文献 of the/orth Intm' ̄ational Co ̄lferenoe on Genetic Algo- rithm,pp 520・526,July 1991 J J He,field,“Ne ̄Jral nt ̄twc)rk mnd ph ̄ical ㈣with [10]X.Zhuang,H Huang F A Yu,“l ̄esign 0f Hc ̄fietd  ̄neegent。d th 。dm∞utat abitities”Porc Natt A Content—Addressabte Memories”,IEEE Transaction on 曲d sc .USA,Vot 79,PP 2554—2558,April 1982 S gnalPrcees ̄ng,Vol+N 2,pp492(N95 February1994 [2] A.Michd,J Fan'et“Asgcei ̄ti','e m廿r10 es via artificial ∞I T氍h'iq 日sofA 州l。na州 ppl c IO憾 

发布评论

评论列表 (0)

  1. 暂无评论