神经网络模型有哪些(神经网络模型)

导读大家好,小乐来为大家解答以上问题,神经网络模型有哪些,神经网络模型很多人还不知道,现在让我们一起来看看吧!人工神经网络有什么特点?

大家好,小乐来为大家解答以上问题,神经网络模型有哪些,神经网络模型很多人还不知道,现在让我们一起来看看吧!

人工神经网络有什么特点?

人工神经网络的突出优势

(1)它可以完全逼近任何复杂的非线性关系;

(2)所有的定量或定性信息都存储在电位分布相等的网络中的所有神经元中,因此具有很强的鲁棒性和容错性;

(3)采用并行分布式处理方法,使得快速执行大量运算成为可能;

(4)学习和适应未知或不确定系统;

(5)能够处理定量和定性知识。

人工神经网络的特点和优势主要表现在三个方面:

首先,它具有自学习功能。例如,在实现图像识别时,只需将许多不同的图像模板和相应的识别结果输入人工神经网络,网络就会通过自学习功能逐渐学会识别相似的图像。自学习功能对于预测尤为重要。预计未来的人工神经网络计算机将为人类提供经济预测、市场预测和效益预测,应用前景十分广阔。

第二,它具有联想记忆功能。这种关联可以通过人工神经网络的反馈网络来实现。

第三,它具有高速寻找最优解的能力。寻找一个复杂问题的最优解通常需要大量的计算。利用针对某个问题设计的反馈型人工神经网络,充分发挥计算机的高速计算能力,可能很快就能找到最优解。

人工神经网络(ANNs),也简称神经网络(NNs),是一种模拟生物神经网络进行信息处理的数学模型。它是基于大脑的生理学研究成果,目的是模拟大脑的一些机制,实现一些特定的功能。目前,人工神经网络已经在许多领域得到了应用。本章主要对人工神经网络的基本理论进行了全面而简要的介绍。

神经网络的特征

神经网络的基本性质反映了神经网络的特征,主要表现在:

1.并行分布式处理神经网络具有高度的并行结构和并行实现能力,具有高速寻找最优解的能力。它能充分发挥计算机的高速计算能力,可能很快找到最优解。

2.人脑思维的非线性处理是非线性的,所以神经网络模拟人的思维也应该是非线性的。这个特性有助于处理非线性问题。

3.自学习功能。通过对过去历史数据的学习,训练出一个具有汇总所有数据功能的特定神经网络。自学习功能对于预测尤为重要。

4.神经网络的硬件实现要使人工神经网络更快更有效地解决更大规模的问题,关键在于其V LSI硬件实现,即在一个芯片(多为CMOS)上制作神经元和连接,形成一个ANN。神经网络的VLSI设计方法近年来发展迅速,硬件实现已成为神经网络的一个重要分支。

神经网络的应用领域

近年来,神经网络在许多领域得到了广泛的应用。在民用方面的应用,如语言识别、图像识别与理解、计算机视觉、智能机器人故障检测、实时语言翻译、企业管理、市场分析、决策优化、物资运输、自适应控制、专家系统、智能接口、神经生理学、心理学和认知科学研究等。军事应用中的应用,如雷达、声纳的多目标识别与跟踪,战场管理与决策支持系统,各种情况的军用机器人控制,信息的快速获取、分类与查询,导弹的智能制导,保密通信,航天器的姿态控制等。

人工神经网络模型具有并联结构、容错、非线性映射等特点。近年来,在河流水流模拟和平面二维流场计算中得到了应用和发展。Y.B.Dibike,D.Olomatne M.B.Abbott[1]将神经网络理论与流体动力学模型相结合,提供了神经网络学习样本。然后,将训练好的神经网络用于预测重要河段的通航深度和二维流场重要位置的水流运动(包括水位、流速、流向和流量),取得了令人鼓舞的结果。神经网络模型水动力模型和水动力模型的有机结合,可以避免水动力模型计算量大、计算速度慢、难以满足实时预报要求的问题。同时,水动力模型为神经网络提供了训练样本,弥补了神经网络因重要河段和区域缺乏数据而应用受限的困难。杨、丁静和刘[2]把盆地概括为几个水库。他们利用水量平衡原理和非线性水库结合神经网络,模拟了英国伊尔韦尔盆地索尔福德大学控制站的径流,以及上述6个雨量站的观测数据。该模型对流域日、月径流时间序列变化有较好的模拟效果,对洪水过程的模拟有待进一步研究。然而,神经网络理论在河网水沙运动模拟中几乎是空白。目前,用于各种模拟和预报的神经网络模型存在许多问题,如网络内部参数的物理概念不明确,隐含层结构难以确定等。

人工网络与河网在结构上有很多相似之处,二者通过并联或串联内部结构,形成一个相互制约的整体网络结构。通过调节系统中各种“神经元”之间的相互作用,达到系统最优或平衡的输入输出,利用神经网络可以达到模拟复杂河网水沙运动的目的。

1一般河网概化

自然河网非常复杂,河流湖泊众多。根据问题研究的需要,河流与湖泊的关系,计算的需要,可以对河网进行不同的概化。本文河网概化的主要目的是满足建立具有河网水沙运动特性的人工神经网络模型的要求。

(1)将河网概化为由不同非线性水库连接而成的网络结构。

(2)将水系中的各个水源和泥沙源(如进入河网的上游来水来沙)作为模型的输入,水系需要预测该站的水流泥沙运动过程作为模型的输出。

(3)每个储层是相互关联的(如

  (4)第一层节点只是简单地将河网输入量输入到下一节点,节点没有水量调蓄作用也没有泥沙量的变化;中间各层节点存在水量调蓄作用并且存在泥沙冲淤变化,而最后一层接受上一层各水库的来水来沙,模拟结果作为整个网络的输出值。

  (5)非线性水库的出流与水库蓄水量之间为非线性关系,对于每一水库水量及整个河网总水量保持守恒。

  (6)水库的输沙与水库“蓄沙”之间为非线性关系。对于每一水库泥沙总量及整个河网总沙量保持守恒。

  在上述概化条件下,整个河网由河网水源或沙源的输入、河网内部相互串联和并联而成的水库、河网输出三部分构成;第一层和最后一层节点的输入输出为简单的线性关系;利用节点输水输沙平衡方程和整个河网泥沙和水量守恒关系保证各个节点和整个河网沙量、水量守恒。

  2 具有河网水沙特点的人工神经网络模型

  传统BP神经网络模型是一种简单的非线性系统模型,通过误差反传自动调整网络内部连接权向量,达到系统输入、输出之间的响应。有许多自然现象就属于这类简单的关系。例如电力负荷变化与天气变化、工业状况等因素之间的关系;年径流量受年降雨量和年蒸发量的影响;短时段河段出流主要取决于河段进流、区间汇流等。

  然而,大多数情况下的系统输出不仅依赖于当时或前期的输入量,同时也取决于系统的状态。如在河道发生较大的冲淤变形时,其输出不仅依赖于系统的输入量,同时还决定于系统所处的状态即河道冲淤情况。在这样的情况下,用传统BP神经网络来模拟系统的输入输出关系比较困难。另外,传统BP神经网络模型是一个“黑箱”模型,内部参数没有物理意义,也很难找出参数与模型输出向量之间的关系。因此,用神经网络理论来模拟河网水流泥沙运动时,不能简单地利用BP算法,还应考虑河网内各个部分以及整个河网的水量沙量守恒。在概化的河网模型中,每一节点以及整个河网都应满足水量沙量守恒方程。

  泥沙连续方程:

(2)

  则T+1时刻K+1层第i水库的相互物理量的变化为:

(5)

  一般情况下,水库或河道水系由于边界条件或其他外界条件的改变常常引起水流形态和泥沙输移规律的改变,这种改变往往会引起河道和水库的输沙不平衡,水库或河道发生冲淤变形,从而又导致水流运动和泥沙输移规律的改变。这种水沙规律的变化以泥沙为“纽带”,在输沙平衡与不平衡之间交替变化。因此,水库出流量和水库输沙量应该还要考虑河道冲淤等因素的影响。如以水库累计冲淤量近似表示水库的地形,则水库出流表示为:

  Q|T=f(Vω|T,VS|T……)(6)

  同样,水库每个节点的泥沙输出为输入沙量、水库地形等因素的函数,表示为:

  V|T=f1(V′|T,VS|T……)(7)

  当水库冲淤变形不很明显时,水库出流可以认为是水库蓄水量的非线性函数,即T时刻的水库出流量与水库蓄水量之间的关系式为:

  Q|T=f(Vω|T)(8)

  同样,水库冲淤不很明显的条件下,水库排沙量也可以认为是水库来沙量的非线性函数,即T时刻的水库输沙量与水库来沙之间的关系为:

  V|T=f1(V′|T)(9)

  设网络第k各层节点数为NK,K为网络总层数,对第一层节点

  式中:φin、φ1i分别为第一层节点输入和输出量;Wi,j为该层第i节点与下层第j节点之间的连接权;N2为第二层节点的个数。

  对河网内部第k+1层节点,输入输出关系为:

(11)

  式中φkj,in为K层第j节点的输入量。

  由水沙连续方程和水库排水排沙方程一起组成具有河网特点的神经网络模型。尽管本文所建立的模型在结构和算法上与传统的BP神经网络结构和算法有许多相似之处,但神经网络理论与水沙守恒方程的有机结合形成的具有河网水沙运动特点的神经网络模型在许多方面有其本身的特点:

  (1)考虑水沙的相互作用。水沙非耦合神经网络模型为泥沙神经网络模型和水流神经网络模型组成的整体模型。泥沙模型中各个节点在相同输入条件下其输出并不一定相同,受节点冲淤变化的影响;水流模型中的各个节点的输出同样受河床累积冲淤量的影响,而此时的河床累积冲淤量必须由泥沙模型得到。

  (2)网络结构合理。由于人工神经网络与河网在结构上相似,可按照河网的复杂程度、模拟需要的精度以及现有河网的数据资料先确定模型网络,然后再结合网络计算需要对网络结构进行一定的修改。这样既可以满足神经网络计算要求,也能在一定程度上反映河网水系之间的相互关系。在本文所建立的水沙非耦合模型中,网络结构的确定必须同时满足水流和泥沙模型的要求,即两模型在结构上既要相同,又要符合两者各自的要求。

  图1 长江中游概化简图

  (3)网络结构内部参数的物理意义明确。传统的BP神经网络结构内部节点之间的关系是一个“黑盒”,内部参数的物理意义模糊;而本文所建模型中的参数具有明确的物理含义,上下层之间的连接实质上反映了上层节点向下层节点输入的水量或沙量,即上层对下层节点的影响大小。

  (4)对每个节点以及整个河网保证水量和沙量的守恒。传统的BP神经网络结构每个节点只考虑了其非线性作用,未考虑节点以及整个河网的物质是否守恒。本文模型从水流和泥沙连续方程出发,建立的模型反映了水流泥沙运动的客观规律。

  (5)在本模型中,蓄水量及淤积量和输出水沙量随上下游条件不断变化,这种变化可以较好地反映河网水沙运动中边界条件的变化对网络输入与输出的影响,避免了传统BP神经网络模型难以考虑系统状态影响的缺陷。当河道或水库淤积量增加,可通过自动调整来调节河道的水沙输出量,如果不考虑这种影响,在同样进流进沙条件下,其产生同样的出流和出沙,这都会过高或过低估计出流出、出沙。

  (6)若不考虑水库蓄水量和排沙量随时间的变化,则模型与传统BP网络相一致。

  3 模型应用实例

  3.1 长江中游荆江和洞庭湖河网区概况 洞庭湖平原区位于长江中游荆江河段南岸,北面有松滋、太平、藕池三口分泄长江洪水进入湖区,西南有湘、资、沅、澧四水入汇,洪水经过湖区调峰后经洞庭湖出口城陵矶注入长江干流。洞庭湖经过长期演变已由原来的八百里洞庭演变成为今天的东洞庭、南洞庭、西洞庭以及与之相连的纵横交错的洪道(如图1所示).洞庭湖流域是一个以洞庭湖为中心,从四面八方向中央汇流的辐射状河网,不同水系有不同的地貌和气象特征,洪水组成及遭遇非常复杂,洪水历时特别长,最早出现在3月,迟者可至10月,主汛期一般为5~8月。这种错综复杂的洪水遭遇,互相顶托,使不同来源的洪水在交汇处产生壅积,水位异常抬高,大大加剧了局部地区洪灾的威胁。为了充分反映四水不同的来水来沙过程对洞庭湖区水沙运动变化的影响,在模型中必须将四水作为四个不同的独立影响因子,分别作用于河网区。另外,为了将水流网络结构和泥沙网络结构相互配套,文中将区间汇流按比例分配给四水来水。

  图2 长江中游网络概化模型

  从荆江洞庭湖区水流泥沙运动特点和河道蓄水垸的特征将荆江洞庭湖区划分为8个相互联系的区域以及湘、资、沅、澧4个洪道区域(如图2所示).这12个区域分别为:区域Ⅰ:松滋河(包括东、西两支)、大湖口河、自治局河、管垸河、虎渡河水系;区域Ⅱ:藕池河的西、中两支水系;区域Ⅲ:藕池河的东支水系;区域Ⅳ~Ⅵ分别为:西洞庭湖(目平湖)水系、南洞庭湖水系、东洞庭湖水系;区域Ⅶ:枝江~藕池口河段;区域Ⅷ:藕池口~螺山河段;区域Ⅸ~Ⅻ分别为:湘、资、沅、澧4个洪道区域。

  3.2 模型结构 由上述荆江及洞庭湖区基本情况分析可知:荆江及洞庭湖区是由区域Ⅰ~Ⅻ等12个区域通过串联或并联而成的相互联系的整体网络结构,河网区的输入输出就是通过这些区域的相互调节达到匹配。在不影响河网基本地理及水流特征的条件下,按照神经网络的结构要求对前文所分区域进行适当的调整,如将区域Ⅸ~区域Ⅻ分为上下两部分以及将区域Ⅷ分为三部分等。神经网络节点与河网区域之间的对应关系如表1.

  根据神经网络结构要求,上下各个节点之间相互有联系。但从物理意义上来看,河网上下区域并不是都有必然联系。因此,本文将上下区域没有必然联系的点之间的权重强加为0,这样使模型既满足神经网络结构的要求,又符合河网水流运动规律。如区3除与区11有水量交换外,与第三层其余节点之间没有水量交换,故在模型中可以赋0.另外为简化起见,三口来流合并为一个来流,故荆江与洞庭湖之间的关系可以概化为与图2相似的网络模型。

  由概化模型结构图可知,本文用来模拟洞庭湖水流运动的网络为一个6层网络结构。第1层为6个节点,分别代表宜昌+清江来流、四水来流;第2层~第5层为模型隐层,分别有6、7、3、2个节点;第6层为1个节点,代表螺山出流。

  从神经网络结构要求来看,神经网络输入节点数为影响输出变量的个数,输出变量的数即为输出节点的个数。而隐单元数的选择是一个十分复杂的问题,往往根据设计得的经验和试验来确定,因而没有一个很好的解析式来表示。可以说隐单元数与问题的要求、输入输出单元的多少都有直接关系。隐单元数太多导致学习时间过长,误差不一定最佳;隐单元太少,容错性差,不能识别以前没有看到的样本。隐单元的选取决定了网络性能的好坏,因此就存在一个隐单元数的选取问题。

  由此可见,本文采用6层隐层、隐层节点数同时,也符合网络结构的要求。鉴于人工神经网络与河网在结构上相似,将神经网络结构确定方法同河网本身的水系结构有机联系起来共同确定网络结构,可以大大节省工作量,给网络结构的确定提供了一种新的方法。

  表1 模型节点与河网区域之间的对应关系

  模型节点河网区域模型节点河网区域

  区1区域Ⅶ区10大湖口河、自治局河、管垸河、虎渡河(中河口以下)水系(区域Ⅰ下段)

  (中河口以下)水系(区域Ⅰ下段)

  区2松滋河、弥陀寺~中河口(区域Ⅰ上段)区11湘水下段水系

  区3湘水上段水系区12资水下段水系

  区4资水上段水系区13沅水下段水系

  区5沅水上段水系区14调弦口~监利河段

  区6澧水上段水系区15注滋口河段

  区7藕池口~调弦口河段区16区域Ⅳ+区域Ⅴ

  区8区域Ⅱ区17监利~螺山河段

  区9区域Ⅲ区18区域Ⅵ

  2.3 城陵矶水沙过程模拟 本文利用洞庭湖1981年~1983年及1984年宜昌、四水以及螺山出口日平均水流资料,区间汇流资料根据资料用区间汇流与三口四水来流总量的比值确定。1981~1983年资料作为模型率定资料,1984年作为检验资料。为了防止部分神经元达到过饱和,对以上资料进行了规格化处理。

  荆江和洞庭湖之间的演变关系是通过三口分流分沙作为纽带,三口分流分沙变化对荆江和洞庭湖的水沙变化起着关键性的作用。因此,模型要比较好地反映荆江和洞庭湖的演变发展,在模型训练过程中必须充分、正确地反映三口分流分沙变化规律。图3为1984年计算流量过程与实测流量过程比较。由图可知:用本文所建立的河网水情预报模型来模拟1984年流量过程时,模型模拟的流量过程基本上与实测流量过程变化一致,平均误差小于3%,最大误差小于6%.因此,本文所建立的河网预报模型基本上能够反映河网水流变化规律。

  图3 计算与实测量过程比较图4 计算与实测输沙量比较

  本文用洞庭湖1954年~1988年三口、四水以及城陵矶出口年平均输沙量资料,来率定网络各个连接权重。由于洞庭湖区多年情况淤积率保持在74%左右,各个湖区淤积率也基本未发生大的变化,可以认为洞庭湖区的淤积对湖区泥沙淤积速率影响不大。图4为1954~1988年35年城陵矶计算输沙量过程与实测过程比较结果。

  由图4可见,计算结果与实测结果误差在要求的范围之内,能够较好地反映城陵矶输沙过程,表明本文建立的具有河网水沙运动特点的神经网络模型能够用于洞庭湖区泥沙输移规律的分析和模拟。

  4 结论

  河网水沙运动复杂,传统水动力学数值方法在模拟河网水沙运动时很难达到实时预报的要求,对河网地形资料较缺乏的情况应用也比较困难。由于河网结构与神经网络结构相似,其输入输出关系也基本一致,因此用神经网络能够较好地模拟河网水沙运动状态。鉴于传统BP神经网络模型存在网络结构确定困难、内部节点参数物理意义不明确等缺点,本文从水沙运动的连续方程和槽蓄方程出发,建立了能反映水沙基本规律,内部节点物理意义清楚的河网神经网络模型。利用所建模型对长江中游水沙运动宏观规律进行模拟,模拟结果表明本文模型能够较好地反映客观水沙输移规律。

本文讲解到此结束,希望对大家有所帮助。

免责声明:本文由用户上传,如有侵权请联系删除!