|  首页  |  资讯  |  评测  |  人物  |  活动  |  学院  |  新报  |  专栏  |  专题  |  专区  |  
您现在的位置:硅谷网> 学院> 经验>

AI入门:到底循环神经网络能解决什么问题?

2019-07-29 18:11 作者:Jimmy 来源:硅谷网综合 HV: 编辑:GuiGu 【搜索试试

今天我们主要讨论的循环神经网络,到底循环神经网络能解决什么问题,它的结构是怎样的?有什么优缺点?应该在那些领域上上?本文将跟大家一起探讨。

讲到AI不得不讲深度学习,而讲到深度学习,又不能不讲循环神经网络(Recurrent Neural Network,RNN)。如果把深度学习比作中国的全民捕鱼注册送金币吧界,那循环神经网络和卷积神经网络就是腾讯和阿里级别的地位。

看这篇文章之前,建议大家先看下我前面写的两篇文章《深度学习到底有多深?》、《入门AI:卷积神经网络》,本文讨论的内容跟前面写的文章有很强的关联性,看完可能更容易理解本文所讨论的内容。

照例,先给个概述图:

为了方便,在下文中我们用RNN来表示循环神经网络。

一、为什么需要RNN?

我们先来看一个订票系统:

假设我们在订票系统中输入一句话“我将在7月20号去深圳”,那么订票系统就会这句话中的词进行分类,专业术语叫填槽(slot filling)。

那订票系统会把这些词分别填到3个槽中:

目的地:深圳

时间:7月20号

其他类型:我、将、在、去

补充下神经网络的知识,要实现这个分类的话,我们可以搭一个网络架构。

当输入“深圳”,经过网络系统后,会判断出“深圳”属于目的地槽的概率是多少,然后决定是否属于目的地槽。

但是,假设我们再输入另外一句话“我将在7月20号离开 深圳”,机器能正确处理吗?

对于普通的神经网络,同样的输入,肯定会是同样的输出,因此如果同一个网络输入这两句的“深圳”的话,那机器肯定会把他们归到同一个槽,这样肯定是错了。

那怎么办?假设我们在输入“深圳”的时候,机器根据上下文的词,再输出结果。这样是不是有可能解决问题了,没错,这就是RNN要做的事。

具体RNN怎么工作的,接着往下看。

二、RNN的工作原理

1. RNN的工作原理

RNN的工作原理图:

在神经网络里,每一个神经元的输出,都会被记得绿色的方块里,然后下一次输入的时候,不仅要考虑红色的输入,还要考虑被记在绿色里面的值。

也就是:新的输出是由新的输入和被之前所记下来的值所决定的。

这样的话,我们前面所讨论的问题就可以解决了:

当输入第一句话的“深圳”时,我们记住前面输入的是“去”,然后就把“深圳”归为目的地。

当输入第二句话的“深圳”时,我们记住前面输入的是“离开”,然后就把“深圳”归为出发地。

因此,我们可以看到RNN最主要的两个特点:

新的输出是由新的输入和之前的输出共同决定的。

对于同一个输入,可能会输出不同的结果。

2. RNN的其他架构

如上左图的架构,是每一个神经元的输出都会被记起来。

如上右图的架构,是网络的最终输出的值才会被记起来。

双向RNN:

假设我输入一句 “7月20号,深圳,我来了”,如果用我们之前讨论的网络,就可能有问题。因为之前的网络只能考虑输入在“深圳”之前的内容,没办法考虑在“深圳”之后的内容,而“来”在“深圳之后”,所以网络就不知道“深圳”是目的还是出发地了。

那双向RNN就可以解决这个问题:

双向RNN是把同一句话,按正反两个顺序一起丢到网络里去训练,然后综合考虑正反两个顺序再决定输出结果。因此,双向RNN不仅考虑了前文,还考虑的后文。

到此为止,我们讨论的都都是最简单的RNN,但现实可能存在更加复杂的场景。

我们前面讨论的都是输入“深圳”只会考虑跟它相邻的那个值,如果跟它相距比较远,可能就没办法处理了,比如:我们输入“离开了,7月20号,我美丽的深圳”。

那要怎么解决这样的问题呢?下面我们就来介绍下,RNN中最经典,也是现在最常用的模型:LSTM(Long short-term memory)。

三、 LSTM

结构图:

由四部分组成:输入门、输出门、忘记门、记忆单元

输入门(Input gate):决定外界能不能把数据写入记忆单元,只有输入门打开的时候,才能写入数据;

输出门(Output gate):决定外界能不能从记忆单元里读取数据,只有输出门打开的时候打,才能读取数据;

忘记门(Forget gate):决定什么时候把记忆单元里的数据清除,打开的时候是不清除的,关闭的时候就会清除;

记忆单元(Memory cell):就是存储数据。

每个门什么打开,什么时候关闭?都是机器自己学的。

具体的计算逻辑:

这个是纯数学逻辑了,大家看下就好,看不明白也没关系,入门不必深究。

从上图我们可以看出,LSTM是需要4个输入,才会有一个输出的。

小结:

LSTM最大的特点就是:可以有很长时间或距离的记忆能力,而普通的RNN不能记住间距大的信息。

除此之外,LSTM对还能对梯度消失和梯度爆炸有比较好的处理效果。

备注:对于不知道什么是梯度下降的同学,可以翻下之前的文章。这里简单介绍下什么是梯度消失和梯度爆炸。

梯度消失:误差梯度的值变化得太小,没办法移动了,导致机器停止学习;

梯度爆炸:误差梯度变化非常大,网络参数大幅更新,导致网络不稳定。

四、总结

1. RNN小结

RNN是根据“人的认知是基于过往经验和记忆”这一观点提出的,它不仅考虑当前时刻的输入,还考虑对前面内容记忆。即RNN 对之前发生在数据序列中的事是有一定记忆的,对处理有序列的问题效果比较好。

2. RNN与CNN的不同点

前一输入跟下一输入是否有关联:

CNN :前一个输入和下一个输入之间没有任何关联,因此所有的输出都是独立的。

RNN:前一个输入和下一个输入之间没有任何关联,共同决定新的输出

前馈或反馈网络:

CNN:属于前馈神经网络

RNN:属于反馈神经网络

备注:什么是前馈网络?什么是反馈网络?

前馈网络:每一层中的神经元接收前一层神经元的输出,并输出到下一层神经元,整个网络中的信息是朝着一个方向传播的,没有反向的信息传播;

反馈网络:反馈神经网络中神经元不但可以接收其他神经元的信号,而且可以接收自己的反馈信号。

3. RNN的主要应用领域

用RNN处理需要考虑时间先后顺序的问题,效果都很不错,例如:

自然语言处理(NLP)

语音识别

机器翻译

图像描述生成

文本相识度处理等

好了,到这里就介绍完了RNN。

本文由 @Jimmy 原创发布于人人都是产品经理。未经许可,禁止转载。

题图来自Unsplash,基于CC0协议。

【对“AI入门:到底循环神经网络能解决什么问题?”发布评论】

版权及免责声明:
① 本网站部分投稿来源于“网友”,涉及投资、理财、消费等内容,请亲们反复甄别,切勿轻信。本网站部分由赞助商提供的内容属于【广告】性质,仅供阅读,不构成具体实施建议,请谨慎对待。据此操作,风险自担。
② 内容来源注明“硅谷网”及其相关称谓的文字、图片和音视频,版权均属本网站所有,任何媒体、网站或个人需经本网站许可方可复制或转载,并在使用时必须注明来源【硅谷网】或对应来源,违者本网站将依法追究责任。
③ 注明来源为各大报纸、杂志、网站及其他媒体的文章,文章原作者享有著作权,本网站转载其他媒体稿件是为传播更多的信息,并不代表赞同其观点和对其真实性负责,本网站不承担此类稿件侵权行为的连带责任。
④ 本网站不对非自身发布内容的真实性、合法性、准确性作担保。若硅谷网因为自身和转载内容,涉及到侵权、违法等问题,请有关单位或个人速与本网站取得联系(联系电话:01057255600),我们将第一时间核实处理。
相关
广告
头条
新闻来源很重要?将近一半读者根本不关心它! 新闻来源很重要?将近一半读者根本不关心它!
在网络主页上发新闻的好日子早就过去了。今天的受众更愿意把超过一半的流量花在社交媒……
·新闻来源很重要?将近一半读者根本不关心它!
图文
如何快速看懂商业模式?盈利模式+服务模式+组织模式
如何快速看懂商业模式?盈利模式+服务模式+
被收录不显示?如何做到让网站被百度秒收录?
被收录不显示?如何做到让网站被百度秒收录
自媒体账号如何申请?各个平台运营方法汇总!
自媒体账号如何申请?各个平台运营方法汇总
it是什么行业?it技术是什么?it是什么意思?
it是什么行业?it技术是什么?it是什么意思
最新
·AI入门:到底循环神经网络能解决什么问题?
·如何快速看懂商业模式?盈利模式+服务模式+组织模
·怎么删除计算机硬盘列表里的百度云管家图标?
·目前微信有什么bug?微信bug是什么意思啊?
·被收录不显示?如何做到让网站被百度秒收录?
热点
·做客、作客、座客和坐客的意思和区别是什么?
·硅谷为什么叫硅谷?硅谷到底是什么意思呢?
·物联网时代真的要来了,究竟物联网是什么呢?
·内涵段子为什么被封 内涵段子真的被永久关停
·知道UV、VV,CV是什么?PV、UV、IP什么意思?
旧闻
·趣味科普,怎样让激光打印机取得最佳打印效果
·英语热词你知道多少?“创业”用英语怎么说?
·身陷各种“门” 企业应该如何面对公关危机?
·硅谷是指世界哪个地方?硅谷为什么会成功?
·硅谷全解析:硅谷怎么读?硅谷应该如何发音?
广告
硅谷影像
如何快速看懂商业模式?盈利模式+服务模式+组织模式
如何快速看懂商业模式?盈利模式+服务模式+组织模
被收录不显示?如何做到让网站被百度秒收录?
被收录不显示?如何做到让网站被百度秒收录?
趣味科普,怎样让激光打印机取得最佳打印效果?
趣味科普,怎样让激光打印机取得最佳打印效果?
企业应该如何处理网络公关危机?五招烟消云散!
企业应该如何处理网络公关危机?五招烟消云散!
it是什么行业?it技术是什么?it是什么意思?
it是什么行业?it技术是什么?it是什么意思?
身陷各种“门” 企业应该如何面对公关危机?
身陷各种“门” 企业应该如何面对公关危机?
关于我们·About | 联系我们·contact | 加入我们·Join | 赞助我们·Sponsor | Site Map | Tags | RSS Map
电脑版·PC版 移动版·MD版 网站热线:(+86)010-57255600
Copyright © 2007-2019 硅谷网. 版权所有. All Rights Reserved. <京ICP备12003855号-2>
博聚网