极快RNN,的结构,能做哪些任务,缺点。
一、什么是RNN:
RNN(Recurrent Neural Network)即循环神经网络,用于解决训练样本输入是连续的序列,且序列的长短不一的问题,比如基于时间序列的问题。
※※切记:RNN是按时间序列展开
二、RNN由哪些部分构成:
输入,输出,和 中间的循环核
<1>输入:由三部分组成,【batch_size,time_step,word_dim】,就是图中的X。
atch_size:批次
time_step:时间步
word_dim:需要处理特征的维度
<2>输出:输出有两个结果,一是时间步的结果,二是隐含状态的结果。
时间步结果:就是图中的O。
它的结果也是三部分【batch_size,time_step,hidden_dim】。
batch_size:批次
time_step:时间步
hidden_dim:隐藏的结果的维度
隐状态结果:就是图中的S。
它的结果是两部分【batch_size,hidden_dim】。
batch_size:批次
hidden_dim:隐藏的结果的维度
<3>循环核:
循环核,按时间步共享(time_step),里面矩阵的参数也是共享的,只有隐状态S,
刚开始初始矩阵为零,后面每次跟着时间步一步一步更新。直到最后。
W:初始化来的,
U:初始化过来的,
V:初始化过来的
三、RNN能做哪些任务:
<1>:RNN结构决定他能干什么:
one-->one(一对一):多层感知器
one-->many(一对多):图像描述
many-->one(多对一):文本情感分析,文本分类
many-->many(多对多,不对齐的情况下):机器翻译
many-->many(多对多,不对齐的情况下):以帧为粒度的视频分类
※※:上面几种任务可以去搜搜
四、RNN缺陷:
- RNN 有短期记忆问题,无法处理很长的输入序列
- 训练 RNN 需要投入极大的成本
后来就引入了LSTM(长短期记忆网络)。
这篇好文章是转载于:学新通技术网
- 版权申明: 本站部分内容来自互联网,仅供学习及演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,请提供相关证据及您的身份证明,我们将在收到邮件后48小时内删除。
- 本站站名: 学新通技术网
- 本文地址: /boutique/detail/tanhihgcia
-
photoshop保存的图片太大微信发不了怎么办
PHP中文网 06-15 -
photoshop扩展功能面板显示灰色怎么办
PHP中文网 06-14 -
word里面弄一个表格后上面的标题会跑到下面怎么办
PHP中文网 06-20 -
TikTok加速器哪个好免费的TK加速器推荐
TK小达人 10-01 -
《学习通》视频自动暂停处理方法
HelloWorld317 07-05 -
excel图片置于文字下方的方法
PHP中文网 06-27 -
Android 11 保存文件到外部存储,并分享文件
Luke 10-12 -
微信提示登录环境异常是什么意思原因
PHP中文网 04-09 -
微信运动停用后别人还能看到步数吗
PHP中文网 07-22 -
微信人名旁边有个图标有什么用
PHP中文网 03-11