CASIA OpenIR  > 模式识别国家重点实验室  > 自然语言处理
An Empirical Exploration of Skip Connections for Sequential Tagging
Wu HJ(吴惠甲); Zhang JJ(张家俊); Zong CQ(宗成庆)
2016
会议名称COLING
会议日期2016-12
会议地点日本
摘要In this paper, we empirically explore the effects of various kinds of skip connections in stacked bidirectional LSTMs for sequential tagging. We investigate three kinds of skip connections connecting to LSTM cells: (a) skip connections to the gates, (b) skip connections to the internal states and (c) skip connections to the cell outputs. We present comprehensive experiments showing that skip connections to cell outputs outperform the remaining two. Furthermore, we observe that using gated identity functions as skip mappings works pretty well. Based on this novel skip connections, we successfully train deep stacked bidirectional LSTM models and obtain state-of-the-art results on CCG supertagging and comparable results on POS tagging.
文献类型会议论文
条目标识符http://ir.ia.ac.cn/handle/173211/14508
专题模式识别国家重点实验室_自然语言处理
作者单位中国科学院自动化研究所
推荐引用方式
GB/T 7714
Wu HJ,Zhang JJ,Zong CQ. An Empirical Exploration of Skip Connections for Sequential Tagging[C],2016.
条目包含的文件
文件名称/大小 文献类型 版本类型 开放类型 使用许可
COLING-16.pdf(223KB)会议论文 开放获取CC BY-NC-SA浏览 下载
个性服务
推荐该条目
保存到收藏夹
查看访问统计
导出为Endnote文件
谷歌学术
谷歌学术中相似的文章
[Wu HJ(吴惠甲)]的文章
[Zhang JJ(张家俊)]的文章
[Zong CQ(宗成庆)]的文章
百度学术
百度学术中相似的文章
[Wu HJ(吴惠甲)]的文章
[Zhang JJ(张家俊)]的文章
[Zong CQ(宗成庆)]的文章
必应学术
必应学术中相似的文章
[Wu HJ(吴惠甲)]的文章
[Zhang JJ(张家俊)]的文章
[Zong CQ(宗成庆)]的文章
相关权益政策
暂无数据
收藏/分享
文件名: COLING-16.pdf
格式: Adobe PDF
所有评论 (0)
暂无评论
 

除非特别说明,本系统中所有内容都受版权保护,并保留所有权利。