aoi学院

Aisaka's Blog, School of Aoi, Aisaka University

SFFAI 37 | 周龙:同步双向文本生成

基于双向编码的BERT在11项自然语言理解任务上取得了惊人的效果,而目前主流的自然语言生成任务(包括机器翻译,自动摘要等)仍然采用单向解码,即从左到右依次产生目标文本。基于此,我们实现了两大突破:(1)编码器-解码器框架:从双向编码到双向解码。(2)序列生成:从两端到中间。


参考资料

https://www.bilibili.com/video/BV1Vx411f7xE/