SFFAI 24 | 马聪：NLP中的生成式预训练模型 发表于 2019-05-09 分类于 🌙进阶学习 ， ⭐讲座 阅读次数： Valine： 本文字数： 232 阅读时长 ≈ 1 分钟本次分享将主要关注OpenAI在自然语言处理领域的两个预训练的工作GPT和GPT-2.0. 通过分析GPT的两个模型，重点探讨基于单向语言模型的NLP预训练过程对序列生成任务的作用以及利用预训练模型进行NLP多种任务无监督测试的方式和效果。GPT-2.0在机器翻译、问答系统、文本摘要等复杂任务上的性能展示出NLP预训练模型的强大功能以及其在自然语言序列生成中性能。参考资料https://www.bilibili.com/video/BV1N4411Y7zT/