aoi学院

目前的深度神经网络模型依旧存在很多局限性，例如无法自动地设计网络结构、无法有效地学习无标签数据的特征、很难处理嵌入在非欧几里得空间的数据和无标签的数据等等。为此，我们通过建模深度神经网络中变量之间的关系来解决以上问题并提升深度神经网络的性能

首先介绍了弱监督图节点分类的任务和存在的挑战
接着分享了一些相关的经典论文
最后介绍了我们最新的IJCAI 2019的工作H-GCN：通过引入粗化和还原操作，设计了层次化的对称图神经网络，分别用9层和11层的网络取得了SOTA的结果。当训练数据极少时，相比之前方法至少有6个百分点的精度提升。

本次分享中，我们介绍一下近期的工作，分别以缓解上述三个问题为出发点，提出的三种方法：

1. 我们在基于RNN的编码器上层引入关系网络层，增强模型对源语言的表示学习能力；
2. 我们将立方体剪枝算法应用于NMT解码器中，在达到相同甚至更好翻译性能的情况下，比传统柱搜索算法提升了搜索效率。

非自回归神经机器翻译是一种新兴的翻译技术。传统的自回归机器翻译模型是逐词产生译文的，每一步的译文单词的生成都依赖于之前的翻译结果，而非自回归模型对每个译文单词的生成独立建模，因此能同时生成整句译文，大幅提升翻译速度。

如何使人机交互中机器的声音更具情感和表现力一直是一个重要的研究热点。不同于传统pipeline式的语音合成系统，端到端的语音合成方法凭借简练的模型结构，突出的性能获得了越来越多的关注，其中以wavnet, tacotron, tacotron2等最为著名。

语音情感识别是对音频进行情感分类。从语音情感识别的情感特征提取和情感模型构建两个方面进行说明，并介绍一些经典的方法和模型。

Spotlight：

1. 基于双支图神经网络的视频零样本识别方法；
2. 结合知识图谱与图神经网络，对概念间关系进行高效建模。

异质图在真实世界无处不在，异质图的分析也是数据挖掘的热门方向。作者设计了一种异质图神经网络，同时在节点和语义级别利用注意力机制来对邻居信息和语义信息进行加权融合，进而学习到更加细致全面的节点表示。同时，通过对两层的注意力机制进行分析，所提模型具有较好的可解释性。

近年来，卷积神经网络（CNN）在图像这类规则数据的处理中获得了举世瞩目的成功，然而如何拓展CNN以分析点云这种不规则数据，仍然是一个开放的研究问题。对于点云而言，每一个点并非孤立存在，相邻的点形成一个有意义的形状，因此对点间关系进行深度学习建模非常重要。