Transformer是一种用于自然语言处理和其他序列数据处理任务的深度神经网络模型，由Vaswani等人于2017年提出。与传统的循环神经网络（Recurrent Neural Network，RNN）和卷积神经网络（Convolutional Neural Network，CNN）不同，Transformer模型使用了自注意力机制（S...

引言：自然语言处理（NLP）是一门涉及语言理解和生成的计算机科学领域，涵盖自然语言文本、语音和图像的处理。近年来，随着深度学习技术的迅速发展，NLP领域的研究也取得了长足进步，尤其是在深度神经网络和预训练语言模型方面的应用，极大地推动了NLP的发展。因此，本文旨在对基于深度学习的自然语言处理研究进行综述，总结最新的研究算法和应用进展。1、...

自然语言处理(Natural Language Processing, NLP)能力的增强提高了人们的认知和与人类的互动，这将决定人工智能的未来，带来更智能的应用，从改进的垃圾邮件过滤器到能像人类一样交谈的机器人。所有人工智能研究人员的主要共同目的一直是让机器或软件模仿人类思维的独立性、自发性，以及在某种程度上的创造力。实现这些类似人类的...

这里推荐一批学习自然语言处理相关的书籍，当然，不止是自然语言处理，国内的书籍相对比较便宜，值得购买。《自然语言处理综论》，目前第二版翻译版本已经出版，入门书，不过看得是第一版翻译版本，英文名《Speech a...

自 BERT 打破 11 项 NLP 的记录后，可应用于广泛任务的 NLP 预训练模型就已经得到大量关注。最近微软推出了一个综合性模型，它在这 11 项 NLP 任务中超过了 BERT。目前名为「Microsoft D365 AI & MSR AI」的模型还没...