1. 信息系统及安全对抗实验中心首页
  2. 学术报告

预训练语言模型GPT3

为了从网络上海量文本信息提取有价值信息,需要使用计算机处理文本数据,首要任务是将文本转换为计算机可以处理的向量化数据。单词是文本的最小单位,所以需要使用语言模型得到词向量表示成为文本语义分析的首要任务。但是传统的语言模型存在受专家规则限制或者存在零概率现象,为了构造更加智能的语言模型将深度学习应用于词向量预训练模型的构建中。本次学术报告围绕基于transformer模型结构的GPT3预训练语言模型进行讲解,梳理GPT1到GPT3的模型结构变化,了解GPT3的优缺点以及GPT3在NLP领域的应用。

预训练语言模型GPT3-高依萌

原创文章,作者:BFS,如若转载,请注明出处:https://www.isclab.org.cn/2021/02/19/%e9%a2%84%e8%ae%ad%e7%bb%83%e8%af%ad%e8%a8%80%e6%a8%a1%e5%9e%8bgpt3/