为了从网络上海量文本信息提取有价值信息，需要使用计算机处理文本数据，首要任务是将文本转换为计算机可以处理的向量化数据。单词是文本的最小单位，所以需要使用语言模型得到词向量表示成为文本语义分析的首要任务。但是传统的语言模型存在受专家规则限制或者存在零概率现象，为了构造更加智能的语言模型将深度学习应用于词向量预训练模型的构建中。本次学术报告围绕基于transformer模型结构的GPT3预训练语言模型进行讲解，梳理GPT1到GPT3的模型结构变化，了解GPT3的优缺点以及GPT3在NLP领域的应用。
预训练语言模型GPT3-高依萌原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2021/02/19/%e9%a2%84%e8%ae%ad%e7%bb%83%e8%af%ad%e8%a8%80%e6%a8%a1%e5%9e%8bgpt3/
本次报告介绍了二进制函数相似性分析的发展历史和主要变革，讲解了二进制相似性分析的主要方法，重点介绍了结构特征、语义特征的概念及应用原理。
多标签文本分类是对文本信息进行组织、利用和检索的有效手段，能够提高数据处理效率，具有重要的实际价值。平面多标签文本分类是多标签分类下的子任务，标记每个给定文本与最相关的多个标签。本…
本次报告讲述漏洞检测相关基本概念，源码级漏洞检测的一般步骤，主要从关键点选取、代码切片、代码表示等几个方面讲解源码漏洞检测方法，主要针对泛化性、多类型漏洞检测问题进行研究。
本次报告主要讲述了如何准确高效地检测安卓APP内的第三方库。介绍了第三方库检测的基本概念和主要困难，解释了准确高效检测第三方库的意义，详细讲解布隆过滤器的原理与使用方法、基于熵的代…
详细介绍Git的原理、初级和进阶用法
对抗式多任务学习是针对普通的多任务学习模型在共享特征提取时，可能会被特定任务的特定特征所污染的问题所提出的，…
本文介绍两种预训练加密流量分类方法：基于BERT和包头信息的分类系统，利用包头字段生成语义句子；YaTC模型采用MFR矩阵和注意力机制，结合MAE进行预训练。未来研究需优化模型效率…
多视图聚类技术旨在利用不同视图之间信息的互补性和一致性增强模型的鲁棒性，提高聚类准确率。本次报告首先讲述多视图聚类的基本概念，然后结合两篇算法对完全多视图聚类和不完全多视图聚类方法…
Java虚拟机实现了自动内存管理机制，包括自动内存分配和自动垃圾回收，大大避免了由于代码错误导致的内存泄漏和溢出，得到大量开发者青睐…
