本学术报告概述了人工智能生成内容检测的背景、挑战及两种核心算法——DetectGPT和DeTeCtive。重点阐述了基于概率曲率的零样本检测方法和多级对比学习框架，分析了其原理、优势与不足，并展望了未来优化方向，如提升普适性、实时性能及计算资源效率等。
人工智能生成内容检测-刘佳-2原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2025/01/05/%e4%ba%ba%e5%b7%a5%e6%99%ba%e8%83%bd%e7%94%9f%e6%88%90%e5%86%85%e5%ae%b9%e6%a3%80%e6%b5%8b/
人工智能系统面临着多种安全威胁，其中对抗样本攻击被广泛应用于诸如计算机视觉、自然语言处理、音频处理以及恶意软件检测等多个领域。本文介绍了常见的对抗样本检测方法和原理。特别的，简单分…
远程监督方法用于关系抽取任务，会给数据集带来噪声样本，为此，本文介绍了两种基于多示例学习的去噪方法，能够有效的去除训练集中存在的噪声样本。
深度学习（DL）在图像分类、语音识别等领域达到或超过了人类水平的性能，且被广泛应用于安全关键领域中（自动驾驶、恶意软件检测等）。然而一些原因（如训练数据偏差、模型过拟合或欠拟合），…
随着机器学习的快速发展，图像分类、恶意软件识别等多个领域都通过建立机器学习模型解决相应的问题。但由于一些训练出的模型可能涉及训练数据的隐私信息与模型的商业价值，所以其安全性一直备受…
本次报告首先介绍了线程、进程的概念，由此讲解操作系统中实现并发编程的三种方式，着重介绍了Python语言下多线程、多进程、协程的编程方法，并结合开发实际，给出了在线程、进程、协程之…
ChatGPT问世以来，LLM百花齐放，对我们的生活产生了巨大的影响。然而LLM生成的内容存在信息泄露、无中生有等诸多隐患。通过强化学习技术我们可以将生成内容与人类偏好对齐，控制L…
本次报告从TCP/IP四层模型出发，讲解了分层模型的原理和意义，并系统地从底层到顶层分别讲解了数据链路层、传输层和网络层这三层的主要协议和这些协议的实现原理。通过此次学术报告可以清…
日志生成的系统溯源图能够记录实体的依赖关系，通过溯源图的后向跟踪和前向跟踪，可实现攻击的溯源。但是随着溯源深度的增加，上下游实体之间的依赖关系呈现指数级爆炸，无法有效溯源。本次学术…
随着智慧教育系统（Intelligent Tutoring System, ITS）的快速发展，ITS以其时空约束少、便捷程度高和个性化定制学习的优势，在现代教育事业中获得广泛关注…
本次报告对联邦学习及其后门攻击方法展开介绍，阐述了联邦学习的发展脉络和三大主要框架，介绍了联邦学习安全性问题及后门攻击分类方法，重点讲解经典的集中式/分布式联邦后门攻击方法，启发思…
