聚焦大模型生成中“幻觉”问题的原理、检测方法及其创造力价值。内容涵盖AI幻觉的定义与分类、典型案例、LLM-Check与Verify-and-Edit两种前沿算法的原理与实验评估，并探讨AI幻觉在科学发现、文艺创作等领域的潜在正向价值，为AI内容生成的可信性与未来发展提供系统性思考。
AI幻觉陷阱与创造力-刘佳原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2025/06/09/ai%e5%b9%bb%e8%a7%89%e9%99%b7%e9%98%b1%e4%b8%8e%e5%88%9b%e9%80%a0%e5%8a%9b/
多标签学习的研究对于多义性对象的学习建模具有十分重要的意义，现已逐渐成为机器学习界一个新的研究热点。本次报告…
随着官方发布的漏洞数量呈现指数的增长趋势，针对漏洞检测技术的研究应运而生。漏洞种类的多样性以及检测方法的单一性导致漏洞检测结果呈现一定的局限性，随着自然语言处理技术的兴起和专家知识…
本次报告介绍了机器学习模型训练过程中的显存优化方法。首先介绍了深度学习框架的显存利用机制，随后结合原理和具体实例讲解了“代码级”和“框架级”显存优化方法，引导大家在实际科研过程中更…
认知扭曲是认知行为治疗中的核心概念，与抑郁、焦虑等心理障碍的形成和维持密切相关，但现有很多研究主要关注情绪倾向或表层语义，难以刻画个体更深层的思维偏差与认知模式，同时认知扭曲往往存…
二进制代码-源代码匹配是信息安全领域的重点研究方向之一。在给定二进制代码的情况下，逆向分析研究人员希望找到它对应的源代码，从而提升逆向分析的效率和准确率。但由于源代码和二进制代码的…
随着大数据时代的来临和计算机算力的不断提升，机器学习模型迅速发展，成为计算机视觉、自然语言处理以及恶意软件检测等领域的研究热点。然而最近的研究发现，机器学习模型面临着严峻的安全威胁…
图神经网络模型的可解释性对于建立用户与决策模型之间的信任关系至关重要，为了安全、可信地部署图神经网络模型，需要提高图神经网络模型的可解释性和透明性。本次报告带大家了解图神经网络的可…
聚焦IoRT/IIoT场景下联邦基础模型的安全评测与防御，概述联邦微调范式与隐蔽后门风险；重点介绍SecFFT频域一致性检测机制与长期意图建模相结合实现安全加权聚合，以及FL-ID…
近年来，内部(insider)攻击，包括组织信息系统破坏、信息盗窃、电子欺诈等，具有很强的隐蔽性和破坏性，对个人、企业和国家安全构成了巨大的威胁。因此，我们应该更加关注内部威胁的研…
魏超2014.11.2
