研究针对文本嵌入模型的模型反演攻击，揭示了自然语言处理领域面临的隐私泄露风险。本次学术报告介绍了关于文本嵌入模型模型反演攻击的最新方法，并指明了现有的缺陷和未来发展方向。
针对文本嵌入模型的模型反演攻击方法研究-皮佳伟原创文章，作者：bfs，如若转载，请注明出处：https://www.isclab.org.cn/2024/11/05/%e9%92%88%e5%af%b9%e6%96%87%e6%9c%ac%e5%b5%8c%e5%85%a5%e6%a8%a1%e5%9e%8b%e7%9a%84%e6%a8%a1%e5%9e%8b%e5%8f%8d%e6%bc%94%e6%94%bb%e5%87%bb%e6%96%b9%e6%b3%95%e7%a0%94%e7%a9%b6/
认知诊断通过挖掘学习者行为、心理和认知之间的关系，利用学习者的学习数据，对其认知状态进行综合评估和诊断，其输出结果，即学生对于不同知识概念的熟练程度应与实际情况相符，具有高度的可解…
针对开源软件库输入构建需要符合特定编程语言语法规范的问题，现有研究方法分别从构建模型输入和构建API输入两条路线出发，。LEMON方法针对缺陷引起的极小输出差异难以被察觉的问题，采…
本次学术报告主要讲解了多示例多标记学习(Multi-Instance Multi-Label learning)，主要对多示例多标记…
本报告介绍了深度学习后门攻击及其检测的基本概念、类型划分等背景知识，对2种基于主动策略的后门攻击检测算法进行了具体说明，阐述了对于深度学习后门攻击检测的发展趋势和未来前景。
当深度学习以惊人的准确性执行各种各样任务的同时，在图像分类等领域的深度神经网络却容易受到对抗样本的攻击，从而输出错误的预测结果。本次学术报告首先说明了对抗攻防的主要方法分类和残差网…
随着大数据时代的来临和计算机算力的不断提升，机器学习模型迅速发展，成为计算机视觉、自然语言处理以及恶意软件检测等领域的研究热点。然而最近的研究发现，机器学习模型面临着严峻的安全威胁…
联邦学习（Federated Learning）在2016年由谷歌最先提出，其设计目标是在保障大数据交换时的信息安全、保护终端数据和个人数据隐私、保证合法合规的前提下，在多参与方或…
本报告介绍了深度神经网络模型窃取检测的三种方法，从算法思想，实验结果，算法分析三个角度对已有算法进行贯穿式总结，阐述了模型窃取检测领域的难点，提升对模型安全领域问题的认识
联邦大模型将联邦学习与大语言模型相结合，遵循“数据不动、模型动”的原则，在无需集中原始数据的前提下，共同训练与优化大模型。该技术能有效破解数据孤岛，为医疗、教育等领域提供隐私安全的…
