CDAE：对比去噪提升BERT嵌入扰动鲁棒性
热点事件持续更新
CDAE：对比去噪提升BERT嵌入扰动鲁棒性
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Sina Heydari 等作者提出轻量级对比去噪自编码器 CDAE，通过联合优化对比目标与重建目标来精炼 BERT 嵌入，使其学习对同义词替换、掩码和词丢弃等扰动不敏感的表示。 作者称，在多种扰动策略和强度下，CDAE 的嵌入相似度保持能力持续优于原始 BERT 嵌入和 SimCSE，且扰动越强差距越大。源代码已公开。
AI 根据报道生成 · 51 分钟前更新
最新进展10月19日 12:00
CDAE：用对比去噪提升预训练语言模型的扰动鲁棒性报道时间线
沿着报道，了解事件的不同侧面。
10月19日
- arXiv cs.AICDAE：用对比去噪提升预训练语言模型的扰动鲁棒性
研究提出轻量级对比去噪自编码器 CDAE，通过联合优化对比目标与重建目标来精炼 BERT 嵌入，学习对同义词替换、掩码和词丢弃等扰动不敏感的表示。在多种扰动策略和强度下，CDAE 的嵌入相似度保持能力持续优于原始 BERT 嵌入和 SimCSE，且扰动越强差距越大。源代码已公开。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。