Hugging Face Daily Papers· Mohammed Irfan Kurpath·· 17 天前AI 评分38
Omni-Embed-Mini:通过稠密蒸馏绑定多模态且不遗忘
Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation
AI 导读
Omni-Embed-Mini 是一个 0.9B 参数模型,可将文本、语音、音频、图像、视频和富视觉文档映射到同一共享余弦空间,且不更新任何文本侧参数。其做法是让每个媒体样本配一段稠密级联描述,以冻结骨干网络对该描述的嵌入作为教师目标,从而避免扩展新模态时文本检索质量下降。
来源:Hugging Face Daily Papers · huggingface.co