跳到正文
Hugging Face Daily Papers· Mohammed Irfan Kurpath·· 17 天前AI 评分38

Omni-Embed-Mini:通过稠密蒸馏绑定多模态且不遗忘

Omni-Embed-Mini: Binding Modalities Without Forgetting via Dense Distillation

AI 导读

Omni-Embed-Mini 是一个 0.9B 参数模型,可将文本、语音、音频、图像、视频和富视觉文档映射到同一共享余弦空间,且不更新任何文本侧参数。其做法是让每个媒体样本配一段稠密级联描述,以冻结骨干网络对该描述的嵌入作为教师目标,从而避免扩展新模态时文本检索质量下降。

来源:Hugging Face Daily Papers · huggingface.co