● 从多模态大模型中「拆」出音频向量模型

📌 一句话摘要 Jina AI 提出一种通过“拆解与重组”多模态大模型（MLLM）组件，以极低数据成本构建高性能、轻量化（1.1B）音频向量模型的新范式。 📝 详细摘要 本文深入探讨了如何利用预训练多模态大模型（如 Qwen2.5-Omni）作为杠杆，构建高效的音频向量模型。Jina AI 团队

● 不平衡数据下对比学习的理论分析：从训练动态到剪枝解决方案

📌 一句话摘要 本文通过理论分析揭示了数据不平衡如何损害对比学习的表征质量，并提出一种基于幅值的动态剪枝方案，通过增强少数特征的梯度更新来提升长尾分布下的模型性能。 📝 详细摘要 文章针对对比学习在处理现实世界不平衡数据时的局限性，构建了一个基于 Transformer 编码器的理论框架。研究将