ML-Embed: Inclusive and Efficient Embeddings for a Multilingual World
ML-Embed 是 ICML 2026 的多语言文本 embedding 模型族,提出 3D Matryoshka Learning(3D-ML),在模型深度、embedding 维度、序列长度三个维度同时做嵌套训练以兼顾效率。开源 140M–8B 多档模型及全部数据与代码,在 MTEB 的 430 个任务上评测,于 17 个 benchmark 中刷新 9 个纪录,低资源语言提升尤为明显。
INSIGHT三维 Matryoshka 让一次训练产出可按深度/维度/长度灵活裁剪的 embedding,部署时按延迟预算选档,省去为不同场景单独训练 embedding。对社区短文本召回的启示:低维浅层档做粗召回、高维档做精排,既控成本又保召回质量;全量开源也便于在自有 UGC 语料上继续微调。