9月4日,微信AI团队正式宣布开源通用多模态嵌入模型 WeMM-Embedding,代码、模型权重和技术论文同步上线 GitHub 与 Hugging Face,采用 Apache 2.0 协议,可商用。

这不是一个生成式模型,而是负责”检索和匹配”的向量模型——把文本、图像、视频、视觉文档(如PDF扫描件)统一编码到同一个向量空间,用于搜索、推荐、以图搜图、内容去重等场景。
模型提供 2B、4B、9B 三个版本,基于 Qwen3.5 多模态架构构建。在 MMEB-v2 多模态嵌入榜单上,9B 版本以 80.6 分排名第一,2B 版本拿到 77.9 分,超过了此前领先的 8B 开源模型。
这套模型并非实验室产物。它已经在微信视频号、直播、公众号、电商和朋友圈的推荐与搜索系统中大规模上线,日均调用量达到十亿量级。在内部 26 项任务基准测试中,2B 版本相较同规模基线从 60.9 提升至 72.0,分类、搜索、跨域匹配等任务均有明显进步。

一个比较实用的设计是 Matryoshka 可变维度:完整向量最高 2048 维,但可以直接截断到 256 维使用,图像和视频检索性能几乎不掉,能大幅降低向量存储和计算成本。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...



