source preview
source preview 查看原始材料 ↗
Google AI for Developers
Google AI for Developers 查看原始材料 ↗

先看证据

完整配置740M参数;原生向量768维关键事实
上下文8,192 tokens,约为上一代4倍关键事实
61.36MTEB多语言v2
78.68;上一代68.76MTEB Code v1
59.01;MAEB:49.39MMEB v2 overall
文本191MB、全模态567MBPixel 11 Pro

把机制串起来

输入先把素材压到可处理的规模

嵌入模型把内容映射成向量,语义相近的内容通常在向量空间里更接近,因此可用向量检索做搜索、分类和 RAG。跨模态检索的关键不是把图片、声音“变成文字”,而是让不同模态的向量落在可比较的共同空间里。向量越短,存储和检索成本越低,但区分细节的能力可能下降。

机制再把计算集中到关键步骤

文本/代码主干、视觉编码器和音频编码器按需组合,但不同配置输出的向量仍处在同一个 768 维空间,因此文本查询可以匹配由完整多模态配置编码的内容。官方模型卡列出均值池化及 512→768 投影:编码器先提取特征,再汇总为向量;文本输入还可加任务前缀,区分“查询”与“待检索文档”,图像、视频、音频不使用这些文本前缀。这样的模块化设计省去不需要的编码器开销,但完整多模态能力仍需加载额外权重,且不同模态共享同一上下文预算。MRL 允许截取向量前部维度以减少存储和检索成本,截断后做余

结果最后落到可验证的工作结果

['端侧隐私搜索可只加载文本配置,约需191MB active RAM', '跨模态检索需确保查询与内容编码配置兼容', '低维向量适合文本索引;128维不宜默认用于多模态', '混合媒体输入共享8K预算,长音频或多帧视频需留意']

统一的不是输入,而是检索坐标

Google DeepMind于2026年10月6日发布EmbeddingGemma 2。这是一款基于Gemma 4、面向搜索、分类和RAG的开放权重嵌入模型,目标是在手机、笔记本等设备上把文本、图像、视频和音频编码进同一个768维向量空间。它不是负责生成答案的聊天模型,而是把内容变成可比较的向量,让检索系统能按语义相似度找资料。

变化不只在于输入多了媒体类型,而在于不同类型可以进入同一套检索坐标。文本查询可以匹配图像,文字也可以用来检索音频内容;一条包含文字、图片和演示视频的输入,还能得到代表组合内容的向量。对技术团队来说,这可能减少按模态拆分检索与索引流程的需要,但“统一空间”本身并不保证每种业务语义都能被同样准确地表达。

模块化让部署可选,也让边界更重要

完整模型有740M参数,但开发者不必每次都加载全部组件。文本与代码部分为270M参数,其中包括130M Transformer主干和140M embedder;视觉编码器为170M,音频编码器为300M,后两者可以按需选用。模型卡列出的配置包括文本/代码270M、文本加视觉440M、文本加音频570M,以及全模态740M。

这些配置仍映射到同一个向量空间,因此可以用文本配置编码查询,再匹配由完整配置编码的媒体内容。这种安排把部署成本与数据模态拆开考虑,适合设备能力有限、但索引中仍有多种内容的场景。使用时仍要区分“能共享坐标”和“能完整表达”:若任务依赖音频或视觉特征,省略相应编码器就不是无损的轻量化,而是放弃该输入能力。

分数显示进步,但不是一张通用排行榜

模型卡给出的768维全精度结果覆盖多种不同任务。读这些数字时,关键不是把它们排成一张总榜,而是看同类任务上的变化,以及它们各自代表什么能力。

768维全精度基准:MTEB多语言v2 61.36|MTEB Code v1 78.68|MIEB lite图像64.64|MMEB v2 overall 59.01|MSEB声音检索69.54|MAEB音频49.39。

最清晰的纵向比较来自代码检索:EmbeddingGemma 2的78.68高于上一代的68.76,增加9.92分。多语言结果为61.36,材料称其质量保持稳定;其余数字来自不同基准和指标,不能直接横向比较。材料也指出,参数规模更大的模型仍在部分榜单领先,因此这些结果支持“这个小于1B参数的模型具备竞争力”,并不能证明它对所有多模态检索任务都是最佳选择。

本地运行和短向量都要算质量账

EmbeddingGemma 2的本地部署主张有具体的资源数据,但这些数字有明确条件。Google AI Edge团队报告,在Pixel 11 Pro上,量化后的文本配置active RAM约191MB,全模态配置约567MB;另一个部署结果是在MacBook M5 Pro GPU上,以70-token视觉预算处理单张图像约需37.3毫秒。这些是特定设备与设置下的测量,不应直接当作其他手机或线上服务的性能承诺。

模型还用Matryoshka Representation Learning支持把768维向量截到512、256或128维,再重新归一化后用于余弦相似度检索。维度变短能减少向量存储,128维相较768维最多可将存储降至六分之一;代价取决于任务。256维时,多语言分数从61.36降至60.41;128维时,MMEB从59.01降至45.65,说明极限压缩对多模态检索可能并不划算。

适合进入候选,不等于可以跳过评估

模型采用Apache 2.0许可,权重已在Hugging Face和Kaggle提供,材料还列出Ollama、llama.cpp GGUF和LiteRT等部署路径。对希望在设备侧生成向量、降低请求延迟或避免把原始内容发往云端的团队,这些路径降低了试用门槛。它解决的是嵌入推理可以在哪里运行,并不自动解决索引如何更新、检索结果如何评估,或整条RAG链路是否都留在本地。

实际评估应从目标查询和目标内容构成出发,而不是从“多模态”标签出发。先用文本配置测试基线,再针对真实需求决定是否加载视觉或音频模块;随后比较768维与候选截断维度下的召回质量、设备内存和端到端延迟。EmbeddingGemma 2的架构价值在于让这些取舍可以分层做,边界则是每省掉一个模块或一段向量,都需要用自己的检索任务确认是否省对了地方。