Google DeepMind 发布 EmbeddingGemma 2 多模态端侧嵌入模型
IMP3.0
SNT+0.4▲
CONF95%
Alphabet(GOOGL)旗下 Google DeepMind 发布 EmbeddingGemma 2,这是一款开源多模态嵌入模型,将原本文本导向的 EmbeddingGemma 扩展至代码、图像、视频与音频,把所有数据类型映射到统一的 768 维向量空间,用于端侧跨模态搜索与检索。
该模型基于 Gemma 4 架构,拥有 7.4 亿参数,采用 Apache 2.0 商业许可,设计目标是在手机和 PC 本地运行,而非云端。其模块化设计包含:文本与代码 2.7 亿参数,加入视觉编码器后 4.4 亿,加入音频编码器后 5.7 亿,全模态完整版 7.4 亿。
上下文长度提升四倍至 8,192 个 token。Google 称 MTEB Code 得分从 68.76 升至 78.68,增幅约 14%。Matryoshka 表征学习允许开发者将向量压缩至 512、256 或 128 维,存储需求最多可减少约六倍;量化文本模式在 Pixel 11 Pro 上所需活跃内存约 191MB,而完整多模态版本为 567MB。
模型权重已在 Hugging Face 和 Kaggle 上提供。
ByTicklex Editorial
一般财经资讯,不构成个性化投资建议。 财经免责声明