猫眼电影
猫眼电影记者 格里娜 报道w3u7903ejky2ywls
智东西作者 李水青编辑 云鹏
智东西9月5日消息,今天,谷歌开源一款全新的开放式嵌入模型EmbeddingGemma。该模型以小博大,拥有3.08亿个参数,专为端侧AI设计,支持在笔记本、手机等设备上部署检索增强生成(RAG)、语义搜索等应用程序。
EmbeddingGemma的一大特征是能生成隐私性良好的高质量嵌入向量,即使在断网情况下也能正常运行,且性能直追尺寸翻倍的Qwen-Embedding-0.6B。
▲Hugging Face开源页面截图
Hugging Face地址:https://huggingface.co/collections/google/embeddinggemma-68b9ae3a72a82f0562a80dc4
据谷歌介绍,EmbeddingGemma具有以下几大亮点:
1、同类最佳:在海量文本嵌入基准(MTEB)上,在500M以下的开放式多语言文本嵌入模型中,EmbeddingGemma排名最高。EmbeddingGemma基于Gemma 3架构打造,已针对100多种语言进行训练,并且体积小巧,经过量化后可在不到200MB的内存上运行。
▲MTEB评分:EmbeddingGemma性能比肩比起尺寸大一倍的顶尖模型
2、专为灵活离线工作而设计:小巧、快速、高效,提供可自定义的输出尺寸,以及2K令牌上下文窗口,可在手机、笔记本电脑、台式机等日常设备上运行。它旨在与Gemma 3n配合使用,共同为移动RAG管道、语义搜索等解锁新的用例。
3、与流行工具集成:为了让用户轻松开始使用EmbeddingGemma,它已经可以与用户喜欢的工具一起使用,例如sentence-transformers、llama.cpp、MLX、Ollama、LiteRT、transformers.js、LMStudio、Weaviate、Cloudflare、LlamaIndex、LangChain等。
一、可生成优质嵌入向量,端侧RAG生成答案更准确
EmbeddingGemma会生成嵌入向量,在本文语境中,它能将文本转换为数值向量,在高维空间表征文本语义;嵌入向量质量越高,对语言细微差别与复杂特性的表征效果越好。
▲EmbeddingGemma会生成嵌入向量
构建RAG流程存在两个关键阶段:一是根据用户输入检索相关上下文,二是基于该上下文生成有依据的答案。
为实现检索功能,用户可以先生成提示词的嵌入向量,再计算该向量与系统中所有文档嵌入向量的相似度——通过这种方式,能够获取与用户查询最相关的文本片段。
随后,用户可将这些文本片段与原始查询一同输入生成式模型(如Gemma 3),从而生成符合上下文的相关答案。例如,模型能理解你需要联系木工的电话,以解决地板损坏的问题。
要让这个RAG流程切实有效,初始检索步骤的质量至关重要。质量不佳的嵌入向量会导致检索到不相关的文档,进而生成不准确或毫无意义的答案。
而EmbeddingGemma的性能优势正体现于此——它能提供高质量的(文本)表征,为精准、可靠的端侧应用提供核心支持。
二、以小博大,性能接近尺寸翻倍的Qwen-Embedding-0.6B
EmbeddingGemma提供了与其规模相适应的最先进的文本理解能力,在多语言嵌入生成方面具有特别强大的性能。
与其他流行嵌入模型的比较,EmbeddingGemma在检索、分类和聚类等任务上表现出色。
EmbeddingGemma在Mean(Task)、Retrieval、Classification、Clustering等测试中全面赶超了同等尺寸的gte-multilingual-base模型。其测试成绩也已接近尺寸达到其两倍的Qwen-Embedding-0.6B。
▲EmbeddingGemma的测评情况
EmbeddingGemma模型拥有308M参数,主要由大约100M模型参数和200M嵌入参数组成。
为了实现更高的灵活性,EmbeddingGemma利用Matryoshka表征学习(MRL),在一个模型中提供多种嵌入大小。开发者可以使用完整的768维向量以获得最佳质量,也可以将其截断为较小的维度(128、256或512),以提高速度并降低存储成本。
谷歌在EdgeTPU上将嵌入推理时间(256个输入token)缩短至<15ms,突破了速度界限,这意味着用户的AI功能可以提供实时响应,实现流畅、即时的交互。
利用量化感知训练(QAT),谷歌在保持模型质量的同时,显著将RAM使用量降低至200MB以下。
三、断网可用,可在不到200MB内存上运行
EmbeddingGemma支持开发者构建灵活且注重隐私的设备端应用。它直接在设备硬件上生成文档嵌入,帮助确保敏感用户数据的安全。
它使用与Gemma 3n相同的分词器进行文本处理,从而减少RAG应用的内存占用。用户可使用EmbeddingGemma解锁新功能,例如:
无需联网即可同时搜索个人文件、文本、电子邮件和通知。
通过RAG与Gemma 3n实现个性化、行业特定和离线支持的聊天机器人。
将用户查询分类到相关的函数调用,以帮助移动智能体理解(用户需求)。
下图为EmbeddingGemma的交互式演示,它将文本嵌入在三维空间中可视化,该模型完全在设备上运行。
▲EmbeddingGemma的交互式演示(图源:Hugging Face团队的Joshua)
Demo体验地址:https://huggingface.co/spaces/webml-community/semantic-galaxy)
结语:小尺寸大能力,加速端侧智能发展
EmbeddingGemma的推出标志着谷歌在小型化、多语言和端侧AI上的新突破。它不仅在性能上接近更大规模的模型,还兼顾了速度、内存和隐私的平衡。
未来,随着RAG、语义搜索等应用不断下沉至个人设备,EmbeddingGemma或将成为推动端侧智能普及的重要基石。
时事1:与体育老师做羞羞的事
09月13日,电影“火锅”突然撤档冲上热搜,
众人晕菜,这个小东西怎么什么都不知道,难道真的是从原始老林子里跑出来的?
,男生自卫慰黄网站www。09月13日,香港特区政府与中国科学技术协会签署合作框架协议,
各位代表、同志们!今年X乡党委任期届满,根据《党章》和《中国共产党基层组织选举工作暂行条例》的规定,需要进行换届选举。这次代表大会的任务很重要,会议期间,代表们将听取和审议X乡党委和纪委的,这两个将全面总结过去五年来X乡党委和纪委所取得的工作成绩和存在问题。同时,代表们也将充分发挥自己的聪明才智,集思广益,商讨好X乡党委今后五年的工作目标任务和完成任务的措施,描绘今后五年经济建设和社会各项事业发展的宏伟蓝图。会议期间,我们还要选举产生X乡新一届党委班子成员、纪委班子成员,这将是本次大会取得圆满成功最主要的标志。为开好大会,下面,我讲三点意见和要求:
,白丝大胸小舞被出白浆,吃瓜偷拍AV一区二区三区,美女露出撒尿口。时事2:美味伴娘之3免费观看
09月13日,防汛硬仗打响,广东全力以赴筑牢“冲不垮的堤坝”,
大家好!我演讲的题目是:保护自己的心窗——眼睛。同学们,6月6日被指定为世界爱眼日,这是为了让大家知道爱护眼睛的重要性。
,tomhayatotakkakir的创业经历,火影雏田❌乳喷自慰爽动漫,小🐥🐥戳🍑里无遮挡。09月13日,广东海事启动防汛Ⅱ级应急响应 东江北江部分水域停航,
小不点吃惊,果然低估了这头祭灵,符文闪烁,他极速而行,从山石中冲起,向旁躲避。
,18🈲🍆🍑无套直胡桃部下,美女爆❌吸乳羞羞免费网站妖精,二次元动漫人物桶动漫人物。时事3:原神宵宫裸身❌羞羞
09月13日,四川:提升“税务服务”水平助企扬帆出海,
“多事之秋,真不知道到底出了怎样的山宝,它们争夺了两年,难道还没有结果吗?”族长石云峰怀疑。
,XNXXX👙👙sex,中国性猛交❌XX❌乱动漫小说,TheProm最佳影片在线播放。09月13日,马来文译本《伍连德画传》举行推介仪式,
太阳下山,夕阳染红天边,一群狩猎的人回来了,猎物不是很多,而且有人被抬了回来。
,反差百科,男男暴菊gaY无套观看,永劫无间迦南暴爽自慰喷水。时事4:中学生裸体裸乳被🍑免费看
09月13日,京沪楼市政策调整效果如何,
尊敬的葵红市长,同志们,朋友们:
,91吃瓜爆料黑料网曝门,91在线无码精品㊙️黑料网爱妻,催眠调教震动棒h。09月13日,推动高质量发展·权威发布|广西:着力推进“一区两地一园一通道”建设,
小不点不管不顾,大开杀戒,横扫前方,手中这两人的躯体极其强大与坚韧,将一群人打的唏哩哗啦,断臂残肢飞舞,鲜血淋淋。
,成人免费毛片❌❌❌果冻,梅花十三裸体㊙️无遮挡,别告诉妈妈正版下载安装。责编:格斯
审核:保利春
责编:严民范