NVIDIA 扩展 Nemotron 模型家族,推出 Super VL 与 Bolt 系列覆盖数据中心到端侧
NVIDIA 发布 Nemotron 3.5 Super VL(120B 参数)开放模型,主打多模态智能体任务,并推出 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB 两款端侧模型。
推荐理由:原文给出 Super VL 在参数量和吞吐量上的同档对比,以及从数据中心到端侧的全家族覆盖定位,可帮助判断 Nemotron 在开放模型生态中的角色。
NVIDIA 发布 Nemotron 3.5 Super VL(120B 参数)开放模型,主打多模态智能体任务,并推出 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB 两款端侧模型。
推荐理由:原文给出 Super VL 在参数量和吞吐量上的同档对比,以及从数据中心到端侧的全家族覆盖定位,可帮助判断 Nemotron 在开放模型生态中的角色。
Liquid AI 发布 LFM2.5-24B-A2B 推理模型,总参数 24B、激活 2B,主打端侧智能体与工具调用场景。
推荐理由:该模型以 2B 激活参数在多项工具调用基准上领先更大 MoE,为本地智能体部署提供了一份参数效率与端侧推理速度的参考。
Liquid AI 开源 d1 系列两个边缘决策模型 d1-3B 与 d1-omni-600M,主打毫秒级单次前向传播推理。
Google 发布开源多模态嵌入模型 EmbeddingGemma 2,参数量 7.4 亿,可将文本、图像、视频、音频和代码转为向量。它在 Massive Text Embedding Benchmark (Code) 上得分 78.68,较前代 68.76 提升近 10 分,Google 称表现优于两倍体量的竞品模型。
Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2,基于 Gemma 4 架构并采用 Apache 2.0 协议,参数规模 740M,可将文本、图像、音频与视频映射到同一嵌入空间。
推荐理由:在端侧资源约束下把文本、图像、音频、视频统一映射到同一嵌入空间,为本地 RAG 与跨模态检索提供了新的基线。
Liquid AI 发布实验性草稿模型 LFM2.5-VL-DSpark,为视觉语言模型 LFM2.5-VL-3B 加入投机解码路径,端侧解码最高提速 3.13x、H100 上最高 2.66x,端到端提升最高 2.62x 和 2.27x。
Google DeepMind 发布开源实验模型 DiffusionGemma,以文本扩散并行生成替代逐 token 自回归,在专用 GPU 上文本生成速度最高提升 4 倍。
推荐理由:开源 26B MoE 模型用文本扩散把解码瓶颈从显存带宽转向算力,读者可据此判断本地低并发推理的取舍。
Google DeepMind 发布 Gemma 4 12B,一款面向笔记本电脑的智能体多模态模型,视觉与音频输入直接进入 LLM 主干、不再依赖独立编码器,并配备 Multi-Token Prediction 草稿器以降低延迟。
推荐理由:原文给出无编码器多模态架构的实现细节,读者可比对它与 26B MoE 在内存占用上的取舍。
Mistral 发布 Devstral 2(123B)与 Devstral Small 2(24B)两款开源编程模型,同步推出 Mistral Vibe CLI 命令行代理。
推荐理由:Devstral 2 在 SWE-bench Verified 上取得 72.2%,并给出相对 Claude Sonnet 的 7 倍成本效率数据。
Mistral 发布 Mistral 3 模型家族,旗舰款 Mistral Large 3 为 41B 激活 / 675B 总参数的稀疏 MoE,在 LMArena OSS 非推理模型榜位列第 2,全系采用 Apache 2.0 协议开源。
推荐理由:原文给出 Mistral Large 3 的 MoE 规模与 LMArena 排名,以及 Ministral 3 端侧尺寸,可作为开源权重模型横向对比的坐标。
Mistral 发布 Mistral Small 3.1,文本与多模态基准超过 Gemma 3 和 GPT-4o Mini,推理速度 150 tokens/s,上下文扩展至 128k tokens。
推荐理由:以 Apache 2.0 开放权重并附对照 Gemma 3、GPT-4o Mini 的基准数字,128k 上下文与多模态能力使其适合低成本本地运行。