NVIDIA RTX Spark 笔记本全球上市,起售价 2399 美元
搭载 NVIDIA RTX Spark 的 Windows 笔记本正式上市,起售价 2399 美元,由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 等厂商推出。
搭载 NVIDIA RTX Spark 的 Windows 笔记本正式上市,起售价 2399 美元,由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 等厂商推出。
NVIDIA RTX Spark 于 10 月 16 日发布,是面向创作者、游戏玩家与 AI 智能体的 Windows PC。
NVIDIA 发布 Nemotron 3.5 Super VL(120B 参数)开放模型,主打多模态智能体任务,并推出 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB 两款端侧模型。
推荐理由:原文给出 Super VL 在参数量和吞吐量上的同档对比,以及从数据中心到端侧的全家族覆盖定位,可帮助判断 Nemotron 在开放模型生态中的角色。
Google DeepMind 与新加坡 GovTech 合作推出基于 Gemma 微调的端侧诈骗检测模型,在手机本地分析对话模式识别社工诈骗并实时预警。该模型采用两级管线——轻量分类器初筛后由微调 Gemma 做上下文复核,全程数据不出设备,可兼容端到端加密消息。微调在 GovTech 管理的 Sovereign Sandbox 环境中完成,训练仅使用匿名化诈骗情报。
Liquid AI 发布 LFM2.5-24B-A2B 推理模型,总参数 24B、激活 2B,主打端侧智能体与工具调用场景。
推荐理由:该模型以 2B 激活参数在多项工具调用基准上领先更大 MoE,为本地智能体部署提供了一份参数效率与端侧推理速度的参考。
NVIDIA RTX Spark笔记本电脑将于10月16日(周五)正式发售,搭载最高128GB统一内存与1 petaflop AI算力,上周已与微软联合公布。
推荐理由:原文梳理了RTX Spark笔记本上市前后的本地AI软件生态,可看出端侧智能体所需的模型、沙箱与工具栈已大致就绪。
在旧金山 Microsoft 活动上,NVIDIA CEO 黄仁勋与 Microsoft CEO 萨提亚·纳德拉共同发布 RTX Spark 和面向 Windows 的 DGX Station。
推荐理由:文章给出了 RTX Spark 和 Windows 版 DGX Station 的硬件规格与本地 AI 路径,读者可据此评估 Windows PC 运行大模型的真实门槛。
Liquid AI 开源 d1 系列两个边缘决策模型 d1-3B 与 d1-omni-600M,主打毫秒级单次前向传播推理。
Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2,基于 Gemma 4 架构并采用 Apache 2.0 协议,参数规模 740M,可将文本、图像、音频与视频映射到同一嵌入空间。
推荐理由:在端侧资源约束下把文本、图像、音频、视频统一映射到同一嵌入空间,为本地 RAG 与跨模态检索提供了新的基线。
NVIDIA DGX Spark 64GB 版本将于 10 月 23 日上市,售价 $4,999,由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 独家销售。
Liquid AI 发布实验性草稿模型 LFM2.5-VL-DSpark,为视觉语言模型 LFM2.5-VL-3B 加入投机解码路径,端侧解码最高提速 3.13x、H100 上最高 2.66x,端到端提升最高 2.62x 和 2.27x。
Hugging Face 在 transformers 中加入 GGUF 量化模型支持,用户可从 Hub 选取检查点并通过 from_pretrained 在本地加载生成。
推荐理由:原文给出了 GGUF 在 transformers 中的加载方式和对照 llama.cpp 的测量数据,便于评估本地量化推理的可用性。
oMLX 创建者与维护者 Jun Kim 加入 Hugging Face,将继续以 Apache 2.0 许可全职领导 oMLX 项目。
曼彻斯特大学团队用 NVIDIA Earth-2 的生成式模型 CorrDiff,在 Isambard-AI 上两天训练出覆盖全英、分辨率 2-3 平方公里的空气污染模型。
Hugging Face 发布 @huggingface/kernels JavaScript 库与 Fleet 浏览器基准测试工具,首批开源 207 个 Apache-2.0 许可的 WebGPU 内核,每个内核以独立仓库形式托管在 Hub 上,包含 manifest、正确性用例、基准用例与 WGSL 着色器模板。
推荐理由:对比了在 Apple M4 上与 ORT WebGPU 的逐操作基准数据,读者可据此评估优化 WebGPU 内核对浏览器推理的实际收益。
Google DeepMind 发布大规模多语言手语转文本模型 SL2T,可将手语直接翻译为流式文本,首批支持美国手语(ASL)转英文。模型基于超过 50 种手语、10 万小时以上数据训练,其中约四分之一为 ASL,在 FLEURS-ASL(sd-test)上取得 70 BLEURT 的零样本分数。
推荐理由:手语转文本模型在 Gboard 与 Live Transcribe 落地,文中给出数据规模与基准分数,可据此了解多模态无障碍翻译的当前进度。
UC Berkeley Sky Lab 为 K-Search 内核搜索框架加入 MLX 后端,用结构化 CUDA-to-MLX 翻译层把已有 CUDA kernel 迁移到 Apple Silicon。
Google DeepMind 发布开源实验模型 DiffusionGemma,以文本扩散并行生成替代逐 token 自回归,在专用 GPU 上文本生成速度最高提升 4 倍。
推荐理由:开源 26B MoE 模型用文本扩散把解码瓶颈从显存带宽转向算力,读者可据此判断本地低并发推理的取舍。
Google DeepMind 发布 Gemma 4 12B,一款面向笔记本电脑的智能体多模态模型,视觉与音频输入直接进入 LLM 主干、不再依赖独立编码器,并配备 Multi-Token Prediction 草稿器以降低延迟。
推荐理由:原文给出无编码器多模态架构的实现细节,读者可比对它与 26B MoE 在内存占用上的取舍。
Google Research 提出基于零信任聚合的端侧 AI 隐私分析方案,将新型单轮加密聚合协议与 TEE 硬件隔离结合,构建多层防御架构。该协议只需设备发送一次加密消息即可完成安全聚合,无需多轮在线交互;即使 TEE 隔离失效,加密层仍保证个体原始数据不可还原,仅匿名聚合结果对 Google 可见。
Google DeepMind 发布 Gemma 4 开源模型家族,包含 E2B、E4B、26B MoE 和 31B Dense 四种尺寸,采用 Apache 2.0 许可。
推荐理由:Gemma 4 以 Apache 2.0 许可放出四种尺寸,从端侧到工作站都有对应规格,可据此判断开源模型的落地边界。
Mistral 发布 Devstral 2(123B)与 Devstral Small 2(24B)两款开源编程模型,同步推出 Mistral Vibe CLI 命令行代理。
推荐理由:Devstral 2 在 SWE-bench Verified 上取得 72.2%,并给出相对 Claude Sonnet 的 7 倍成本效率数据。
Mistral 发布 Mistral 3 模型家族,旗舰款 Mistral Large 3 为 41B 激活 / 675B 总参数的稀疏 MoE,在 LMArena OSS 非推理模型榜位列第 2,全系采用 Apache 2.0 协议开源。
推荐理由:原文给出 Mistral Large 3 的 MoE 规模与 LMArena 排名,以及 Ministral 3 端侧尺寸,可作为开源权重模型横向对比的坐标。
Mistral 发布 Mistral Small 3.1,文本与多模态基准超过 Gemma 3 和 GPT-4o Mini,推理速度 150 tokens/s,上下文扩展至 128k tokens。
推荐理由:以 Apache 2.0 开放权重并附对照 Gemma 3、GPT-4o Mini 的基准数字,128k 上下文与多模态能力使其适合低成本本地运行。