跳到正文

#端侧

今日 0 条
10月18日周日
10月17日周六
10月16日周五
10月15日周四
  1. NVIDIA Blog70

    NVIDIA 扩展 Nemotron 模型家族,推出 Super VL 与 Bolt 系列覆盖数据中心到端侧

    NVIDIA 发布 Nemotron 3.5 Super VL(120B 参数)开放模型,主打多模态智能体任务,并推出 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB 两款端侧模型。

    推荐理由:原文给出 Super VL 在参数量和吞吐量上的同档对比,以及从数据中心到端侧的全家族覆盖定位,可帮助判断 Nemotron 在开放模型生态中的角色。

10月14日周三
  1. Google DeepMind41

    Google DeepMind 与新加坡政府合作构建诈骗检测微调 AI 模型

    Google DeepMind 与新加坡 GovTech 合作推出基于 Gemma 微调的端侧诈骗检测模型,在手机本地分析对话模式识别社工诈骗并实时预警。该模型采用两级管线——轻量分类器初筛后由微调 Gemma 做上下文复核,全程数据不出设备,可兼容端到端加密消息。微调在 GovTech 管理的 Sovereign Sandbox 环境中完成,训练仅使用匿名化诈骗情报。

  2. TechCrunch · AI35

    Flox Intelligence 用 AI 驱离火车、机场和道路附近的野生动物

    Flox Intelligence 开发了基于边缘 AI 的野生动物驱离系统,通过摄像头和端侧模型识别靠近的动物并发出针对性声效,目前已在北美、欧洲和澳大利亚部署约 150 台设备。公司 2020 年从 KTH 皇家理工学院分拆,已融资约 500 万美元并正在募集 1000 万美元 A 轮,预计 2026 年底营收约 150 万美元,Alstom 是其 OEM 合作伙伴。

10月13日周二
10月11日周日
10月9日周五
10月8日周四
10月7日周三
  1. Google DeepMind66

    Google DeepMind 发布开源端侧多模态嵌入模型 EmbeddingGemma 2

    Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2,基于 Gemma 4 架构并采用 Apache 2.0 协议,参数规模 740M,可将文本、图像、音频与视频映射到同一嵌入空间。

    推荐理由:在端侧资源约束下把文本、图像、音频、视频统一映射到同一嵌入空间,为本地 RAG 与跨模态检索提供了新的基线。

10月3日周六
  1. The Verge · AI54

    Meta 开源 Muse AI 智能体设备开发代码

    Meta 开源了 Muse AI 智能体设备的开发代码,允许用户用 ESP32 开发板或 Raspberry Pi 搭配其 SDK 自建硬件,例如 E Ink 提醒屏、HDMI 投棒或 DIY 触屏设备。Meta 同时推出 Muse Home Link 智能家居控制器,已生产 5000 台,本月内发货,候补名单已开放,可通过社区技能让 Muse 控制灯光、电视和打印机。

10月2日周五
10月1日周四
9月29日周二
9月24日周四
9月22日周二
9月16日周三
9月1日周二
  1. Hugging Face Blog69

    Hugging Face 发布 @huggingface/kernels 库与 Fleet 浏览器基准工具,首批开源 207 个 WebGPU 内核

    Hugging Face 发布 @huggingface/kernels JavaScript 库与 Fleet 浏览器基准测试工具,首批开源 207 个 Apache-2.0 许可的 WebGPU 内核,每个内核以独立仓库形式托管在 Hub 上,包含 manifest、正确性用例、基准用例与 WGSL 着色器模板。

    推荐理由:对比了在 Apple M4 上与 ORT WebGPU 的逐操作基准数据,读者可据此评估优化 WebGPU 内核对浏览器推理的实际收益。

8月12日周三
  1. Google DeepMind70

    Google DeepMind 发布 SL2T 手语转文本模型并落地 Gboard 与 Live Transcribe

    Google DeepMind 发布大规模多语言手语转文本模型 SL2T,可将手语直接翻译为流式文本,首批支持美国手语(ASL)转英文。模型基于超过 50 种手语、10 万小时以上数据训练,其中约四分之一为 ASL,在 FLEURS-ASL(sd-test)上取得 70 BLEURT 的零样本分数。

    推荐理由:手语转文本模型在 Gboard 与 Live Transcribe 落地,文中给出数据规模与基准分数,可据此了解多模态无障碍翻译的当前进度。

7月29日周三
6月11日周四
6月9日周二
  1. Google DeepMind78

    Google DeepMind 发布 Gemma 4 12B,采用无编码器多模态架构

    Google DeepMind 发布 Gemma 4 12B,一款面向笔记本电脑的智能体多模态模型,视觉与音频输入直接进入 LLM 主干、不再依赖独立编码器,并配备 Multi-Token Prediction 草稿器以降低延迟。

    推荐理由:原文给出无编码器多模态架构的实现细节,读者可比对它与 26B MoE 在内存占用上的取舍。

5月28日周四
  1. Google Research41

    Google:基于零信任聚合的端侧 AI 隐私分析

    Google Research 提出基于零信任聚合的端侧 AI 隐私分析方案,将新型单轮加密聚合协议与 TEE 硬件隔离结合,构建多层防御架构。该协议只需设备发送一次加密消息即可完成安全聚合,无需多轮在线交互;即使 TEE 隔离失效,加密层仍保证个体原始数据不可还原,仅匿名聚合结果对 Google 可见。