跳到正文

#多模态

今日 0 条
10月16日周五
  1. Hugging Face Blog84

    Meta 开源多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B

    Meta 发布开源多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B,输入支持文本、图像、音频和视频,上下文窗口可达 1M tokens。

    推荐理由:原文覆盖了 transformers、llama.cpp、vLLM 等推理后端的部署示例和 TRL LoRA 微调流程,读者可以直接复用这些方案。

10月15日周四
  1. NVIDIA Blog70

    NVIDIA 扩展 Nemotron 模型家族,推出 Super VL 与 Bolt 系列覆盖数据中心到端侧

    NVIDIA 发布 Nemotron 3.5 Super VL(120B 参数)开放模型,主打多模态智能体任务,并推出 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB 两款端侧模型。

    推荐理由:原文给出 Super VL 在参数量和吞吐量上的同档对比,以及从数据中心到端侧的全家族覆盖定位,可帮助判断 Nemotron 在开放模型生态中的角色。

  2. Hugging Face Blog69

    Swiss AI 发布 Apertus 1.5:8B/70B 开源模型扩展多模态与长上下文

    Swiss AI 团队发布 Apertus 1.5 (8B/70B),在 1.0 基础上加入原生图像与音频理解、可切换思考模式以及 262,144 token 上下文窗口(4 倍提升),权重以 Apache 2.0 开源。

    推荐理由:文章对照同尺寸开源权重模型,从多模态、长上下文与思考模式三方面详述 Apertus 1.5 的能力改进与取舍,可作为了解其定位的一手参考。

10月8日周四
10月7日周三
  1. Google DeepMind66

    Google DeepMind 发布开源端侧多模态嵌入模型 EmbeddingGemma 2

    Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2,基于 Gemma 4 架构并采用 Apache 2.0 协议,参数规模 740M,可将文本、图像、音频与视频映射到同一嵌入空间。

    推荐理由:在端侧资源约束下把文本、图像、音频、视频统一映射到同一嵌入空间,为本地 RAG 与跨模态检索提供了新的基线。

10月6日周二
  1. Mistral AI75

    Mistral Large 4 公开预览版上线 Mistral Studio,月底发布权重

    Mistral 发布 Mistral Large 4(ML4)公开预览版,这是一款 1 万亿参数、49B 活跃参数的原生多模态模型,已在 Mistral Studio 开放 API 试用。

    推荐理由:原文同时给出了 ML4 在开源模型中的相对位置与欧洲数据中心、3,800 张 Blackwell GPU 的训练规模,读者可以据此理解其基础设施与开源生态意义。

10月5日周一
10月1日周四
  1. Google DeepMind79

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新的前沿模型 Gemini 4 Argon,先通过 Fairwind Program 面向一批可信网络安全防御方开放,随后逐步向开发者、企业和消费者推出。

    推荐理由:官方给出 1M 输出 token、DeepSWE v1.1 77.9% 等指标与分阶段开放安排,可据此了解前沿模型的发布节奏与安全门槛。

9月30日周三
9月29日周二
  1. Microsoft Research59

    Microsoft Research 推出面向生物学复杂性的 AI 研究系统 Quine

    Microsoft Research 推出 AI 研究系统 Quine,由生物学多模态世界模型和连接模型、科学工具、文献与研究者的交互 harness 组成。该系统与 Broad Institute 合作用于胰腺导管腺癌(PDAC)化合物筛选,其排名最高的化合物在湿实验中产生最大的 classical 到 basal 细胞状态转变,整个过程仅用一个周末。

9月26日周六
9月25日周五
  1. Google DeepMind62

    Google DeepMind 发布 Gemini 3.8 Live with Live Avatar

    Gemini 3.8 Live with Live Avatar 已在 Gemini Enterprise 上线,将近实时视频生成与语音对话结合,让企业智能体以带口型同步和自然表达的动态形象进行实时对话。

    推荐理由:原文给出 Live Avatar 在多语言同步和后台工具调用上的具体能力,读者可据此判断企业实时客服场景的落地边界。

9月24日周四
9月23日周三
9月16日周三
9月3日周四
9月2日周三
8月28日周五
8月26日周三
8月17日周一
8月13日周四
  1. Microsoft Research49

    MindTopo 揭示 VLM 空间推理能力:静态识别强于交互规划

    Microsoft Research 提出 MindTopo 基准,用于评测多模态大模型(VLM)的拓扑推理能力,覆盖连通、分离、顺序、包围与绳结五类任务。测试发现,模型在静态识别上明显强于交互规划,两者均远低于人类水平,失败多出现在规划而非感知阶段。图像生成只在单帧可见关系时有用,视频推演跨多步仍常改变拓扑或违反任务动力学。

8月12日周三
  1. Google DeepMind70

    Google DeepMind 发布 SL2T 手语转文本模型并落地 Gboard 与 Live Transcribe

    Google DeepMind 发布大规模多语言手语转文本模型 SL2T,可将手语直接翻译为流式文本,首批支持美国手语(ASL)转英文。模型基于超过 50 种手语、10 万小时以上数据训练,其中约四分之一为 ASL,在 FLEURS-ASL(sd-test)上取得 70 BLEURT 的零样本分数。

    推荐理由:手语转文本模型在 Gboard 与 Live Transcribe 落地,文中给出数据规模与基准分数,可据此了解多模态无障碍翻译的当前进度。

  2. Google Research65

    Google AMIE(Video)实现专家级实时视频临床问诊

    Google Research 发布 AMIE(Video),一个基于 Gemini 和 Project Astra 的实时视频临床问诊系统,在覆盖 5 个身体系统的 100 个场景、300 次问诊的随机 OSCE 研究中,其临床问诊、诊断和管理能力与 30 名认证初级保健医生持平,并在体征观察和引导虚拟查体上显著优于医生组和文本版 AMIE。

    推荐理由:原文给出随机对照研究和多智能体架构细节,读者可以据此判断音视频通道相较纯文本究竟在哪类临床能力上带来了差异。

  3. Microsoft Research53

    微软研究院推出 CARE-X 放射学 VLM,融合辅助监督与工具增强测量

    微软研究院推出研究模型 CARE-X,一个覆盖胸部 X 光多种解读任务的放射学 VLM,可同时生成自由文本报告并输出带置信度的结构化预测。它基于 SigLIP2-so400M 视觉编码器和 Phi-4-mini-instruct(3.8B),通过分类、定位与语言建模的联合训练及 DAPO 强化学习优化临床正确性,在 ReXVQA 上达到 94% 整体准确率。

8月10日周一
  1. Hugging Face Blog69

    Meta 开源 30B 多模态模型 Muse Glimmer,主打本地智能体场景

    Meta 发布开源多模态模型 Muse Glimmer 30B,采用 Apache 2.0 协议,面向本地智能体用例,并获得 transformers、llama.cpp、vLLM、Inference Endpoints 的 day-0 支持。

    推荐理由:原文给出Muse Glimmer 30B在Agentic、编码、安全等基准上对位Gemma4-31B、Qwen3.6-27B的逐项对比结果,并附transformers、llama.cpp下的本地推理与DFlash推测解码代码示例。

8月4日周二
7月30日周四
  1. Google DeepMind74

    Google DeepMind 发布机器人具身推理模型 Gemini Robotics ER 2

    Google DeepMind 发布 Gemini Robotics ER 2,这是面向机器人的具身推理模型,支持视频理解、任务编排和多机器人协作,已通过 Gemini API、Google AI Studio 向开发者开放,并在 Gemini Enterprise Agent Platform 上私测。

    推荐理由:原文给出了进度分类与时刻定位的具体准确率和延迟数据,可据此判断高层推理模型在机器人任务编排上的能力边界。

  2. Google DeepMind49

    Google 在 Flow Music 发布 Lyria 3.5 音乐生成模型,提升音乐性、歌词、人声与创作控制

    Google 在 Flow Music 中上线新的音乐生成模型 Lyria 3.5,称其在音乐性、歌词和人声质量上均有显著提升。该版本可生成更复杂自然的旋律结构,歌词的提示词遵循度与结构意识更强,人声更具情感表现力且发音更准确。用户还能更便捷地控制输出曲目的节奏与时长,并已在 Flow Music 中开放试用。

7月16日周四
7月15日周三
  1. Hugging Face Blog73

    Thinking Machines 开源 1T 参数多模态模型 Inkling,支持图像文本音频输入

    Thinking Machines 开源 1T 参数多模态大模型 Inkling,原生支持图像、文本和音频输入及 1M 上下文,采用 decoder-only MoE 架构(975B 总参数、41B 激活),同步提供 BF16 与 NVFP4 两个权重版本。

    推荐理由:原文给出 Inkling 的 MoE 架构细节与多模态能力范围,并附 transformers、SGLang、vLLM 多框架部署示例和主流模型基准对比,方便评估其工程落地方案。

7月13日周一
  1. Google DeepMind35

    Google DeepMind 以 Gemini 驱动的 ATL Saathi 赋能印度下一代创新者

    Google DeepMind 启动 Gemini 驱动的 ATL Saathi 试点,为印度 Atal Tinkering Labs 教师提供 24/7 规划与培训助手。该应用由 Gemini 3.5 Flash 提供底层能力,可生成年级适配的项目创意、分步装配说明和接线图,并覆盖 12 个核心模块的摘要与互动测验。首批覆盖 100 所学校,首期支持 8 种语言。

7月1日周三
6月9日周二
  1. Google DeepMind78

    Google DeepMind 发布 Gemma 4 12B,采用无编码器多模态架构

    Google DeepMind 发布 Gemma 4 12B,一款面向笔记本电脑的智能体多模态模型,视觉与音频输入直接进入 LLM 主干、不再依赖独立编码器,并配备 Multi-Token Prediction 草稿器以降低延迟。

    推荐理由:原文给出无编码器多模态架构的实现细节,读者可比对它与 26B MoE 在内存占用上的取舍。

6月5日周五
5月18日周一