跳到正文

#多模态

今日 0 条
10月17日周六
  1. TechCrunch · AI43

    Elorian 首个 AI 模型 Glimpse:直接对图像推理,而不只是围绕图像推理

    Elorian 发布首个 AI 模型 Glimpse,以研究预览形式开放 API 接入,聊天界面为候补名单制。其核心机制"视觉草稿空间"允许模型在推理过程中反复回看图像、裁剪区域或提取视频帧,而非一次性将图像转为 token。模型在数百张 GPU 上训练,输入 $0.60、输出 $3 每百万 token,Elorian 称在科学图表推理与短视频字幕任务上优于 GPT-6 Astra。

10月16日周五
  1. Hugging Face Blog84

    Meta 开源多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B

    Meta 发布开源多模态 MoE 模型 Muse Spark Open,总参数约 816B、每 token 激活约 42B,输入支持文本、图像、音频和视频,上下文窗口可达 1M tokens。

    推荐理由:原文覆盖了 transformers、llama.cpp、vLLM 等推理后端的部署示例和 TRL LoRA 微调流程,读者可以直接复用这些方案。

10月15日周四
  1. NVIDIA Blog70

    NVIDIA 扩展 Nemotron 模型家族,推出 Super VL 与 Bolt 系列覆盖数据中心到端侧

    NVIDIA 发布 Nemotron 3.5 Super VL(120B 参数)开放模型,主打多模态智能体任务,并推出 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB 两款端侧模型。

    推荐理由:原文给出 Super VL 在参数量和吞吐量上的同档对比,以及从数据中心到端侧的全家族覆盖定位,可帮助判断 Nemotron 在开放模型生态中的角色。

  2. Hugging Face Blog69

    Swiss AI 发布 Apertus 1.5:8B/70B 开源模型扩展多模态与长上下文

    Swiss AI 团队发布 Apertus 1.5 (8B/70B),在 1.0 基础上加入原生图像与音频理解、可切换思考模式以及 262,144 token 上下文窗口(4 倍提升),权重以 Apache 2.0 开源。

    推荐理由:文章对照同尺寸开源权重模型,从多模态、长上下文与思考模式三方面详述 Apertus 1.5 的能力改进与取舍,可作为了解其定位的一手参考。

10月8日周四
10月7日周三
  1. Google DeepMind66

    Google DeepMind 发布开源端侧多模态嵌入模型 EmbeddingGemma 2

    Google DeepMind 发布开源多模态嵌入模型 EmbeddingGemma 2,基于 Gemma 4 架构并采用 Apache 2.0 协议,参数规模 740M,可将文本、图像、音频与视频映射到同一嵌入空间。

    推荐理由:在端侧资源约束下把文本、图像、音频、视频统一映射到同一嵌入空间,为本地 RAG 与跨模态检索提供了新的基线。

10月6日周二
  1. Mistral AI75

    Mistral Large 4 公开预览版上线 Mistral Studio,月底发布权重

    Mistral 发布 Mistral Large 4(ML4)公开预览版,这是一款 1 万亿参数、49B 活跃参数的原生多模态模型,已在 Mistral Studio 开放 API 试用。

    推荐理由:原文同时给出了 ML4 在开源模型中的相对位置与欧洲数据中心、3,800 张 Blackwell GPU 的训练规模,读者可以据此理解其基础设施与开源生态意义。

  2. The Decoder47

    Reka AI 发布 omni 模型 Rho-1:19B 参数,单一神经网络统一处理文本、图像、视频与机器人控制

    Reka AI 发布研究预览版 omni 模型 Rho-1(19B 参数),用单一神经网络统一处理文本、图像、视频与机器人控制。各类模态以 token 形式跑在同一共享上下文窗口,无需外部模型或工具调用,模型可实时生成连续视频并即时响应新指令。训练使用 320 张 H100 GPU,历时约三个月。

10月1日周四
  1. TechCrunch · AI57

    Google 发布 Gemini 4 Argon,称其为迄今最强模型

    Google 发布 Gemini 4 Argon,称其能自主发现、验证并修复关键软件漏洞,目前仅通过 Fairwind 计划向部分网络安全合作伙伴开放。该模型针对防御性安全任务训练,Google 称其在多项基准上高于 OpenAI 的 GPT-6 Astra 与 Anthropic 的 Fable、Opus,并引用 Vals 指数显示其处于领先。

  2. Google DeepMind79

    Google DeepMind 发布 Gemini 4 Argon 前沿模型

    Google DeepMind 发布新的前沿模型 Gemini 4 Argon,先通过 Fairwind Program 面向一批可信网络安全防御方开放,随后逐步向开发者、企业和消费者推出。

    推荐理由:官方给出 1M 输出 token、DeepSWE v1.1 77.9% 等指标与分阶段开放安排,可据此了解前沿模型的发布节奏与安全门槛。

9月29日周二
  1. Microsoft Research59

    Microsoft Research 推出面向生物学复杂性的 AI 研究系统 Quine

    Microsoft Research 推出 AI 研究系统 Quine,由生物学多模态世界模型和连接模型、科学工具、文献与研究者的交互 harness 组成。该系统与 Broad Institute 合作用于胰腺导管腺癌(PDAC)化合物筛选,其排名最高的化合物在湿实验中产生最大的 classical 到 basal 细胞状态转变,整个过程仅用一个周末。

9月25日周五
  1. Google DeepMind62

    Google DeepMind 发布 Gemini 3.8 Live with Live Avatar

    Gemini 3.8 Live with Live Avatar 已在 Gemini Enterprise 上线,将近实时视频生成与语音对话结合,让企业智能体以带口型同步和自然表达的动态形象进行实时对话。

    推荐理由:原文给出 Live Avatar 在多语言同步和后台工具调用上的具体能力,读者可据此判断企业实时客服场景的落地边界。

9月24日周四
9月22日周二
  1. Latent Space78

    小米发布 MiMo-V2.6-Pro 开源权重模型,1T-A42B 规模、训练成本 $3M

    小米发布 MiMo-V2.6 系列开源全模态模型,MiMo-V2.6-Pro 以 1.02T 总参数、42B 激活参数在 Artificial Analysis 智能指数上以 46 分位列最高分的开源权重模型,另有 MiMo-V2.6-Flash 与最高 20 倍输出速度的 MiMo-V2.6-Pro-UltraSpeed,模型采用 MIT 许可。

    推荐理由:原文给出了 RL 训练配方与开源环境清单,读者可以据此判断后训练成本下降对开源模型格局的影响。

9月16日周三
9月3日周四
8月28日周五
8月10日周一
  1. Hugging Face Blog69

    Meta 开源 30B 多模态模型 Muse Glimmer,主打本地智能体场景

    Meta 发布开源多模态模型 Muse Glimmer 30B,采用 Apache 2.0 协议,面向本地智能体用例,并获得 transformers、llama.cpp、vLLM、Inference Endpoints 的 day-0 支持。

    推荐理由:原文给出Muse Glimmer 30B在Agentic、编码、安全等基准上对位Gemma4-31B、Qwen3.6-27B的逐项对比结果,并附transformers、llama.cpp下的本地推理与DFlash推测解码代码示例。

8月4日周二
7月30日周四
  1. Google DeepMind74

    Google DeepMind 发布机器人具身推理模型 Gemini Robotics ER 2

    Google DeepMind 发布 Gemini Robotics ER 2,这是面向机器人的具身推理模型,支持视频理解、任务编排和多机器人协作,已通过 Gemini API、Google AI Studio 向开发者开放,并在 Gemini Enterprise Agent Platform 上私测。

    推荐理由:原文给出了进度分类与时刻定位的具体准确率和延迟数据,可据此判断高层推理模型在机器人任务编排上的能力边界。

  2. Google DeepMind49

    Google 在 Flow Music 发布 Lyria 3.5 音乐生成模型,提升音乐性、歌词、人声与创作控制

    Google 在 Flow Music 中上线新的音乐生成模型 Lyria 3.5,称其在音乐性、歌词和人声质量上均有显著提升。该版本可生成更复杂自然的旋律结构,歌词的提示词遵循度与结构意识更强,人声更具情感表现力且发音更准确。用户还能更便捷地控制输出曲目的节奏与时长,并已在 Flow Music 中开放试用。

7月16日周四
7月15日周三
  1. Hugging Face Blog73

    Thinking Machines 开源 1T 参数多模态模型 Inkling,支持图像文本音频输入

    Thinking Machines 开源 1T 参数多模态大模型 Inkling,原生支持图像、文本和音频输入及 1M 上下文,采用 decoder-only MoE 架构(975B 总参数、41B 激活),同步提供 BF16 与 NVFP4 两个权重版本。

    推荐理由:原文给出 Inkling 的 MoE 架构细节与多模态能力范围,并附 transformers、SGLang、vLLM 多框架部署示例和主流模型基准对比,方便评估其工程落地方案。

7月1日周三
6月9日周二
  1. Google DeepMind78

    Google DeepMind 发布 Gemma 4 12B,采用无编码器多模态架构

    Google DeepMind 发布 Gemma 4 12B,一款面向笔记本电脑的智能体多模态模型,视觉与音频输入直接进入 LLM 主干、不再依赖独立编码器,并配备 Multi-Token Prediction 草稿器以降低延迟。

    推荐理由:原文给出无编码器多模态架构的实现细节,读者可比对它与 26B MoE 在内存占用上的取舍。

5月18日周一
5月16日周六
  1. Google DeepMind92

    Google DeepMind 发布 Gemini 3.5,首发 Gemini 3.5 Flash

    Google DeepMind 发布 Gemini 3.5 模型系列,首发 Gemini 3.5 Flash,今日起在 Gemini app 和 Google Search 的 AI Mode 面向所有人开放,开发者可通过 Google Antigravity、Google AI Studio 中的 Gemini API 和 Android Studio 使用。

    推荐理由:文章列出 3.5 Flash 与其他前沿模型的基准对比和速度差异,可用于评估智能体与编码场景下延迟和成本的取舍。

4月13日周一
  1. Google DeepMind61

    Google DeepMind 发布 Gemini Robotics-ER 1.6,强化具身推理与仪表读数

    Google DeepMind 发布 Gemini Robotics-ER 1.6,作为推理优先的机器人模型升级版,在指点、计数、成功检测等空间与物理推理上较 Gemini Robotics-ER 1.5 和 Gemini 3.0 Flash 有明显提升。

    推荐理由:相比 1.5 与 Gemini 3.0 Flash,新模型新增仪表读数能力,可了解机器人具身推理的进展与开放入口。

3月17日周二
  1. Mistral AI70

    Mistral 发布开源 Mistral Small 4,统一推理、编码与多模态能力

    Mistral 发布 Mistral Small 4,采用 119B 总参数 / 6B 激活的 MoE 架构,统一 Magistral 推理、Devstral 编码代理与 Pixtral 多模态能力,支持 256k 上下文和可配置推理强度,权重以 Apache 2.0 开源。

    推荐理由:原文给出统一推理、编码与多模态能力的架构与同尺寸模型的输出效率对比,可作为评估开源部署延迟与成本的参考。

12月17日周三
12月3日周三
  1. Mistral AI79

    Mistral 发布 Mistral 3 模型家族,涵盖 Mistral Large 3 与 Ministral 3

    Mistral 发布 Mistral 3 模型家族,旗舰款 Mistral Large 3 为 41B 激活 / 675B 总参数的稀疏 MoE,在 LMArena OSS 非推理模型榜位列第 2,全系采用 Apache 2.0 协议开源。

    推荐理由:原文给出 Mistral Large 3 的 MoE 规模与 LMArena 排名,以及 Ministral 3 端侧尺寸,可作为开源权重模型横向对比的坐标。