跳到正文

推理能力

模型推理能力的进展:思维链、推理模型、数学与逻辑基准的突破与争议。

最新精选

第 21–30 条 · 共 30 条
7月31日周五
  1. Microsoft Research61

    微软提出 EvoLib:把经验转化为持续演化的知识

    微软研究团队提出 EvoLib 框架,让大语言模型在推理时从自身经验中学习,无需真值标签或外部反馈。它把过去的尝试提炼为可复用的技能与反思洞察,通过整合和动态权重机制持续精炼,且不更新模型权重,可用于通过 API 部署的黑盒模型。在数学推理、带效率约束的代码编写和长程环境决策三类任务上,EvoLib 优于基于检索的记忆方法,并在大部分算力区间以更高效的 token 使用把测试时算力转化为性能提升。

    推荐理由:EvoLib 将测试时的原始经验提炼为可复用技能与洞察,无需更新模型权重,读者可据此理解其持续学习机制。

7月15日周三
  1. Hugging Face Blog73

    Thinking Machines 开源 1T 参数多模态模型 Inkling,支持图像文本音频输入

    Thinking Machines 开源 1T 参数多模态大模型 Inkling,原生支持图像、文本和音频输入及 1M 上下文,采用 decoder-only MoE 架构(975B 总参数、41B 激活),同步提供 BF16 与 NVFP4 两个权重版本。

    推荐理由:原文给出 Inkling 的 MoE 架构细节与多模态能力范围,并附 transformers、SGLang、vLLM 多框架部署示例和主流模型基准对比,方便评估其工程落地方案。

7月8日周三
  1. Hugging Face Blog74

    transformers vLLM 推理后端现已达原生实现速度

    Hugging Face 宣布 transformers 在 vLLM 中的推理后端现已在多种架构上跑出与 vLLM 原生手写实现持平或更快的吞吐,模型作者只需通过 `--model-impl transformers` 即可启用,无需再为每个新模型单独移植。

    推荐理由:transformers 模型现可在 vLLM 中跑出与原生手写实现持平甚至更快的推理吞吐,模型作者无需再为每个新架构单独移植实现代码。

6月11日周四
4月13日周一
  1. Google DeepMind61

    Google DeepMind 发布 Gemini Robotics-ER 1.6,强化具身推理与仪表读数

    Google DeepMind 发布 Gemini Robotics-ER 1.6,作为推理优先的机器人模型升级版,在指点、计数、成功检测等空间与物理推理上较 Gemini Robotics-ER 1.5 和 Gemini 3.0 Flash 有明显提升。

    推荐理由:相比 1.5 与 Gemini 3.0 Flash,新模型新增仪表读数能力,可了解机器人具身推理的进展与开放入口。

3月17日周二
  1. Mistral AI70

    Mistral 发布开源 Mistral Small 4,统一推理、编码与多模态能力

    Mistral 发布 Mistral Small 4,采用 119B 总参数 / 6B 激活的 MoE 架构,统一 Magistral 推理、Devstral 编码代理与 Pixtral 多模态能力,支持 256k 上下文和可配置推理强度,权重以 Apache 2.0 开源。

    推荐理由:原文给出统一推理、编码与多模态能力的架构与同尺寸模型的输出效率对比,可作为评估开源部署延迟与成本的参考。

3月12日周四
  1. Google Research62

    Google 评估 AMIE 对话式诊断 AI 在真实门诊场景中的可行性

    Google Research 与 Beth Israel Deaconess Medical Center 合作,在真实门诊场景中开展了 AMIE 对话式诊断 AI 的前瞻性可行性研究。

    推荐理由:在真实门诊流程中检验了 AMIE 对话式诊断 AI 的可行性与安全性,并盲评比较其与主治医生的诊断质量,为医疗 AI 的临床落地提供了前瞻性证据。

12月3日周三
  1. Mistral AI79

    Mistral 发布 Mistral 3 模型家族,涵盖 Mistral Large 3 与 Ministral 3

    Mistral 发布 Mistral 3 模型家族,旗舰款 Mistral Large 3 为 41B 激活 / 675B 总参数的稀疏 MoE,在 LMArena OSS 非推理模型榜位列第 2,全系采用 Apache 2.0 协议开源。

    推荐理由:原文给出 Mistral Large 3 的 MoE 规模与 LMArena 排名,以及 Ministral 3 端侧尺寸,可作为开源权重模型横向对比的坐标。

7月17日周四
  1. Mistral AI62

    Mistral AI 为 Le Chat 推出深度研究、语音模式与 Projects 等多项新功能

    Mistral AI 为 Le Chat 推出多项新功能,包括 Deep Research 预览模式、基于 Voxtral 的语音模式、由 Magistral 推理模型驱动的多语言 Think 模式、Projects 文件夹整理,以及与 Black Forest Labs 合作的图像编辑。

    推荐理由:Le Chat 一次性发布研究、语音、推理与图像编辑多项能力,读者可据此与同期同类助手的功能覆盖做横向对照。

6月10日周二