Emerald AI、Google 与 NVIDIA 发起 AI Energy Management Alliance(AEMA),推进柔性 AI 数据中心
Emerald AI、Google 与 NVIDIA 联合发起 AEMA 联盟,推动可动态响应电网状况的 AI 数据中心。联盟采用技术中立、基于性能的标准,考核响应速度、持续时间、可预测性和紧急状态行为等指标。创始成员覆盖 AI 平台、基础设施提供商、数据中心运营商、电力生产商、公用事业和区域电网运营商。
Emerald AI、Google 与 NVIDIA 联合发起 AEMA 联盟,推动可动态响应电网状况的 AI 数据中心。联盟采用技术中立、基于性能的标准,考核响应速度、持续时间、可预测性和紧急状态行为等指标。创始成员覆盖 AI 平台、基础设施提供商、数据中心运营商、电力生产商、公用事业和区域电网运营商。
曼彻斯特大学团队用 NVIDIA Earth-2 的生成式模型 CorrDiff,在 Isambard-AI 上两天训练出覆盖全英、分辨率 2-3 平方公里的空气污染模型。
Google Research 提出 Retrieve-for-Train 框架,用离线强化学习发现奖励对齐的 fan-out 并编译为监督数据,再蒸馏进 53.9M 参数的扩散检索器,推理时单次非自回归生成完整查询集合,无需消耗 CoT 思考 token。该框架的 fan-out 语言模型基于 4B 开源模型 Gemma3-4B 与 Qwen3-4B 微调,论文发表于 ICML 2026。
NVIDIA 公布 DSX MaxLPS 在 Lambda 的首个部署验证:以 16 节点的功率预算运行 19 节点,token 吞吐提升 24% 至约 500 万 tokens/秒,每瓦性能提升 23%。
NVIDIA 在 AI Infra Summit 公布 Vera Rubin 与 DSX 平台进展:Vera Rubin NVL72 在 MLPerf Inference v6.1 中吞吐量达 GB300 NVL72 的 3.7x。
OpenAI 将 Habitat 从 Python 库演进为服务超 1 billion ChatGPT 用户的全球分布式存储平台。该平台可处理 22M requests per second,用于支撑 ChatGPT 的大规模在线存储需求。
Mistral 与 Cloudera 宣布合作,将 Mistral 模型集成进 Cloudera 混合数据平台,支持企业在私有云、公有云、本地及完全气隙环境部署推理。企业可在受控环境内用专有数据训练自有模型,Cloudera 平台上承载 30 exabytes 客户管理数据。双方称该合作瞄准主权 AI 需求:数据、智能、算力与运营由客户掌控,模型以开放权重被适配和拥有。
TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 支持,rank-1 适配器只有几 MB,经 HF Jobs 的 Storage Bucket 即可同步到 vLLM,避免在节点间搬运 3 GB 整模型。
推荐理由:把训练与推理拆到独立机器上的可复用方案与逐轮瓶颈定位方法,对搭异步 RL 流水线的读者有直接参考价值。
Gradio 团队用 73 个节点、11 条媒体管线在 Workflow1111 中复刻了 AUTOMATIC1111 的核心功能集,涵盖文生图、高清修复、图生图、提示词矩阵、VLM 反推、检测生成 inpaint 掩码、ControlNet 预处理器、背景移除、PNG Info 与图生视频。
推荐理由:原文以 73 节点重建 AUTOMATIC1111 为例,展示 gr.Workflow 在多模型编排上与 ComfyUI 的差异,以及每个输出自动成为 REST 端点和 MCP 工具的能力。
一篇 Hugging Face 博客教程用 TRL 的 GRPO 微调 LiquidAI 的 LFM2.5-350M,将该模型在 IFStruct 评测上的总体通过率从 22.6% 提升到 29.7%。
Hugging Face 发布 @huggingface/kernels JavaScript 库与 Fleet 浏览器基准测试工具,首批开源 207 个 Apache-2.0 许可的 WebGPU 内核,每个内核以独立仓库形式托管在 Hub 上,包含 manifest、正确性用例、基准用例与 WGSL 着色器模板。
推荐理由:对比了在 Apple M4 上与 ORT WebGPU 的逐操作基准数据,读者可据此评估优化 WebGPU 内核对浏览器推理的实际收益。
Hugging Face 论文提出 Quantization-Aware Healing(QAH):将 GPT-OSS 120B 结构压缩至 60B 参数并量化到 MXFP4 后。
Gradio 内置 gr.Workflow,可将多步骤 AI 流水线描述为带类型的节点图,并自动生成拖拽式画布、REST API 与一键部署到 Hugging Face Spaces。
推荐理由:原文把流水线抽象为带类型的节点图,对比当前 print 调试写法,可看到同一份图同时覆盖画布、REST API 与 Spaces 一键发布。
Mistral 与 HUMAIN 宣布战略合作,覆盖 AI 基础设施、先进模型开发及沙特与区域内 AI 解决方案部署,规模达数亿欧元。初始重点为网络安全与语音,双方还计划开发在阿拉伯语上表现强劲的前沿模型,Mistral 将探索使用 HUMAIN 的数据中心基础设施。双方还计划在沙特推出联合 go-to-market 策略,面向受监管行业。
Hugging Face 博客详解 Papers with Code 搜索系统的混合检索架构:Jobs 跑离线批量嵌入、Inference Endpoint 处理在线查询、Storage Bucket 衔接计算与生产,再由 PostgreSQL 全文检索与 pgvector 通过 RRF 融合结果。
Hugging Face 提出一套约束感知 GPU 调度器,在七组基准上与 FIFO 调度器对比,在相同硬件与负载下将 GPU 利用率最多提升 33 个百分点(52–85% 升至 72–88%),优先级加权产出在全部场景中上升 24.6%–105.1%。
Mistral 宣布区域推理端点正式可用、优先级服务层进入公测,并将平台开放给第三方开源模型,首个接入的是 Z.ai 的 GLM-5.2。区域端点让客户选择推理在欧洲还是美国运行并保持数据驻留,优先级服务层提供定制速率限制并配有可用性 SLA。Mistral 还联合一批企业以多年期承诺形成欧洲算力单位(ECU),目标到 2030 年建成最高 1 GW 容量。
NVIDIA 发布开源 364M 参数的 Magpie 多语种 TTS 模型,支持 12 种语言,包括本次新增的现代标准阿拉伯语、韩语和巴西葡萄牙语。
推荐理由:对比 B200、H100、A100 上的首音频延迟数据,并介绍 frame stacking 与 local transformer 两项推理优化思路,可用于自有基础设施上的语音智能体部署。
Baseten 上线成为 Hugging Face Hub 的 Inference Provider,首批支持 Kimi K3、DeepSeek V4 Flash、GLM-5.2 等开源大语言模型的对话与文本生成推理。
GPU 利用率正取代模型能力,成为 AI 基础设施的下一个硬约束。文章以航空业飞机利用率作类比:GPU 成本按日历小时累计(折旧、能耗、散热),产出却只按算力小时计算;集群 GPU 即便在跑,大部分仍处于闲置浪费状态。企业从 API 转向自建集群只是把可变成本换成固定资本支出,真正的问题变成集群上线后能否让硬件持续满载运行。
UC Berkeley Sky Lab 为 K-Search 内核搜索框架加入 MLX 后端,用结构化 CUDA-to-MLX 翻译层把已有 CUDA kernel 迁移到 Apple Silicon。
Diffusers 现已原生集成 Nunchaku 的 SVDQuant 4 位扩散推理,预量化模型可通过 from_pretrained() 直接加载,无需本地 CUDA 编译。
推荐理由:给出了把 SVDQuant 4 位扩散推理接入 Diffusers 的完整工作流,并附 BF16 与量化版本的延迟和显存基准。
Thinking Machines 开源 1T 参数多模态大模型 Inkling,原生支持图像、文本和音频输入及 1M 上下文,采用 decoder-only MoE 架构(975B 总参数、41B 激活),同步提供 BF16 与 NVFP4 两个权重版本。
推荐理由:原文给出 Inkling 的 MoE 架构细节与多模态能力范围,并附 transformers、SGLang、vLLM 多框架部署示例和主流模型基准对比,方便评估其工程落地方案。
Hugging Face 博客发布 PyTorch 性能分析系列第三篇,演示如何用 profiler trace 读懂 attention 各种实现的 GPU 行为。
Mistral Studio 为 Prompts 和 Skills 推出 system of record 管理能力,支持不可变版本、回滚、分类标签与审计日志,每项资产有明确负责人。
Hugging Face 宣布 transformers 在 vLLM 中的推理后端现已在多种架构上跑出与 vLLM 原生手写实现持平或更快的吞吐,模型作者只需通过 `--model-impl transformers` 即可启用,无需再为每个新模型单独移植。
推荐理由:transformers 模型现可在 vLLM 中跑出与原生手写实现持平甚至更快的推理吞吐,模型作者无需再为每个新架构单独移植实现代码。
Hugging Face 与 Amazon SageMaker AI 推出一键跳转集成,在支持的模型页面提供「Customize on SageMaker AI」和「Deploy on SageMaker AI」按钮,可直接进入 SageMaker Studio 对应页面。
Microsoft 在 Foundry 模型目录上线 Hugging Face 开源模型集合,每周刷新预托管在 Azure 的开源权重,可一键部署到 Foundry Managed Compute。
UC Berkeley 的 Aditya G. Parameswaran 等人发布观点文章,提出推理成本趋近于零后,数据系统需围绕「为智能体、运行智能体、由智能体构建」三个方向重新设计。
Hugging Face 与 SkyPilot 联合发布 store: hf 后端,SkyPilot 任务可通过 hf:// URL 把 Hugging Face Bucket 或 Hub 仓库挂载为本地路径,在 20 多个云以及 Kubernetes、Slurm、本地集群的 GPU 上运行,读取模型与数据集免出站流量与 CDN 费用。
推荐理由:Hugging Face Storage 接入 SkyPilot 后,模型和数据集留在 Hub,由 SkyPilot 在多个云上调度 GPU 任务,读取端免出站流量费。
Google Research 宣布在 Pixel 9 和 10 系列上为冻结的 Gemini Nano v3 模型附加 MTP 头,在不重训骨干的前提下获得 50% 以上的端侧推理加速。
Google Research 在 CIDR 发表论文提出 linear elastic caching,将页面逐出问题建模为 ski rental 问题,借助浅层决策树为每个页面预测最优 TTL。
Mistral 在 AI Now Summit 2026 上推出 Mistral for Industrial Engineering 工业 AI 栈,已与 Airbus、BMW、ASML 在航空航天、汽车、半导体领域展开合作。智能体 Vibe 升级为长任务统一代理,可处理编码、深度研究与日程编排等多步工作;法国 Les Ulis 新建 10 MW 推理数据中心计划 2026 年 Q3 投产。
Mistral AI 在 Studio 中公测 Workflows,把持久执行、可观测性、人工审批和容错整合为单一编排层。底层基于 Temporal 持久执行引擎并扩展了流式、多租户等 AI 能力,控制面由 Mistral 托管,worker 通过 Helm chart 部署在企业自有 Kubernetes。
Google DeepMind 发布论文提出 Decoupled DiLoCo,一种把训练拆分为解耦计算岛屿、岛屿间以异步数据流通信的分布式架构,可在跨数据中心的条件下训练 LLM,带宽需求更低且硬件容错性更强。
Google DeepMind 与 Accenture、Bain、BCG、Deloitte、McKinsey 合作,加速企业 AI 与智能体转型。三大支柱为:面向金融、制造、零售、媒体娱乐等行业共建规模化 AI 方案,伙伴可提前使用 Gemini 系列前沿模型,DeepMind 领导层对接客户 CEO 与董事会。
Mistral AI 团队设计的内部 CLI 工具 Spaces 支持项目脚手架、开发环境启动与 staging 部署。团队在实践中发现 AI 智能体无法解析交互式提示中的 ANSI 转义码,因此为每个交互问题都设置对应的 flag 输入选项;结合插件化架构与自动生成的 context.json 和 AGENTS.md,AI 智能体可基于结构化数据自主完成从配置到部署的全流程。
Google Research 发布向量压缩算法 TurboQuant,称可在零精度损失下实现 KV cache 与向量搜索的极致压缩。该方法由 PolarQuant 与 QJL 两步组成,将于 ICLR 2026 公布。测试覆盖 LongBench、Needle In A Haystack、RULER 等长上下文基准,基于 Gemma 和 Mistral 等开源 LLM 验证。
Google Research 与英国 NHS 合作在 Nature Cancer 发表两项配套研究,评估 AI 系统用于乳腺癌筛查的表现。
推荐理由:原文给出大规模前瞻部署的检出率与阅片量数据,并对比双读流程的效率变化,可作为评估 AI 辅助医学影像筛查能否落地的量化参考。
Mistral AI 发布企业级模型定制平台 Forge,允许企业基于内部文档、代码库和运营数据训练专属 AI 模型,覆盖预训练、后训练与强化学习全流程,并支持 dense 与 MoE 架构及多模态输入。