NVIDIA 联合 AI4Bharat 开源 2.8 万亿 token 印度语言预训练语料及数据生成管线
NVIDIA 联合 AI4Bharat(IIT Madras)开源 Nemotron-pretraining-Indic-v1 印度语言预训练语料,覆盖 22 种印度语言共约 2.8 万亿 token,其中 12 种语言同时提供本族文字与罗马化版本。
推荐理由:原文给出了从翻译到质量筛选的完整生成流程与 75/100 阈值等具体参数,读者可据此复现或改造自己的多语种数据管线。
NVIDIA 联合 AI4Bharat(IIT Madras)开源 Nemotron-pretraining-Indic-v1 印度语言预训练语料,覆盖 22 种印度语言共约 2.8 万亿 token,其中 12 种语言同时提供本族文字与罗马化版本。
推荐理由:原文给出了从翻译到质量筛选的完整生成流程与 75/100 阈值等具体参数,读者可据此复现或改造自己的多语种数据管线。
Mistral 发布首个时序基础模型家族 Timestral,共 5M、28M、123M 和 209M 参数四个版本,最大版本在 GIFT-Eval、TIME、fev-bench 三个公开基准上以单一检查点取得零样本第一。
HiRO-ACEv2 是 Ai2 气候模拟系统 HiRO-ACE 的最新版本,结合 100 km 分辨率的 ACE 模型与将输出细化至 3 km 的 HiROv2 下采样网络,可在 X-SHiELD 约 1/300 成本下生成全球高分辨率降水、风速与气压数据。
作者用 HuggingChat 中的 ML-intern 模式在几天内从零造出 6 个小模型,总计算开销约 103 美元;每个项目从一个自然语言 prompt 出发,由 ML-intern 规划预算、跑基线、训练并把模型与评测直接发布到 Hugging Face Hub。
推荐理由:原文给出了一套可复用的 ML-intern prompt 写法,包括 Verified facts 区块、先跑基线、带检查的冒烟测试和硬性支出上限,读者可直接套用到自己的项目里。
NVIDIA 在 Hugging Face 博客上介绍基于 Nemotron 3 微调的模型在 IOI 2026 和 IMO 2026 双双达到金牌水平。
推荐理由:把同一套 Nemotron 微调加搜索式推理配方在 IOI 与 IMO 两道不同赛道上都推到金牌水平,开源资产齐备便于复用。
Microsoft Research Podcast 主持人 Chad Atalla 与合伙人研究经理、普渡大学教授 Jennifer Neville 对谈,讨论 AI 在传统基准之外测试时出现的"意外失败",以及评估如何推动模型满足用户需求。Neville 强调训练数据显著影响 AI 行为与用户期望的对齐,并回顾了从数学、物理、认知科学转向 AI 研究的职业路径。
Falcon-Emirati-7B 是基于 Falcon-H1-Arabic 的 7B 参数方言专用模型,专注于理解和生成阿联酋方言阿拉伯语。底层采用 Mamba 与 Transformer 混合架构,家族含 3B/7B/34B 规模与最高 256K tokens 上下文窗口。训练数据来自原生方言网页、MSA 文化语料及受术语表约束的合成数据。
Google Research 发布基于 TEE 的下一代联邦学习系统,通过 KMS 策略校验、访问策略写入 Rekor 公开透明度日志和 Python 训练程序在 TEE 内执行,实现端到端可验证的数据匿名化与差分隐私保证。
Ai2 开源 AstaBrief 8B 模型,用于在检索科学文献的基础上生成带引用的研究报告。该模型基于 Qwen3-8B,通过 SFT 和 DPO 在 4.7 万份 SFT 样本和约 6 千对 DPO 偏好数据上训练。
ServiceNow CoreAI 构建 AutoSynthData,通过诊断任务识别目标模型的能力短板,由更强的教师模型生成新的可执行训练任务,并随模型改进动态调整课程。生成的任务由系统规范、用户提示词和验证器三部分组成,需通过可行性、真实性和难度检查后才用于后训练。该流水线在 EnterpriseOps Gym 上得到验证,针对企业环境的工具、API 与数据状态提供训练信号。
统一企业旗下 uniopen 平台通过 Amazon SageMaker AI 监督微调和提示词优化,将 Amazon Nova 2 Lite 定制为适配其零售内容审核策略的专用模型,基线 Per Behavior Macro F1 为 0.5852。该方案将生产审核路径与修正、训练、评估和部署流程分离,通过硬性与软性门控控制模型和提示词的自动上线,并保留人工审核作为兜底机制。
Allenai 发布开源训练框架 Olmo-core 3,将 MoE 训练栈从 FSDP 切换到 DDP,并支持 MXFP8 精度。该系统在专家池从 8 扩展到 128 时激活参数维持在约 3.2B,47B MoE 在 8 块 NVIDIA B300 上的吞吐量约为此前 FSDP 实现的 2.7×。
CoreWeave 宣布在 CoreWeave Cloud 上线 NVIDIA Vera Rubin NVL72,并搭配 Spectrum-X 102.4T 以太网,成为首批交付该平台的云厂商之一。
NVIDIA 在 Hugging Face 发布开源表格基础模型 Kumo Tabular,对带标签的表格做单次前向预测,无需训练、调参和特征工程,同时支持分类与回归。
推荐理由:开源表格基础模型给出免训练、免特征工程的单次前向预测路径,可对照四个基准的排名判断适用范围。
OpenAI 给出前沿 AI 训练安全案例(safety case)的早期准则,内容覆盖技术防护措施、运营实践以及 misalignment 事件调查。这些准则面向前沿 AI 训练阶段的安全案例建设,目前仍处于早期探索阶段。
在 Amazon EKS 上使用 EFA 和 DeepEP 扩展 MoE 强化学习训练,吞吐量提升 40%。该架构面向 RLHF、GRPO 等大规模 RL 工作负载,通过 EFA 加速跨节点通信,并用 DeepEP 优化专家并行(EP)的 all-to-all token 路由。
SkyRL 在 Amazon SageMaker HyperPod 上对 Qwen3-VL-8B 做 GRPO 后训练,将固定 64-maze 评估集的迷宫求解率从 43.75% 提升到超过 95%。
Amazon SageMaker HyperPod 搭配 Qumulo 的 Cloud Native Qumulo(CNQ)与 Cloud Data Fabric(CDF),可让训练任务直接读取存放在另一 AWS Region 或本地的数据集,无需复制数据、改代码或牺牲吞吐。
Google Research 推出 MilleMiglia,一个用 C++ 编写的实例生成器,为中程物流问题生成真实且保护隐私的基准数据,源代码与文档已在 GitHub 开放。该领域因企业将网络拓扑与需求量视为敏感信息,长期缺乏公开高质量数据。MilleMiglia 将中程物流建模为时空图上的多商品流问题,节点代表特定时段的配送中心,弧代表车辆移动或货物暂存。
GPT-6 Astra 帮助 Hex 的数据智能体将分析答案转化为交互式可视化,使员工愿意分享。Hex 借此把复杂分析变成可视化报告。
曼彻斯特大学团队用 NVIDIA Earth-2 的生成式模型 CorrDiff,在 Isambard-AI 上两天训练出覆盖全英、分辨率 2-3 平方公里的空气污染模型。
Salesforce 在 Dreamforce 发布首个 CRM 推理模型 Koa,基于 NVIDIA Nemotron 3 Super 后训练构建,黄仁勋同台称 AI 已成为全球基础设施层。
Google Research 提出 Retrieve-for-Train 框架,用离线强化学习发现奖励对齐的 fan-out 并编译为监督数据,再蒸馏进 53.9M 参数的扩散检索器,推理时单次非自回归生成完整查询集合,无需消耗 CoT 思考 token。该框架的 fan-out 语言模型基于 4B 开源模型 Gemma3-4B 与 Qwen3-4B 微调,论文发表于 ICML 2026。
Google Research 提出 ToolGrad,用文本“梯度”迭代生成工具使用数据集:先生成真值 API 工作流,再反向标注用户提示,数据生成通过率接近 100%。
Mistral 与 Cloudera 宣布合作,将 Mistral 模型集成进 Cloudera 混合数据平台,支持企业在私有云、公有云、本地及完全气隙环境部署推理。企业可在受控环境内用专有数据训练自有模型,Cloudera 平台上承载 30 exabytes 客户管理数据。双方称该合作瞄准主权 AI 需求:数据、智能、算力与运营由客户掌控,模型以开放权重被适配和拥有。
Google Research 评估将 UK Biobank 欧洲人群 GWAS 迁移到 Biobank Japan 近 20 万日本人的 PRS 性能,覆盖 8 个临床性状。
Google DeepMind 与 Google Research 发布 WeatherNext 3 全球天气预报模型,直接学习实时地球静止卫星观测数据,可每小时生成最高 5 公里分辨率的预报。
推荐理由:与 WeatherNext 2 相比,新模型改用实时卫星观测并提升时间与空间分辨率,可对照了解 AI 天气预报的输入数据变化。
Hugging Face 工程博客复现了用 TRL GRPO 训练 Qwen3.5-35B-A3B 写 p5.brush 水彩画 JavaScript 的流程,并在 Hub 开源了 178 张参考图池、RL 环境、训练脚本与三种 reward 配比的 adapter。
一篇 Hugging Face 博客教程用 TRL 的 GRPO 微调 LiquidAI 的 LFM2.5-350M,将该模型在 IFStruct 评测上的总体通过率从 22.6% 提升到 29.7%。
Google Research 发布 TimesFM-3 时间序列基础模型,参数 330M、预训练数据超 1 万亿时间点,在 Gift-Eval、FEV-Bench、Time 三个公开基准的点预测和概率预测指标上均位居所有预训练基础模型的最优平均排名。
Google Earth AI 推出实验性研究能力"行星预测引擎"(PPE),由 LLM 编排,从自然语言查询自主完成地理空间数据检索、特征工程到模型训练与报告输出全流程。在 21 项 CDC 健康指标上 PPE 平均 R² 达 76.8%(人工专家基线 60.0%),尼日利亚食品安全降尺度任务 R² 由 31.5% 翻倍至 66.1%,将复杂行星预测模型构建时间从数周压缩到数分钟。
Google Research 发布 GlucoFM,一个面向连续血糖监测(CGM)的自监督基础模型,采用双流编码器分离血糖慢趋势与短期波动,并在 109,066 小时无标签数据上完成预训练。
Google Research 提出 Biomarker Discovery Framework,一种在人类监督下从可穿戴传感器数据中优先级排序候选生物标志物的多智能体系统。
Microsoft Research 发布深度学习 DFT 交换关联泛函 Skala 1.1,其训练数据量为上一版的 2.5 倍。该模型在 GMTKN55 的 55 个类别中 32 项排名第一,加权平均误差 2.8 kcal/mol。
OlmoEarth Studio 新增自定义嵌入向量导出功能,可基于开源 OlmoEarth 基础模型按需计算并导出为轻量 Cloud-Optimized GeoTIFF(COG)。
微软研究院推出研究模型 CARE-X,一个覆盖胸部 X 光多种解读任务的放射学 VLM,可同时生成自由文本报告并输出带置信度的结构化预测。它基于 SigLIP2-so400M 视觉编码器和 Phi-4-mini-instruct(3.8B),通过分类、定位与语言建模的联合训练及 DAPO 强化学习优化临床正确性,在 ReXVQA 上达到 94% 整体准确率。
Hugging Face 新论文将 LLM 知识蒸馏峰值显存从约 250GB 降至约 128GB,方法是离线缓存教师模型 top-100 logits 并采用分块融合 KL 损失。该方案使单张 H200 即可完成长上下文知识蒸馏训练,无需再依赖数百张 GPU 与张量并行,让大规模实验更易开展。
Google DeepMind 在 Nature 发表论文,称 WeatherNext AI 模型在气旋路径、强度和风场结构预测上达到 SOTA 精度,平均多出一天预警时间,相当于气象领域约十年的进展。
推荐理由:论文给出气旋路径与强度预测的精度提升幅度,并同步开放代码与模型权重,便于研究社区复用。
微软研究院发布 Echoverse,为计算机使用智能体搭建 12 个训练世界,包括 10 个深度领域世界与 2 个能力世界。在全部 12 个世界上训练的 9B 模型得分从 36.5% 提升到 67.1%,与 GPT-5.4 的 80.7% 相差 14 个百分点。
推荐理由:论文给出了高保真合成世界与数据库级验证器的搭建方法,并公开四个环境的代码与任务,可供智能体训练复用。
ABBEL 框架让 LLM 把长程交互历史压缩为自然语言「信念状态」,并用信念打分监督其信息内容,以缓解上下文膨胀。在 CollabBench 协作编码任务中,ABBEL-rec-BG 把与全上下文模型的性能差距缩小约 50%,训练步数从 100 降到 50。其峰值上下文 token 数为 6.01×10²,低于全上下文模型的 14.08×10²。