PRX Part 4:数据策略
PRX 系列第四篇详解其预训练数据策略:混合公开与内部数据集、用 VLM 重新描述图像,并基于 Mosaic Streaming(MDS)与 Lance 格式构建流式训练语料。文本编码器从 T5Gemma 切换为 Qwen3-VL 后改为在线计算文本 latent,仅带来约 3–4% 吞吐损失。图像统一以 JPEG quality 92 编码,验证表明首次重编码近乎不可感知。
PRX 系列第四篇详解其预训练数据策略:混合公开与内部数据集、用 VLM 重新描述图像,并基于 Mosaic Streaming(MDS)与 Lance 格式构建流式训练语料。文本编码器从 T5Gemma 切换为 Qwen3-VL 后改为在线计算文本 latent,仅带来约 3–4% 吞吐损失。图像统一以 JPEG quality 92 编码,验证表明首次重编码近乎不可感知。
Fable 在 KernelBench-Mega 提交首个真正 megakernel,在 RTX PRO 6000 Blackwell 上较 PyTorch 基线实现 18.71 倍加速。
Hugging Face 公布 Kernels 项目重大更新,新增 Hub 上的 kernel 仓库类型、trusted publisher 机制和基于 Sigstore cosign 的代码签名。
Google DeepMind 与 A24 宣布达成首个此类研究合作,让艺术家参与开发新工作流与技术,使未来工具由实际创作者塑造。双方将跨多个项目长期开展深度研发协作,把 Google DeepMind 的创新直接嵌入创作过程,A24 及其电影人借此参与塑造新技术,并向 DeepMind 提供反馈。Google 同时已投资 A24。
Mistral 发布面向 Lean 4 形式化验证的开源模型 Leanstral 1.5(Apache-2.0),共 119B 总参数、6B 激活参数。该模型在 miniF2F 验证与测试集均达 100%,在 PutnamBench 上解决 587/672 题,并在 FATE-H 与 FATE-X 上以 87% 与 34% 取得新 SOTA,单题成本约 $4。
BAIR 公布 2026 届博士毕业生展示,涵盖机器人、LLM 推理、计算机视觉、生成模型、AI 安全、人机交互以及 AI for science 与医疗等方向。毕业生将赴高校教职、博士后岗位与工业研究实验室,其中 Hanlin Zhu 加入 OpenAI,Josh Kang 加入 Mistral AI。
Hugging Face 与 Cerebras 合作发布实时语音 AI 演示,将 Gemma 4 31B 与 Parakeet、Qwen3TTS 串联为模块化的语音到语音流水线。架构为 ASR → 语言模型 → TTS 完全开源级联,由 Cerebras 提供 Gemma 4 31B 推理以降低延迟并改善 P95 稳定性;同一流水线已驱动超 9000 台 Reachy Mini 机器人。
Hugging Face 推出开源基准 ScarfBench,用于评估 AI 智能体在企业 Java 跨框架迁移任务上的表现,覆盖 Spring、Jakarta EE、Quarkus 三大生态,包含 34 个应用、204 个迁移任务和约 15.1 万行代码。
Google Research 发布覆盖 9 个国家、50+ 城市的建筑级屋顶反射率数据集,并上线 Heat Resilience Earth Engine App。
Google DeepMind 发布 Nano Banana 2 Lite 与 Gemini Omni Flash 两款模型。
推荐理由:两款模型都给出了延迟、单价与上线入口,开发者可据此对照现有图像和视频管线判断成本与选型。
Goldfeder、Wyder、LeCun、Shwartz-Ziv 2026 年论文主张,在有限资源约束下,AI 系统专业化不可避免。Wolpert 与 Macready 1997 年的"无免费午餐"定理证明通用优化器平均性能不优于专用算法;生物学进化与市场竞争同样表明,集中资源深耕特定任务是在有限条件下胜出的唯一路径。论文直言:"通用性是理论概念,在实践中是神话"。
Google Research 发布 TabFM,一个面向表格数据分类与回归任务的零样本基础模型,单次前向推理即可生成预测,无需训练或调参。该模型结合交替行列注意力与压缩嵌入上的 Transformer 上下文学习,训练数据为数亿合成数据集。
Every Eval Ever (EEE) 与 Hugging Face Community Evals 互通,提交一份结果即可同时显示在 Hugging Face 模型页与基准 leaderboard。
NVIDIA 研究者推出 ENPIRE 框架,让编码智能体通过自动评估与重置机制自主改进物理机器人策略。该系统在 PushT、整理针盒、剪扎带等灵巧操作任务上达到 99% 成功率,其中 GPT-5.5(Codex)与 Opus 4.7(Claude Code)表现相当,Kimi-2.6 落后。Matthew Tokson 在 SSRN 论文中指出,人类既一贯低估技术突破,又常误判其社会影响。
Google Research 宣布在 Pixel 9 和 10 系列上为冻结的 Gemini Nano v3 模型附加 MTP 头,在不重训骨干的前提下获得 50% 以上的端侧推理加速。
Google Research 在 CIDR 发表论文提出 linear elastic caching,将页面逐出问题建模为 ski rental 问题,借助浅层决策树为每个页面预测最优 TTL。
Google Research 在 COLM 2026 论文中发现,启用推理能让 reasoning LLM 召回原本几乎无法触及的参数化知识。
Google DeepMind 将 computer use 作为内置工具集成进 Gemini 3.5 Flash,此前该能力仅以独立的 Gemini 2.5 computer use 模型提供。
推荐理由:computer use 从独立模型转入 Gemini 3.5 Flash 主模型,读者可了解智能体落地的调用入口与企业安全选项。
Mistral 在 Connectors 中推出分级管控(GA)、范围化 API key(GA)、多账号连接(GA)以及用于 MCP 根因分析的 Connectors Debugger(Public Preview)。
Mistral 发布 Mistral OCR 4 文档理解模型,支持 bounding box、block 分类与逐字置信度,覆盖 170 种语言,可在单容器内自托管。
推荐理由:提供了与主流 OCR 系统的人类偏好对比和价格信息,读者可据此评估替换现有文档解析方案的实际收益。
牛津大学、UK AISI、斯坦福与 LSE 研究显示,AI 在文本说服任务上已稳定胜过人类专家,并在真实捐款场景中比专业筹款员效果高近 3 倍。
Google DeepMind 与英国政府、Google Cloud、Faculty 及 Barnet、Camden、Dorset 规划部门共研基于 Gemini 的 AI 规划原型,目标把家庭规划申请审批时间缩短 50%。
Google Earth AI 发布矢量化数据集,覆盖英国超过 130,000 km² 农田,可识别树篱、石墙、小树林等传统卫星难以捕捉的细尺度生态要素。该框架基于在 3 亿张卫星图像上预训练的 Vision-Transformer,并结合亚米级影像与 1 米 LiDAR 双层标注与 Polsby–Popper 紧凑度评分,将像素自动转化为林地、灌木丛与线性走廊等可规划要素。
Google DeepMind 发布 AI Control Roadmap,一套用于 Google 内部署和管控 AI 智能体的纵深防御框架,在模型对齐之外增加系统级安全层,并同时发布面向政策制定者的技术框架 Three Layers of Agent Security。
英国 AI Security Institute 对齐团队与 Timaeus 联合成立非营利研究组织 Sequent,专注超级智能安全对齐研究,计划两年内扩至 40–80 名全职员工,初始融资目标 $100–150M。
Google Research 在 JAMA Dermatology 发表研究,基于 2,345 名参与者的随机对照实验显示,AI 辅助工具将用户识别皮肤状况名称的准确率从对照组的 8% 提升至 23%,超 62% 的参与者愿意尝试命名。"Wizard of Oz" 组准确率达 36%,但标准 AI 组在判断后续就医步骤上未带来统计学显著改善,提示识别疾病之外的决策支持仍是挑战。
Google Research 在 AISTATS 2026 提出 Regularized f-Divergence Kernel Tests 框架,用于审计机器遗忘(machine unlearning)。
Google DeepMind 发布开源实验模型 DiffusionGemma,以文本扩散并行生成替代逐 token 自回归,在专用 GPU 上文本生成速度最高提升 4 倍。
推荐理由:开源 26B MoE 模型用文本扩散把解码瓶颈从显存带宽转向算力,读者可据此判断本地低并发推理的取舍。
Google DeepMind 与 Schmidt Sciences、Cooperative AI Foundation、ARIA 联合发起最高 $10M 的多智能体 AI 安全研究资助,由 Google.org 支持。资助覆盖四个优先方向,包括沙盒与测试床、智能体网络科学、智能体基础设施、监督与控制。申请截止 8 月 8 日,获资助者预计 2026 年秋季公布。
Google DeepMind 发布音频模型 Gemini 3.5 Live Translate,可自动检测 70 多种语言,近乎实时地生成保留说话者语调、节奏和音高的语音到语音翻译。
推荐理由:Google Meet 的语音翻译语言从 5 种扩展到 70 多种,可由此观察实时同传在会议场景的落地进展。
Google DeepMind 发布 Gemma 4 12B,一款面向笔记本电脑的智能体多模态模型,视觉与音频输入直接进入 LLM 主干、不再依赖独立编码器,并配备 Multi-Token Prediction 草稿器以降低延迟。
推荐理由:原文给出无编码器多模态架构的实现细节,读者可比对它与 26B MoE 在内存占用上的取舍。
Google DeepMind 推出为期三个月的机器人加速器项目 Accelerator: Robotics,从欧洲遴选 15 家早期机器人初创公司加入。入选公司将获得 Google DeepMind 与 Google 的技术指导、产品建议,并可接入其 AI stack 和 Gemini robotics 模型。项目本周在伦敦启动,入选企业覆盖物流、制造、医疗、气候与导航等具身智能方向。
Google DeepMind 公布在塞拉利昂开展的 Guided Learning 预注册试验结果,8周内使用该工具的学生数学成绩比对照组提升 0.258 个标准差,约相当于 1.2 至 1.7 年的常规学习进度。
推荐理由:原文给出8周预注册试验的分数提升幅度和学生提问行为变化,可用来对比AI辅导中引导式教学与直接给答案两种路径。
Google 在 Gemini Enterprise Agent Platform 推出 Agentic RAG 公测版,新增 Sufficient Context Agent 判断上下文是否充分并驱动迭代检索。
Google Research 在 Nature 发表 PHRM 系统,通过手机前置摄像头在日常使用中被动监测心率,单次心率 MAPE < 10%、日均静息心率 MAE < 5 bpm。系统基于 35 万段视频、约 700 名不同肤色受试者训练,是迄今最大规模的 rPPG 研究,并公开 PHRM-mini 预训练模型与数据集供研究者申请。
Google Research 在 GitHub 开源水文建模框架,供各国气象水文部门(NMHS)在自有数据上训练和部署 AI 洪水预报模型。该框架基于 PyTorch 与 LSTM 架构,支持使用开源 Caravan 数据集训练;新版模型将已勘测流域的可预报时长延长 6 天、未勘测流域延长 1 天。
弗吉尼亚大学、Anthropic 与加拿大银行经济学家联合发表论文估算,美国 AI 经济在 2025 年的名义 AI GDP 约为 $250 billion,质量调整后的实际增速约 2,600% 每年。
Google Research 汇总了 I/O 2026 上发布的科研、医疗、端侧和开发者工具进展。
Mistral 在 AI Now Summit 2026 上推出 Mistral for Industrial Engineering 工业 AI 栈,已与 Airbus、BMW、ASML 在航空航天、汽车、半导体领域展开合作。智能体 Vibe 升级为长任务统一代理,可处理编码、深度研究与日程编排等多步工作;法国 Les Ulis 新建 10 MW 推理数据中心计划 2026 年 Q3 投产。
Mistral 推出统一 AI 智能体 Vibe,接替 Le Chat,同时面向长时多步工作任务与编程流程。
推荐理由:原文给出了 Vibe 的能力范围、定价档位和 VS Code、CLI 等接入方式,便于对比现有工作流判断其适配度。