在 Amazon EKS 上使用 EFA 和 DeepEP 扩展 MoE 强化学习，吞吐量提升 40%
在 Amazon EKS 上使用 EFA 和 DeepEP 扩展 MoE 强化学习训练，吞吐量提升 40%。该架构面向 RLHF、GRPO 等大规模 RL 工作负载，通过 EFA 加速跨节点通信，并用 DeepEP 优化专家并行（EP）的 all-to-all token 路由。
#部署/工程
#部署/工程
今日 0 条AWS Machine Learning BlogAI 评分3333 AWS Machine Learning BlogAI 评分4343 在 Amazon SageMaker HyperPod 上用 SkyRL 加速多模态 RL 训练
SkyRL 在 Amazon SageMaker HyperPod 上对 Qwen3-VL-8B 做 GRPO 后训练，将固定 64-maze 评估集的迷宫求解率从 43.75% 提升到超过 95%。
AWS Machine Learning BlogAI 评分5151 NarrateAI 在 Amazon Bedrock 上实现生产级 LLM 质量保障
AWS 的 NarrateAI 团队在 Amazon Bedrock 上给出五种生产级 LLM 质量保障技术，支撑面向 4000 多名 AWS 高管的实时业务数据问答。约 90% 的查询走单次快速路径，单次查询混合成本约 1.4 次 LLM 调用，比一律采用多批次策略减少 72% 的调用量。逐段并行的流式评估把首内容时间压到 13.2 秒，相比顺序后置评估降低 86.8%，数值准确率约 99%。
AWS Machine Learning BlogAI 评分5252 在 Amazon SageMaker AI 上部署 Qwen3-TTS 语音克隆实时端点
AWS 发布教程，介绍如何通过 Amazon SageMaker JumpStart 将公开的 Qwen3-TTS-12Hz-1.7B-Base 文本转语音模型部署为实时推理端点，并用几秒参考音频与转写文本完成语音克隆。
AWS Machine Learning BlogAI 评分3434 Datacor 如何用 Amazon Quick Sight 构建自助式租赁分析
Datacor 将 Amazon Quick Sight 集成进 TrackAbout，构建自助式租赁分析，提供交互式仪表盘和自然语言搜索。业务用户无需提交 IT 工单或等待定制报告，即可查询租赁绩效；TrackAbout 客户合计管理 27.5 million 项资产、每月超过 725,000 张账单。
AWS Machine Learning BlogAI 评分4040 Amazon SageMaker HyperPod 与 Qumulo 如何实现多区域模型训练
Amazon SageMaker HyperPod 搭配 Qumulo 的 Cloud Native Qumulo（CNQ）与 Cloud Data Fabric（CDF），可让训练任务直接读取存放在另一 AWS Region 或本地的数据集，无需复制数据、改代码或牺牲吞吐。
AWS Machine Learning BlogAI 评分4949 在 SageMaker AI 上使用 WhisperX 实现说话人标注转录
AWS 把 WhisperX 打包成 GPU-ready 的 Deep Learning Container（DLC），可部署到 Amazon SageMaker AI 实时或异步端点，为音频生成逐词时间戳、说话人标签，并输出 json、verbose_json、srt 或 vtt。
Ars Technica · AIAI 评分6464 Google 首颗 Suncatcher 轨道数据中心试验卫星将于 10 月 1 日发射
Google 的 Project Suncatcher 首颗试验卫星 MVP 将于 10 月 1 日发射，用于验证轨道 AI 数据中心构想。该卫星约冰箱大小，搭载四块 Google 自研 TPU AI 加速器，太阳能板仅提供约一千瓦电力，卫星本体由卫星影像公司 Planet Labs 提供。
AWS Machine Learning BlogAI 评分4141 如何用 Amazon Bedrock AgentCore Gateway 与 MCP 构建多账号 AI 智能体
AWS 多账号架构中，平台账号的 AgentCore Gateway 以单一 MCP 端点统一发现和调用各业务线账号的 MCP server 工具，数据保留在原账号、仅在查询时按需流出。
AWS Machine Learning BlogAI 评分3737 Aderant 借助 Amazon Nova 构建智能工单分诊系统
Aderant 基于 Amazon Bedrock 调用 Amazon Nova Lite 构建 Intelligent Ticket Analyzer，为 38 人的 SierraOps 团队自动完成工单分类、路由与知识补全。
Hugging Face BlogAI 评分5353 Liquid AI 发布 LFM2.5-VL-DSpark，为 LFM2.5-VL-3B 加速投机解码
Liquid AI 发布实验性草稿模型 LFM2.5-VL-DSpark，为视觉语言模型 LFM2.5-VL-3B 加入投机解码路径，端侧解码最高提速 3.13x、H100 上最高 2.66x，端到端提升最高 2.62x 和 2.27x。
AWS Machine Learning BlogAI 评分3838 从门户跳转到即时答案：HEMA 用 MCP 与 Amazon Bedrock 打造内部 AI 助手 HAL
荷兰零售商 HEMA 基于 MCP 与 Amazon Bedrock AgentCore 构建内部 AI 助手 HAL，把门户与 wiki 里分散的知识集中到一处。知识经 MCP 送进 Kiro、Claude 等既有工具，安全基于 Microsoft Entra ID。此前需跳三四个门户、耗时一下午的查询，如今在 IDE 或聊天窗口数秒可得。
GitHub Blog · AI & MLAI 评分5555 GitHub Copilot app 如何渲染超大 pull request
GitHub Copilot app 重建了 pull request 视图，使包含 2,200 个文件、超百万行改动和 400 多条行内评论的 diff 也能正常打开和滚动。核心做法是把代码行高度与评论块高度拆成两套几何，评论高度懒测量并按内容身份做滚动锚定，避免已渲染内容回写布局造成跳动。文中还介绍了用无头探针和无人值守循环在真实引擎上复现并定位性能问题的流程。
AWS Machine Learning BlogAI 评分5353 在 AWS 上用 Strands Agents SDK 构建对话式视频智能方案
AWS 发布教程，介绍如何用 Strands Agents SDK 结合 Amazon Bedrock、Rekognition 和 Transcribe 搭建对话式视频智能体，用户可用自然语言查询视频内容。
Microsoft ResearchAI 评分5151 微软研究显示机器人推理卸载可提升表现与续航，并在 Physical AI Toolchain 加入该能力
微软研究院发布对物理 AI 机器人推理的系统性测试，指出推理只跑在机载 GPU 会限制机器人表现、续航与扩展性，卸载到边缘或云端 GPU 可提升任务成功率并支持更大的模型。
NVIDIA BlogAI 评分2929 NVIDIA AI Day 新加坡：携手合作伙伴展示东南亚 AI 进展
NVIDIA AI Day Singapore 于 9 月 22-23 日举行，NVIDIA 与合作伙伴展示东南亚 AI 从试点走向生产部署的进展。新加坡 HTX 将研究 Nemotron 3 Super 与 Nemotron 3 Nano Omni 用于公共安全，NCS、ST Engineering 基于 Nemotron 模型与 NeMo 推进智能体 AI。
OpenAI NewsAI 评分5757 OpenAI 为 GPT-6 改进提示词缓存
OpenAI 为 GPT-6 改进了提示词缓存，带来更高的缓存命中率、新的诊断能力和显式断点。相关控制项用于降低延迟和成本。
AWS Machine Learning Blog精选AI 评分6767 GPT-6 Sol 和 GPT-6 Luna 在 Amazon Bedrock 正式可用
OpenAI 的 GPT-6 Sol 和 GPT-6 Luna 已在 Amazon Bedrock 正式可用，API 定价显著低于前代 GPT-5.6。GPT-6 Sol 面向编码、调试和跨工具多步流程等复杂任务，OpenAI 内部事实性评估显示其事实性错误约为 GPT-5.6 Sol 的一半；GPT-6 Luna 面向高并发的信息抽取、摘要和分类，可按请求调整推理强度。
推荐理由：两个新模型以低于 GPT-5.6 的 API 定价上线 Bedrock，读者可据此比较不同任务层级的模型与成本取舍。
AWS Machine Learning Blog精选AI 评分7777 Claude Opus 5.5 上线 Amazon Bedrock 与 Claude Platform on AWS
Anthropic 的 Claude Opus 5.5 现已在 Amazon Bedrock 和 Claude Platform on AWS 上线，是 Claude 5.5 系列的首个模型。
推荐理由：相比 Claude Opus 5，文中给出每 token 价格与单任务成本的变化，可供评估是否迁移。
Hugging Face Blog精选AI 评分6868 Transformers 现已支持运行 llama.cpp 的 GGUF 量化模型
Hugging Face 在 transformers 中加入 GGUF 量化模型支持，用户可从 Hub 选取检查点并通过 from_pretrained 在本地加载生成。
推荐理由：原文给出了 GGUF 在 transformers 中的加载方式和对照 llama.cpp 的测量数据，便于评估本地量化推理的可用性。
NVIDIA BlogAI 评分3535 NVIDIA 推出 DSX Ready，为 AI 工厂认证电源与冷却产品
NVIDIA 推出 DSX Ready 认证项目，为符合 NVIDIA DSX AI 工厂参考设计要求的合作方电源与冷却产品提供资质认定，首批覆盖电池储能系统（BESS）和冷却分配单元（CDU）两类。
NVIDIA BlogAI 评分3333 NVIDIA 为何说规模化部署物理 AI 需要在每一层保障安全
NVIDIA 认为，物理 AI 从研究走向规模化部署，安全必须覆盖硬件、软件、AI 与运行环境，而非一次性的部署前检查。ABI Research 预计 2035 年 level 3-5 自动驾驶汽车将达 4900 万辆，Omdia 估算 2026-2035 年间约 6000 万台工业机器人投入使用。
NVIDIA BlogAI 评分3939 AI 安全是工程问题：NVIDIA 如何加固 Agent 栈的每一层
NVIDIA 将 AI 安全定义为工程问题，主张在 Agent 栈每一层设置可执行边界、明确责任主体并保留可验证证据。其开源安全运行时 NVIDIA OpenShell 在 Agent 触及范围之外强制执行策略并提供沙箱化执行，Cisco DefenseClaw 在其上增加治理层，JFrog 则集成 OpenShell 扫描并校验 agent 技能。
OpenAI NewsAI 评分2121 V7 借助 GPT-5.6 Luna 将成本降低 78% 并提升准确率
V7 使用 GPT-5.6 把分散的公司文件转化为智能体可用的上下文，成本下降 78%，准确率同时提升。依托这些上下文，智能体能够完成复杂的、带来源链接的工作任务。
Simon WillisonAI 评分4646 llm-keys-ui 0.1 发布：为 llm CLI 提供 API key 保存界面
Simon Willison 发布 llm-keys-ui 0.1 插件，可用浏览器界面把 API key 存到远程机器，避免在 agent 会话中直接粘贴密钥。
NVIDIA BlogAI 评分1818 可爱生物上云：《Aniimo》首发登陆 GeForce NOW
免费抓宠 RPG《Aniimo》首发登陆 GeForce NOW，本周共 11 款新游加入云游戏库。《007 First Light》新增 path tracing，并引入 NVIDIA DLSS 4.5 Ray Reconstruction。Aniimo 无需 45GB 下载，并新增 Firefox 浏览器支持。
GitHub Blog · AI & ML精选AI 评分9090 GitHub Copilot 用智能体将运行时迁移到 Rust，生产代码超 800,000 行
GitHub 用 Copilot 智能体把 Copilot 运行时从 TypeScript 重写为超过 800,000 行生产级 Rust，分布在 128 个 PR 中并增量上线。
推荐理由：文章复盘了用 AI 智能体把大型 TypeScript 运行时原地迁移到 Rust 的做法，可供大规模智能体重构参考。
NVIDIA BlogAI 评分4949 NVIDIA Vera Rubin NVL72 首秀 MLPerf Inference v6.1，性能领先
NVIDIA Vera Rubin NVL72 在 MLPerf Inference v6.1 预览提交中首次亮相，在 Qwen3-VL 上吞吐量最高达 GB300 NVL72 的 3.7x，在 DeepSeek-R1 上最高 2.5x。
NVIDIA BlogAI 评分4848 Emerald AI、Google 与 NVIDIA 发起 AI Energy Management Alliance（AEMA），推进柔性 AI 数据中心
Emerald AI、Google 与 NVIDIA 联合发起 AEMA 联盟，推动可动态响应电网状况的 AI 数据中心。联盟采用技术中立、基于性能的标准，考核响应速度、持续时间、可预测性和紧急状态行为等指标。创始成员覆盖 AI 平台、基础设施提供商、数据中心运营商、电力生产商、公用事业和区域电网运营商。
Latent SpaceAI 评分5555 TypeSafe 发布决策模型 Jev，比小型前沿 LLM 快 100 倍以上、便宜 200 倍以上
TypeSafe 发布 Jev，一款用 RLCD 训练、只做决策/分类/路由/打分的“系统一”模型，声称比小型前沿 LLM 快 100 倍以上、便宜 200 倍以上。
NVIDIA BlogAI 评分4040 曼彻斯特大学用 NVIDIA Earth-2 预测英国空气污染
曼彻斯特大学团队用 NVIDIA Earth-2 的生成式模型 CorrDiff，在 Isambard-AI 上两天训练出覆盖全英、分辨率 2-3 平方公里的空气污染模型。
Google ResearchAI 评分4242 Google Research：Retrieve-for-Train 如何绕过推理瓶颈，加速复杂 AI 搜索
Google Research 提出 Retrieve-for-Train 框架，用离线强化学习发现奖励对齐的 fan-out 并编译为监督数据，再蒸馏进 53.9M 参数的扩散检索器，推理时单次非自回归生成完整查询集合，无需消耗 CoT 思考 token。该框架的 fan-out 语言模型基于 4B 开源模型 Gemma3-4B 与 Qwen3-4B 微调，论文发表于 ICML 2026。
NVIDIA BlogAI 评分4545 从兆瓦到 Token：NVIDIA 如何最大化 AI 工厂产出
NVIDIA 公布 DSX MaxLPS 在 Lambda 的首个部署验证：以 16 节点的功率预算运行 19 节点，token 吞吐提升 24% 至约 500 万 tokens/秒，每瓦性能提升 23%。
NVIDIA BlogAI 评分4545 AI Infra Summit：NVIDIA Vera Rubin 与 DSX 平台进展展示 AI 工厂的每瓦 Token 能效优化
NVIDIA 在 AI Infra Summit 公布 Vera Rubin 与 DSX 平台进展：Vera Rubin NVL72 在 MLPerf Inference v6.1 中吞吐量达 GB300 NVL72 的 3.7x。
OpenAI NewsAI 评分3838 OpenAI 如何扩展 Habitat，支撑超 1 billion ChatGPT 用户与 22M requests per second
OpenAI 将 Habitat 从 Python 库演进为服务超 1 billion ChatGPT 用户的全球分布式存储平台。该平台可处理 22M requests per second，用于支撑 ChatGPT 的大规模在线存储需求。
Mistral AIAI 评分3939 Cloudera 与 Mistral 达成合作，为企业数据带来专用、主权 AI
Mistral 与 Cloudera 宣布合作，将 Mistral 模型集成进 Cloudera 混合数据平台，支持企业在私有云、公有云、本地及完全气隙环境部署推理。企业可在受控环境内用专有数据训练自有模型，Cloudera 平台上承载 30 exabytes 客户管理数据。双方称该合作瞄准主权 AI 需求：数据、智能、算力与运营由客户掌控，模型以开放权重被适配和拥有。
Hugging Face Blog精选AI 评分6464 在 HF Jobs 上跑 Async GRPO + LoRA：一个 bucket、一个 proxy、不依赖 NCCL
TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 支持，rank-1 适配器只有几 MB，经 HF Jobs 的 Storage Bucket 即可同步到 vLLM，避免在节点间搬运 3 GB 整模型。
推荐理由：把训练与推理拆到独立机器上的可复用方案与逐轮瓶颈定位方法，对搭异步 RL 流水线的读者有直接参考价值。
Hugging Face Blog精选AI 评分6565 用 Gradio Workflow 重建 AUTOMATIC1111 媒体管线
Gradio 团队用 73 个节点、11 条媒体管线在 Workflow1111 中复刻了 AUTOMATIC1111 的核心功能集，涵盖文生图、高清修复、图生图、提示词矩阵、VLM 反推、检测生成 inpaint 掩码、ControlNet 预处理器、背景移除、PNG Info 与图生视频。
推荐理由：原文以 73 节点重建 AUTOMATIC1111 为例，展示 gr.Workflow 在多模型编排上与 ComfyUI 的差异，以及每个输出自动成为 REST 端点和 MCP 工具的能力。
Hugging Face BlogAI 评分5757 用 GRPO 在 100 步内微调 LFM2.5-350M 提升结构化输出合规率
一篇 Hugging Face 博客教程用 TRL 的 GRPO 微调 LiquidAI 的 LFM2.5-350M，将该模型在 IFStruct 评测上的总体通过率从 22.6% 提升到 29.7%。
Hugging Face Blog精选AI 评分6969 Hugging Face 发布 @huggingface/kernels 库与 Fleet 浏览器基准工具，首批开源 207 个 WebGPU 内核
Hugging Face 发布 @huggingface/kernels JavaScript 库与 Fleet 浏览器基准测试工具，首批开源 207 个 Apache-2.0 许可的 WebGPU 内核，每个内核以独立仓库形式托管在 Hub 上，包含 manifest、正确性用例、基准用例与 WGSL 着色器模板。
推荐理由：对比了在 Apple M4 上与 ORT WebGPU 的逐操作基准数据，读者可据此评估优化 WebGPU 内核对浏览器推理的实际收益。