在 Amazon Bedrock 上用 Grok 4.7 构建长任务代理
AWS 在 Amazon Bedrock 上线 xAI 的 Grok 4.7 模型,介绍构建长任务工具调用代理的方法并比较四个推理档位(low、medium、high、xhigh)的效果。
推荐理由:原文给出四个推理档位的实测准确率与 token 用量对照,读者可据此为自己的代理负载选择推理档位与监控策略。
AWS 在 Amazon Bedrock 上线 xAI 的 Grok 4.7 模型,介绍构建长任务工具调用代理的方法并比较四个推理档位(low、medium、high、xhigh)的效果。
推荐理由:原文给出四个推理档位的实测准确率与 token 用量对照,读者可据此为自己的代理负载选择推理档位与监控策略。
作者用 HuggingChat 中的 ML-intern 模式在几天内从零造出 6 个小模型,总计算开销约 103 美元;每个项目从一个自然语言 prompt 出发,由 ML-intern 规划预算、跑基线、训练并把模型与评测直接发布到 Hugging Face Hub。
推荐理由:原文给出了一套可复用的 ML-intern prompt 写法,包括 Verified facts 区块、先跑基线、带检查的冒烟测试和硬性支出上限,读者可直接套用到自己的项目里。
AWS 发布教程,演示如何在 Amazon Bedrock AgentCore Runtime Instances 上用三个智能体搭建音乐制作流水线。
推荐理由:原文给出三个智能体共用同一 GPU 实例与共享卷的完整代码和运行数据,可作为长时多智能体流水线的部署参考。
GitHub 用 Copilot 智能体把 Copilot 运行时从 TypeScript 重写为超过 800,000 行生产级 Rust,分布在 128 个 PR 中并增量上线。
推荐理由:文章复盘了用 AI 智能体把大型 TypeScript 运行时原地迁移到 Rust 的做法,可供大规模智能体重构参考。
TRL v1.14 的 AsyncGRPOTrainer 新增 LoRA 支持,rank-1 适配器只有几 MB,经 HF Jobs 的 Storage Bucket 即可同步到 vLLM,避免在节点间搬运 3 GB 整模型。
推荐理由:把训练与推理拆到独立机器上的可复用方案与逐轮瓶颈定位方法,对搭异步 RL 流水线的读者有直接参考价值。
Gradio 团队用 73 个节点、11 条媒体管线在 Workflow1111 中复刻了 AUTOMATIC1111 的核心功能集,涵盖文生图、高清修复、图生图、提示词矩阵、VLM 反推、检测生成 inpaint 掩码、ControlNet 预处理器、背景移除、PNG Info 与图生视频。
推荐理由:原文以 73 节点重建 AUTOMATIC1111 为例,展示 gr.Workflow 在多模型编排上与 ComfyUI 的差异,以及每个输出自动成为 REST 端点和 MCP 工具的能力。
Mistral 帮一家欧洲能源运营商把 4 万行 Fortran 77 迁移到 C++,这是这套 30 万行油藏模拟器代码现代化的第一阶段。迁移前先搭好数值对齐校验(parity harness),再用 Vibe CLI 调度上百个智能体、配合 Mistral OCR 按调用树自下而上生成文档并提交 PR。
推荐理由:案例给出了可迁移的落地做法,先用数值对齐校验再迁移,并用人工审查关卡平衡智能体自主度。
Sentence Transformers v6.0 引入第四类模型 MultiVectorEncoder,用于 ColBERT 风格的 late interaction 检索,并提供了完整的训练流程。
推荐理由:给出了从数据集、损失函数到评估器的完整多向量检索模型训练脚本,并提供在单卡消费级 GPU 上的实测效果对比,可直接迁移到自有领域数据上做检索微调。
sentence-transformers v6.0 新增 MultiVectorEncoder 作为第四类模型,原生支持 PyLate、Stanford-NLP ColBERT 和 colpali-engine 检查点沿用同一套 API 加载。
推荐理由:原文给出从加载、MaxSim 打分到多种向量库落地的完整可运行代码,读者可对照把现有检索管线迁到 late interaction。