跳到正文

#部署/工程

今日 0 条
10月17日周六
10月16日周五
10月15日周四
10月8日周四
10月6日周二
  1. AWS Machine Learning Blog52

    智谱 GLM 5.3 上线 Amazon Bedrock

    AWS 在 Amazon Bedrock 上线智谱(Z.ai)的 GLM 5.3,这是一款 753B 参数的 MoE 模型,主打编码和长链路智能体任务。该模型支持跨区域推理、隐式与显式 prompt caching,可通过 OpenAI 兼容的 Responses 和 Chat Completions API 调用。

9月24日周四
9月23日周三
  1. AWS Machine Learning Blog67

    GPT-6 Sol 和 GPT-6 Luna 在 Amazon Bedrock 正式可用

    OpenAI 的 GPT-6 Sol 和 GPT-6 Luna 已在 Amazon Bedrock 正式可用,API 定价显著低于前代 GPT-5.6。GPT-6 Sol 面向编码、调试和跨工具多步流程等复杂任务,OpenAI 内部事实性评估显示其事实性错误约为 GPT-5.6 Sol 的一半;GPT-6 Luna 面向高并发的信息抽取、摘要和分类,可按请求调整推理强度。

    推荐理由:两个新模型以低于 GPT-5.6 的 API 定价上线 Bedrock,读者可据此比较不同任务层级的模型与成本取舍。

9月16日周三
8月11日周二
  1. Hugging Face Blog61

    NVIDIA Magpie TTS 多语种版发布,主打开源权重与全栈部署控制

    NVIDIA 发布开源 364M 参数的 Magpie 多语种 TTS 模型,支持 12 种语言,包括本次新增的现代标准阿拉伯语、韩语和巴西葡萄牙语。

    推荐理由:对比 B200、H100、A100 上的首音频延迟数据,并介绍 frame stacking 与 local transformer 两项推理优化思路,可用于自有基础设施上的语音智能体部署。

7月15日周三
  1. Hugging Face Blog73

    Thinking Machines 开源 1T 参数多模态模型 Inkling,支持图像文本音频输入

    Thinking Machines 开源 1T 参数多模态大模型 Inkling,原生支持图像、文本和音频输入及 1M 上下文,采用 decoder-only MoE 架构(975B 总参数、41B 激活),同步提供 BF16 与 NVFP4 两个权重版本。

    推荐理由:原文给出 Inkling 的 MoE 架构细节与多模态能力范围,并附 transformers、SGLang、vLLM 多框架部署示例和主流模型基准对比,方便评估其工程落地方案。

12月9日周二
5月7日周三
  1. Mistral AI62

    Mistral AI 发布 Mistral Medium 3,主打企业级性能与成本效率

    Mistral AI 发布 Mistral Medium 3,定位中型尺寸企业模型,定价 $0.4 输入 / $2 输出每 M token,在多项基准上达到或超过 Claude Sonnet 3.7 的 90%,并超越 Llama 4 Maverick 与 Cohere Command A,成本也低于 DeepSeek v3。

    推荐理由:原文同时给出相对 Claude Sonnet 3.7、Llama 4 Maverick 的性能对照与 $0.4 / $2 每 M token 的价格,可作为中型模型选型的成本与性能参考。