跳到正文
原文
Mistral AI·· 2026-01-22AI 评分53

Mistral AI 工程师深挖 vLLM 内存泄漏,根因指向 UCX 的 mmap 钩子机制

Heaps do lie: debugging a memory leak in vLLM.

AI 导读

Mistral AI 团队在 Mistral Medium 3.1 的 Prefill/Decode 分离推理部署中发现 vLLM 存在约每分钟 400 MB 的内存泄漏,经 Heaptrack、pmap、BPFtrace 和 GDB 自动化断点逐层排查,最终定位到 UCX 通过 GOT 改写拦截所有 mmap 调用导致 RSS 持续增长。

来源:Mistral AI · mistral.ai