跳到正文
原文
MIT Technology Review · AI· Tim Rausch·· 3 小时前AI 评分51

WD 分析 AI 推理的隐性存储成本:每次响应留下后端数据

AI’s hidden storage bill: What inference leaves behind

AI 导读

WD 的分析指出,AI 模型每次响应都会在后端留下数据,推理规模扩大后,存储可能成为 AI 基础设施预算中被低估的长期成本。WD 内部测量显示,返回给用户的 8 秒 720p 视频文件为 3.97MB,但相关后端数据超过 500MB,是输出文件的 130 倍。McKinsey 预计 AI 推理需求到 2030 年将以 35% CAGR 增长,文章建议企业按完整数据生命周期规划分层存储与保留策略。

来源:MIT Technology Review · AI · technologyreview.com