跳到正文
IT之家·· 1 天前AI 评分29

SK 海力士预测:到 2030 年 AI 基础设施性能规模将增长约 20 倍

SK 海力士预测:到 2030 年,AI 基础设施性能规模将增长约 20 倍

AI 导读

SK 海力士开发总管安炫预测,到 2030 年 AI 基础设施性能规模将增长约 20 倍。他指出 AI 推理需求正沿任务复杂度、上下文长度和请求量三个维度快速扩张,KV Cache 容量膨胀使数据须分摊存储于 HBM、DRAM 与 SSD,数据迁移成为制约性能、推高能耗的新瓶颈。

来源:IT之家 · ithome.com