AI记忆体应用需求不断攀升带动HBM持续进化
摘要
本篇报告首先聚焦于HBM何以在LLM与AIGC应用发展过程中扮演关键角色,接著从HBM的升级路径著手,探究其如何透过异质记忆体整合策略扩大容量、升级频宽以应对未来的AIGC应用需求。
一. LLM升级迭代与AIGC应用扩张令HBM需求未见止尽
二. 围绕HBM的异质记忆体整合路径将聚焦容量与频宽升级
三. 拓墣观点
图一 文字生成流程与HBM使用状况
图二 图片生成流程与HBM使用状况
图三 影片生成流程与HBM使用状况
图四 HBM4整合LPDDR示意图
图五 HBM整合NMC Die
图六 HBM5整合SOCAMM示意图
图七 双塔架构的HBM6示意图
图八 HBM7整合HBF示意图
表一 历代GPT可处理之Token数量
表二 三类AI生成过程对HBM之需求估算
表三 历代HBM理论性能与规格参数
