AI记忆体应用需求不断攀升带动HBM持续进化

摘要

本篇报告首先聚焦于HBM何以在LLM与AIGC应用发展过程中扮演关键角色,接著从HBM的升级路径著手,探究其如何透过异质记忆体整合策略扩大容量、升级频宽以应对未来的AIGC应用需求。

一. LLM升级迭代与AIGC应用扩张令HBM需求未见止尽
二. 围绕HBM的异质记忆体整合路径将聚焦容量与频宽升级
三. 拓墣观点

图一 文字生成流程与HBM使用状况
图二 图片生成流程与HBM使用状况
图三 影片生成流程与HBM使用状况
图四 HBM4整合LPDDR示意图
图五 HBM整合NMC Die
图六 HBM5整合SOCAMM示意图
图七 双塔架构的HBM6示意图
图八 HBM7整合HBF示意图

表一 历代GPT可处理之Token数量
表二 三类AI生成过程对HBM之需求估算
表三 历代HBM理论性能与规格参数

 

AI记忆体应用需求不断攀升带动HBM持续进化

请输入您的会员账号与密码,即可浏览全文

Login 如何购买 下载完整报告档案 1.03MB PDF

会员专属
您好,该资料属会员权益方可浏览,您需成为会员且购买此产业项目权限才可观看,详细说明如下:
  • 拓墣产业研究院之「产业数据库」为付费的会员服务,若您尚未具备会员身份,欢迎您申请加入或是与我们的客服联络了解。
  • 若您所属公司机关已具有拓墣会员身份,并且设定予贵公司人员在线申请,请先行移至「申请会员账号」填写申请数据后送出,我们会尽快为您审核办理。若未开放在线申请,请您询问贵公司的承办联系人处理,谢谢。
  • 由于贵公司无采购此产业项目,因此您将无法浏览此篇文章,欲查询贵公司所购买的产业项目明细,请至「会员权益」查询,谢谢。
  • 客户服务专线: 02 8978-6498 ext.822
    客户服务信箱:

宣传推广

产业洞察

3Q26记忆体价格持续受AI server需求支撑,惟因消费端压力扩大、高基期影响,涨幅收敛

预估3Q26一般型DRAM合约价将季增13-18%,NAND Flash合约价季增1 [...]

Apple全面调价添消费端需求变数,预估2026年全球笔电出货将衰退13.6%

根据TrendForce最新笔电产业研究,Apple全面调涨MacBook售价已改变过去市 [...]

Apple将导入未来显示色彩基准,加速重构OLED发光材料体系

根据TrendForce最新AMOLED技术与市场报告,Apple计画陆续于MacBook [...]

NVIDIA 800V Power Rack成Vera Rubin选用方案,预估至Rubin Ultra世代扩大采用

根据TrendForce最新AI server供电架构研究,NVIDIA正积极打造自家80 [...]