• HBM has become the memory of choice for AI training applications in the data center • GDDR6 provides an “off-the-shelf” alternative for AI inference

2024年9月27日 · HBM(高带宽内存) 绕过 X86 socket 连接的 DRAM 容量和带宽限制，将内存封装堆叠在逻辑层的顶部，并通过相互连接的 TSV 通道 ，将所有组件 链接到 GPU 。 JEDEC(Joint Electron Device Engineering Council) 确认并发布 HBM 标准，目前是其第五个标准 —— HBM3E 。

该 HBM 迭代将为每个堆栈提供 1.5 TB/s – 2+ TB/s 的带宽，容量范围为 36 GB 至 64 GB。 在美光科技试图弯道超车的时候，来自韩国的三星和SK海力士却不甘落后。

However, Micron still adheres to the standard 720um Z-height (thickness) of the final package. Micron also doubled the number of TSVs, which helps improve power efficiency due to increased data lanes, and shrunk the interconnects by 25% compared to current-gen HBM3 (the company declined to share the pitch).

该 HBM 迭代将为每个堆栈提供 1.5 TB/s – 2+ TB/s 的带宽，容量范围为 36 GB 至 64 GB。 在美光科技试图弯道超车的时候，来自韩国的三星和SK海力士却不甘落后。

hbm芯片标准厚度为720um，预计2026年左右量产的第六代hbm4需要纵向垂直堆叠16层dram芯片，当前的封装技术很难让客户满意，所以混合键合的应用被认为是必然的趋势；

2024年3月10日 · hbm芯片标准厚度为720um，预计2026年左右量产的第六代 hbm4需要纵向垂直堆叠16层dram芯片，当前的封装技术很 难让客户满意，所以混合键合的应用被认为是必然的趋势；

2024年3月5日 · HBM芯片标准厚度为720um，预计2026年左右量产的第六代HBM4需要纵向垂直堆叠16层DRAM芯片，当前的封装技术很难让客户满意，所以混合键合的应用被认为是必然的趋势； 2023年海力士用于第三代HBM产品（HBM2e）测试混合键合技术，规格低于HBM4产品；同时海力士拟计划将新一代的HBM与逻辑芯片堆叠在一起，取消硅中介层。 混合键合设备.

三星、SK 海力士、美光等厂商推出的 12 层堆叠 HBM3e 产品，容量最高达 36GB ，满足了大数据处理需求。 在研发和生产上， 三星 HBM3e 产品引脚速度 9.8Gbps，整体传输速率超 1.2TBps；SK 海力士率先量产 12 层堆叠 HBM3e，内存运行速度 9.6Gbps；美光 12 层堆栈产品容量 36GB，带宽超 1.2TB/s，传输速率超 9.2Gb/s，功耗低且有内置自测系统。 这些产品广泛应用于 AI 领域，在 AI 服务器、大型语言模型训练中，加速数据处理，提升模型性能，是推动 AI …

2024年3月11日 · 而高带宽存储器HBM（Highband Memory），使用硅通孔TSV和微凸块技术垂直堆叠多个DRAM，因此可以显著提升数据处理速度，同时性能提升的同时尺寸有所减少； 从2013年开始，JEDEC制定了高带宽存储器系列标准（包括 HBM,HBM2，HBM2E,HBM3），其中，HBM3相比2代标准有显著提升，芯片单个引脚速率达到6.4Gbit/s，总带宽超过1TB/S。 HBM2E和HBM3的单引脚最大输入/输出（I/O）速度分别达3.2Gbit/s和6.4Gbit/s，低 …