HBM 全称为 High Bandwidth Memory，直接翻译即是 高带宽内存，是一款新型的CPU/GPU内存芯片。 其实就是将很多个 DDR芯片 堆叠在一起后和GPU封装在一起，实现大容量、高位宽的DDR组合阵列。 打个比喻，就是传统的 DDR 就 是 采用的 "平房设计" 方式， HBM 则 是"楼房设计"方式，从而可实现了更高的性能和带宽。 如上图，我们以 AMD最新发布MI300X GPU芯片 布局为例，中间的die是GPU，左右两侧的4个小die就是DDR颗粒的堆叠HBM。 目前，在平面布局 …

2024年5月21日 · 本文介绍了DRAM内存芯片的主要分类和原理，梳理了DRAM产品尤其是HBM的迭代过程和发展趋势，分析了产业链和市场情况。 上一篇文章《AI内存瓶颈（上）：3D NAND路线图》中我们对数据存储进行了梳理，并重点介绍了ROM中的3D NAND技术原理与市场情况。 存储芯片市场中，基于闪存Flash技术的NAND是主要外部存储器，而DRAM是主要的内部存储器，二者共同占据整个半导体存储市场超过97%的份额，也在各自的领域扮演着相当重要的角色。 …

2024年9月15日 · 文章探讨了AI计算的要点，强调了高性能内存（HBM）在AI训练中的重要性，以及Chiplet技术如何提高芯片设计的灵活性和效率。 同时，讨论了HBM的封装、参数、市场趋势，以及在AI领域的应用潜力和面临的挑战

2023年12月11日 · 本文介绍了HBM（高带宽内存）在GPU领域的重要性，讲述了其工作原理、发展历程、市场竞争格局以及未来应用前景，强调了HBM在AI、高性能计算等领域的关键作用及其面临的挑战。 各位 ICT 的小伙伴们大家好呀。 我是老猫。 今天我们聊聊GPU背后的女人，不对，是背后的大赢家- HBM。 那么， HBM究竟是什么呢？ 为何在 AI 时代如此火热？ 下面我们就一一道来。 HBM到底为何方神圣？ HBM 全称为High Bandwidth Memory，直接翻译即是 高带宽内 …

HBM== High Bandwidth Memory 是一款新型的CPU/GPU 内存芯片（即 “RAM”），其实就是将很多个 DDR芯片 堆叠在一起后和GPU封装在一起，实现大容量，高位宽的DDR组合阵列。先看个平面图：

HBM 全称 High Bandwidth Memory，即高带宽内存，是一种新兴的DRAM 解决方案。 HBM具有基于 TSV （硅通孔）和 芯片堆叠技术 的堆叠 DRAM 架构，简而言之就是将内存芯片堆叠到一个矩阵里，再将其堆栈置于 CPU 或 GPU 的旁边，通过uBump 和 Interposer （中介层， 起互联功能的硅片）实现超快速连接。 Interposer 再通过 Bump 和 Substrate（封装基板） 连通到 BALL，最后 BGA BALL 再连接到 PCB 上。 随着深度学习等 AI 算法的发展， AI 服务器对计算能力和内存 …

2024年4月29日 · 本文旨在梳理DDR、LPDDR、GDDR及HBM四类DRAM标准的区别和联系，探讨HPC系统内存设计的内在逻辑，以理解在AI大模型时代，DRAM从芯片到系统层面的发展方向。 动态随机存取存储器（Dynamic Random Access Memory，简称DRAM）在现代计算机、服务器、智能手机和游戏机等各种应用设备中作为主存储器，负责存储处理器运算和处理的数据。 JEDEC定义并开发了标准DDR、移动DDR和图形DDR三种DRAM标准类别。 三类DDR标准存储数据使 …

2023年11月14日 · 同样，英特尔也计划提升Gaudi AI芯片的HBM容量，最新公布的信息显示，Gaudi 3基于5nm工艺，在BF16工作负载方面的性能将是Gaudi 2的四倍，网络性能也将 ...

2024年6月7日 · hbm，即高带宽内存，是一项领先的3d堆叠dram技术，专为高性能计算和图形处理单元（gpu）设计，满足其对内存带宽和容量的极致需求。 该技术由AMD与海力士携手研发，并于2013年问世，为行业带来革命性突破。

2024年6月5日 · HBM==High Bandwidth Memory, 是将很多个DDR芯片堆叠在一起后和GPU封装在一起，实现大容量，高位宽的DDR RAM 组合阵列。HBM内存是一种创新的堆叠式内存技术，其特点是将多个内存芯片垂直堆叠在一起，并通过短而宽的通道将它们连接起来。这种设计不仅节省了 …