曩昔11年，HBM存储容量增长了6倍，带宽增长了9.8倍。
在2025年12月举行的国外电子与材料会议（IEDM）时代，行家最大的硅晶圆代工场台积电举办了一场工夫教授，展示了其最新的封装工夫。
{jz:field.toptypename/}思要理清东谈主工智能与高性能臆测系统的初始逻辑，领先要读懂其中枢的内存/存储脉络结构，这套体系由多种各异化的内存与存储工夫搭建而成，各样工夫在探望蔓延、输入/输出带宽以及存储容量三大中枢运筹帷幄上各有优劣，而系统的中枢初始准则，就是将往往探望的要道数据，存放在低蔓延、高输入/输出带宽的高速内存中，以此保险算力高效运转。在整套内存层级里，速率位居榜首的是SRAM工夫，手脚性能顶尖的内存载体，它主要被应用于惩处器寄存器、L1/L2缓存以及标签内存等核默算力模块，承担着最即时、最高频的数据读写任务，是系统算力反应的中枢撑抓。
紧随SRAM之后、速率位列第二的则是基于DRAM工夫的HBM高带宽内存，凭借出色的带宽与蔓延发达，它成为了高端东谈主工智能与高性能臆测系统中的主内存，扛起中枢臆测场景下的数据诊疗重负。再往下则是DDR/LPDDR DRAM工夫，这类内存的速率略逊于HBM，在高端AI与HPC系统中，它手脚第二层主内存扶持HBM完成数据存储与调用；而在中端AI与HPC系统中，受资本、性能适配性等要素影响，它会径直升级为第一层主内存，成为核默算力载体。
在高速内存层级除外，等于旧例存储工夫的应用畛域，通常除名着速率分层的逻辑。其中第一层存储为固态硬盘SSD，这类存储迷惑给与NAND闪存手脚中枢介质，兼顾了读写速率与实用性，是相接高速内存与大容量存储的要道；第二层存储则为机械硬盘HDD，依托磁性磁盘手脚存储介质，主打大容量存储属性。纵不雅统统这个词内存/存储层级结构，长久存在着速率与容量的中枢衡量关系，这亦然整套体系的底层逻辑：高速内存工夫天然读写快、蔓延低、带宽富余，但往往受制于工夫与资本，存储容量相对有限；而大容量的内存与存储工夫，天然好像承载海量数据，却在探望速率、带宽发达上远不足高速内存，二者相互协作、各司其职，才构建起适配AI与高性能臆测需求的完整存储体系。
曩昔11年，HBM存储容量增长了6倍，带宽增长了9.8倍
在高端AI与高性能臆测系统的内存体系中，HBM高带宽内存占据着中枢主存地位，思要深远流通这套存储架构，就需要邃密无比拆解HBM的工夫旨趣、迭代升级与中枢特色。HBM的中枢假想理念荒谬明确，一方面通过大幅拓宽输入/输出信号的总线宽度保险超高带宽，另一方面借助专用DRAM芯片的垂直堆叠款式拓展内存容量，其物理总线宽度最高可达1024位，对应1024个输入/输出电极，带宽换算下来更是单个输入/输出电极数据传输速率的128倍，凭借这一假想结束了远超旧例内存的传输性能。从硬件结构来看，milan单个HBM模块主要由底层逻辑基片芯片，以及堆叠在其上的专用DRAM中枢芯片组成，历经多代工夫迭代，中枢芯片的堆叠数目结束了稳步进步，初代HBM1、HBM2与HBM2E仅堆叠4个或8个中枢芯片，到HBM3、HBM3E世代升级为8个或12个，最新的HBM4世代更是增至12个或16个，芯片堆叠数目的增长径直带动了存储容量的超越式升级，从HBM1/2世代单模块最大8GB，一皆攀升至HBM4世代的最大48GB，容量足足进步了六倍。
除了存储容量的拓展，HBM的传输性能也在抓续冲破，单个输入/输出电极的数据传输速率结束了大幅飞跃，从第一代HBM1的2Gbit/s，一皆进步至最新HBM4的10Gbit/s，速质径直提高五倍；同期HBM4的总线宽度也完成翻倍，达到2048位，对应2048个输入/输出电极，再结合电极间距缩小、电源电压裁汰等配套优化，HBM4的举座带宽相较上一代HBM3E径直进步2.5倍，无缺适配了高端AI与HPC系统日益增长的算力传输需求。
从工夫发展来看，HBM的迭代阶梯昭着可循，现在最新商用世代为HBM4，HBM4E及后续家具还处于预估筹算阶段，而进步HBM带宽的中枢工夫旅途，长久围绕提高单电极传输速率、优化电极布局、拓宽总线宽度等地点张开，这亦然其抓续领跑高端内存市集的要道。
HBM的高性能发达，离不开中枢的封装工夫撑抓，硅通孔TSV工夫更是其要道特色，岂论是中枢DRAM芯片已经底层逻辑芯片，都集成了数目超千个的TSV，这些硅通孔连络统统这个词芯片，且在芯片横截面中全部采集于中心位置，这么的布局并非狂妄假想，而是进程严谨考量的最优决策。
从公开的芯片布局图纸中能昭着看到，TSV区域居于芯片中心，外围仅布设布线领会，晶体管与无源元件都与TSV区域保抓间距，中枢观点就是减弱TSV带来的芯片失真影响，保险内存初始的雄厚性；不外TSV工夫也存在一定短板，虽说能结束芯片间超短距勾通，却会殉难硅面积哄骗后果，裁汰存储密度。此外，现时HBM模块的供应商数目少许，行业采集度极高，这也使得HBM的市集售价远高于其出产资本，成为关系供应商营收与利润的中枢增长点。
*声明：本文系原作家创作。著作履行系其个东谈主不雅点，自身转载仅为共享与商议，不代表自身唱和或认可，如有异议，请接洽后台。
思要取得半导体产业的前沿洞见、工夫速递、趋势理解，见谅咱们！