生成式AI需求起飞，所有高端AI服务器GPU都需要搭载HBM高带宽内存，目前这块商机由台积电CoWoS封装技术＋SK海力士的HBM独占，三星、美光也磨刀霍霍加入HBM生产阵营。
随着AI发展轨迹开始从云端下放到边缘侧端，另一种商机正在兴起，就是由晶圆代工厂联电、存储芯片供应商华邦、封测厂日月光合作力推的新存储CUBE(Customized/Compact Ultra Bandwidth Elements)架构，专门用在边缘AI领域，锁定中低算力的边缘AI商机，走出一条不同的道路。
CUBE是客制化的高宽带存储芯片3D TSV DRAM，专门为边缘AI运算装置所设计的存储架构，利用3D堆叠技术并结合异质键合技术以提供高带宽、低功耗单颗256Mb至8Gb的存储芯片。
CUBE架构上，是将SoC裸片置上，DRAM裸片置下，可以省去SoC中的TSV工艺，进而降低了SoC裸片的尺寸与成本。同时，3D DRAM TSV工艺可以将SoC信号引至外部，使它们成为同一颗芯片，进一步缩减了封装尺寸。而因为SoC裸片在上方也可以有比较好的散热效果。
据了解，这个专案当时由联电推动，目标是锁定边缘运算AI 应用在穿戴式装置、家用和工业物联网、安全和智慧基础设备等，提供中高阶算力、可客制的存储模组和较低功耗需求的解决方案。
联电负责CMOS晶圆制造和晶圆对晶圆混合封装技术，华邦电导入客制化CUBE架构，智原提供全面的3D先进封装一站式服务，以及存储IP和ASIC小芯片设计服务，日月光则是提供晶圆切割、封装和测试服务，另外还有Cadence 负责晶圆对晶圆设计流程，提取TSV特性和签核认证。
相较HBM搭载于英伟达高端GPU如A100、H100等或是AMD 的MI300，应用在云端数据中心，CUBE可以视为是“非台积电阵营”集结起来，朝边缘AI应用的另辟蹊径，分食AI大商机。
谈到AI发展，华邦总经理陈沛铭出席城大论坛时分享，目前AI服务器一年出货量不超过20万台，2024年可望增加至100万台。
AI服务器供货不足主要是受限台积电CoWoS和HBM存储芯片生产瓶颈，SK海力士是HBM龙头，市占率最高，目前HBM每GB价格约是DRAM的20倍，未来HBM和传统DRAM仍会维持5~7倍价差。再者，以年复合成长率CAGR来看，2023年～2027年HBM年复合成长率为39%，DRAM为16%。
