学习完华邦 CUBE 的资料,最大的体会是它把边缘 AI 的瓶颈找准了——很多时候设备跑不动不是 NPU 算力不够,而是内存接口喂不上数据,处理器一直在等权重和中间结果。传统方案想扩带宽,要么加宽总线、要么拉高数据速率,结果就是引脚变多、PCB 布线复杂、功耗和散热一起恶化,对本就余量紧张的边缘设备很不友好。
CUBE 的思路是用 TSV、微凸块加混合键合把存储和 SoC 之间的数据路径直接缩短,单颗裸片带宽做到 256GB/s,4Hi 堆叠扩展到 1TB/s,同时把能效压在 1pJ/bit 以下。把 SoC(顶部无 TSV)叠在 CUBE(底部带 TSV)上方,既省掉了 SoC 的 TSV 惩罚面积、缩小了芯片尺寸,又把发热源靠近散热器,说明它不是只堆带宽数字,而是把持续运行下的热管理一起考虑进去了。
另外让我印象比较深的是它的定制弹性:CUBE 不是一颗固定规格的通用芯片,而是能围绕客户 SoC 调整容量(单 Die 1–2GB、4Hi 4–8GB)、芯片面积和堆叠方式,同时兼容 CoW/WoW 前端与 2.5D/3D 后端封装。配合 3DCaaS 平台和 W77Q 安全闪存,基本能凑出一套"高带宽存储 + 可信启动"的完整边缘 AI 方案。
一点建议:希望后续能补充更多真实模型(视觉/语音/小型语言模型)在 LPDDR、传统分立内存和 CUBE 三种方案下的首 Token 延迟、平均功耗和持续温度对比。相比峰值带宽,这些数据更能帮工程师算清 CUBE 给整机带来的实际收益。
|