[应用方案] M55M1 运行 TinyML 模型,推理时内存溢出,该如何优化内存分配?

[复制链接]
172|35
biechedan 发表于 2026-6-18 14:39 | 显示全部楼层
如何用TFLite-Micro分析模型内存占用?
updownq 发表于 2026-6-18 16:28 | 显示全部楼层
推理中途死机、HardFault、函数调用异常,栈空间被局部张量 / 大数组撑爆。
elsaflower 发表于 2026-6-18 17:26 | 显示全部楼层
外部SPI Flash加载模型具体实现方法?
gygp 发表于 2026-6-18 18:01 | 显示全部楼层
启用外部 PSRAM / SDRAM
modesty3jonah 发表于 2026-6-19 13:12 | 显示全部楼层
将 FP32 模型转换为 INT8 量化模型,权重和激活值的内存占用可直接下降 75%。
pmp 发表于 2026-6-19 19:54 | 显示全部楼层
禁止动态浮点张量,推理链路全程整型。
febgxu 发表于 2026-6-19 21:32 | 显示全部楼层
使用 int8 量化模型              
sesefadou 发表于 2026-6-19 22:18 | 显示全部楼层
模型权重 const 放 Flash
ccook11 发表于 2026-6-19 22:44 | 显示全部楼层
TFLM 默认把所有层的激活值一次性全部分配,但实际上很多层的输出在下一层用完后就可以释放。
timfordlare 发表于 2026-6-30 11:05 | 显示全部楼层
堆栈与静态内存如何平衡避免冲突?
eefas 发表于 2026-6-30 11:29 | 显示全部楼层
M55M1 TinyML 内存溢出,先 INT8 量化,再把 tensor_arena 降到 96KB 用 ArenaAllocator,然后把权重塞进 NPU 内部 64KB SRAM。
tabmone 发表于 2026-6-30 12:46 | 显示全部楼层
TinyML 框架在资源受限的 MCU 上严禁使用 malloc/free,这会导致不可预测的内存碎片化。
minzisc 发表于 2026-6-30 13:37 | 显示全部楼层
M55M1上TinyML模型量化步骤示例?
geraldbetty 发表于 2026-6-30 16:18 | 显示全部楼层
静态内存分配能节省多少空间?              
lzbf 发表于 2026-6-30 19:59 | 显示全部楼层
未量化或伪量化的模型是吞噬 RAM 的罪魁祸首。
小熊01 发表于 2026-7-3 17:00 | 显示全部楼层
模型简化时,无需保留不用的层,裁剪掉多余部分可提升效率。
您需要登录后才可以回帖 登录 | 注册

本版积分规则

快速回复 在线客服 返回列表 返回顶部
0