我觉得边缘 AI 真正有价值的地方,不只是“把模型放到本地跑”这么简单,而是它能把响应链路缩短。像摄像头、工业传感器、门锁这类设备,很多判断其实不适合等云端返回,几十毫秒的延迟差别在现场就很明显。
但落地时也不能只看算力,MCU/NPU 能跑多大模型只是其中一项,还要看功耗、内存、模型更新机制、异常情况下的降级策略。比如网络断了,本地还能不能继续做基础识别;模型判断不确定时,是报警、缓存还是交给云端二次确认,这些都影响产品体验。
我更看好云边协同:云端做训练和迭代,边缘端做实时推理和隐私数据处理。这样既能利用云端能力,也不会把所有压力都压到网络和服务器上。
|