不知道发在哪个板块,就丢在这里吧。
我之前做了十多年单片机软硬件开发,前年年底开始想转行了,起码要转一个未来十年的朝阳行业,就选了AI赛道,咱们论坛搞单片机得多,
搞linux的soc的比例比较小,很多人对AI的发展行情,特别是国内的相关产业发展情况不了解。刚好昨天碰到有坛友咨询相关问题,干脆就把我知
道的一些信息这里给大家分享一下。
AI的模型可以跑在CPU也可以跑在GPU,模型内部的计算几乎都是大量矩阵运算,特别适合能进行并行计算的硬件,所以体现出来的结果就是
同样的模型,跑在GPU上速度要比CPU快很多很多倍!GPU运算又有个缺点,你要不要配电脑?要不要买显卡?都是贵重东西不说,还在能耗和体积
上无法满足要求,所以最近三四年开始出现了NPU,就是一种有并行运算硬件的加强单片机。今天要说的就是这个主角。我们不提寒武纪或者其他面向
商业公司的芯片,哪种芯片,我也没用过。这里只说一般散客可以拿到的芯片。
我最早接触的就是K210芯片,当时应该是唯一一款个人玩家可以买到的带NPU的芯片,价格也不贵。如今我还看到论坛里只有有人咨询跑模型的芯片,
就有人推荐这款。千万别再打K210的主意了,已经“停产”状态了,售价翻了好多倍,这不是49年入国军么。就像一有人咨询摄像头型号,就有人
推荐OV2640,这玩意都停产多少年了,都是拆机料在流通,自己玩玩可以,想量产,自己评估风险。K210应该是国内里程碑式的芯片,打开了一个
新**。提供了rtos和裸机开发sdk,能跑一些经过极度精简优化的模型,可以人脸识别,人形识别或者物体分类,受限于内存,没法运行更大的模型。
但毋庸置疑的是,它是国内的DIY玩家的开山鼻祖。
然后受他启发,国内其他公司也开始躁动了。全志推出了V831,cortex A7 + 64M内存 + 0.2T的NPU,跑Linux系统。一下子就把性能门槛来起来了,感谢国内sipeed团队,完成了把模型调用的代码封装成python,让没有基础的玩家,根据教程也能感受一下人脸识别,物品分类,用他家的python就能完成不少diy项目了。我买过这家的开发板,当然他家的k210开发板我也买了,表示对推动AI普及教育的支持。
同时期瑞芯微的3399pro应该是旗舰机了,4核心A72 + 3TNPU,不过价格也是高高在上,发热也大,一般项目都用不起,比较实惠的开发板有ROCK PI N10,我买的时候不到1000。还有RK1808之类的,这时候瑞星微都还是用的上海芯原的IP来做的NPU。
后面瑞星微就出了低价的RV1126 1109,分别是2T和1.2T的算力,我买了1126的开发板回来测试,yolo跑识别,416*416输入,150ms左右一帧。1109系列已经是价格比较实惠的了,最低4美金就可以了,不过需要外挂ddr。这时候还是用的芯原的NPU。
君正也表示躁动,推出了T40系列,号称8T算力,额,我没用过,但是朋友公司用起来,测试表示也就比1126强一点。但是君正确实是一家有技术情怀的公司,坚决不走arm路线,低功耗是他的强项,比前面提到的都强一些。内置了128M内存的版本,6美金左右。
今年可就热闹了,因为我最看好的低算力的芯片爆发式出现。瑞芯微推出1106(128M内存)/1103(64M内存)内置1T和0.5T,内置DDR,体积又小,功能不少。全志也推出下一代V853 V851.这两个对手的性能几乎一模一样,不过这一代瑞星为一已经开始改用自研NPU了,目前对sdk管控很严,样品也还没大规模送测,1103价格低于三美金,好事情。全志V853很开放,用了芯原的IP,本月月底会开放SDK,这下热闹了,散户玩家可以欢呼了。两家定价也差不多,851定价也低于3美金。
更不用提今年的绝对性能TOP1 RK3588,除了高通的一些手机上用的芯片比这个高端,应该是没其他对手了,在国内更是一骑绝尘,6T算力,我们现在拿了这个芯片在做一些多机位的直播设备,同时利用它的高算力NPU做背景抠图,唯一缺点就是贵,目前拿货价300多。
最后打个小广告,有需求,找我们,专业的准没错!
深圳原数科技提供嵌入式软硬件、服务器、APP、代工生产一站式服务,对国产MCU和SOC有丰富开发经验,特别是在低成本的wifi图传和AI视觉识别领域有成熟产品线。公司推出人形追踪云台、虚拟背景直播一体机等落地产品,欢迎联系咨询,李生13686461548微信同号,www.atom-math.com
|