打印

能跑大模型的开发板推荐

[复制链接]
9876|9
手机看帖
扫描二维码
随时随地手机跟帖
跳转到指定楼层
楼主
最近学习了大模型相关的课程,想做一款智能硬件设备,想问大家有没有带npu的开发板推荐,要能在硬件上跑轻量大模型,尺寸尽可能小一点的。

使用特权

评论回复

相关帖子

沙发
天意无罪| | 2024-7-3 21:54 | 只看该作者
国外的可以了解英伟达的,国产的可以了解一下华为的昇腾处理器系列。

使用特权

评论回复
板凳
我滴神啊| | 2024-7-4 14:25 | 只看该作者

使用特权

评论回复
地板
Iceneko|  楼主 | 2024-7-4 14:51 | 只看该作者
天意无罪 发表于 2024-7-3 21:54
国外的可以了解英伟达的,国产的可以了解一下华为的昇腾处理器系列。

好的谢谢,我去了解一下英伟达的,昇腾系列的板子性能很好,价格略高,尺寸也相对大了,我想做的是智能眼镜这方面的

使用特权

评论回复
5
Iceneko|  楼主 | 2024-7-4 14:52 | 只看该作者

好的谢谢,我去了解一下

使用特权

评论回复
6
天意无罪| | 2024-7-6 09:29 | 只看该作者
Iceneko 发表于 2024-7-4 14:51
好的谢谢,我去了解一下英伟达的,昇腾系列的板子性能很好,价格略高,尺寸也相对大了,我想做的是智能眼 ...

是智能VR头盔还是眼镜哦?如果是眼镜英伟达的芯片尺寸和功耗你hold得住?

使用特权

评论回复
7
Iceneko|  楼主 | 2024-7-6 19:08 | 只看该作者
天意无罪 发表于 2024-7-6 09:29
是智能VR头盔还是眼镜哦?如果是眼镜英伟达的芯片尺寸和功耗你hold得住? ...

想做一款智能眼镜类似meta rayban眼镜,但现在好像市面上似乎还没有这种产品,可能没有适合产品需求的芯片?

使用特权

评论回复
8
天意无罪| | 2024-7-7 17:29 | 只看该作者
Iceneko 发表于 2024-7-6 19:08
想做一款智能眼镜类似meta rayban眼镜,但现在好像市面上似乎还没有这种产品,可能没有适合产品需求的芯 ...

像meta rayban这种智能眼镜一般都是专用设计芯片,都是客制化定制的。

使用特权

评论回复
9
Iceneko|  楼主 | 2024-7-8 20:29 | 只看该作者
天意无罪 发表于 2024-7-7 17:29
像meta rayban这种智能眼镜一般都是专用设计芯片,都是客制化定制的。

是的,我们端侧跑了一下自己部署的大模型,效果也不是很好,估计可能还是要用蓝牙或者wifi模块跟手机相连,在云端去完成任务再返回,而且考虑眼镜产品质量功耗发热这些问题,只把眼镜当做一个信息接收传递工具吧。

使用特权

评论回复
10
ListenAI| | 2024-9-6 11:46 | 只看该作者

能跑大模型的开发板推荐

可以考虑直接接云端的大模型,这样开发量更小,时间和成本也容易控制,信息参考:https://bbs.21ic.com/icview-3399072-1-1.html

使用特权

评论回复
发新帖 我要提问
您需要登录后才可以回帖 登录 | 注册

本版积分规则

1

主题

5

帖子

0

粉丝