21ic电子技术开发论坛»论坛首页 › 单片机与嵌入式系统 › 灵动MM32 MCU › 从部署、训练到应用，DeepSeek帮你实现基于MM32自动生成 ...
返回列表 发新帖我要提问

[MM32生态] 从部署、训练到应用，DeepSeek帮你实现基于MM32自动生成代码

[复制链接]
 楼主| 发表于 2025-2-10 13:09 | 显示全部楼层 |阅读模式
MM32, DeepSeek, Chatbox, CherryAnythingLLM
本帖最后由 xld0932 于 2025-2-10 13:18 编辑

#申请原创#   @21小跑堂

1.前言
2.安装Ollama
3.部署DeepSeek模型
4.部署nomic-embed-text嵌入式模型
5.安装Chatbox AI
6.安装Cherry Studio
7.通过Cherry Studio训练本地知识库
8.安装AnythingLLM，对知识库进行训练
9.使用DeepSeek基于MM32自动生成代码
10.感受

1.前言
DeepSeek当前服务器资源紧张，很多时候问题问着问着，就提示服务器没反应了。有很多小伙伴就想在地本部署DeepSeek，训练自己的知识库；当然这样做有利有弊，通通过DeepSeek-R1的输出，蒸馏了6个小模型开源给社区，根据部署的DeepSeek模型，需要有对应的硬件配置做保障，就是说不同的模型需要有匹配的硬件资源才可以正常的运行；本地部署的DeepSeek可以使用本地的知识库，可以保护自己的资料不被外泄。下面我们就详细介绍从环境搭建到模型运行，从训练知识库到让DeepSeek实现基于MM32自动生成代码，熟悉AI的强大功能。

2.安装Ollama

2.1.到Ollama官网（https://ollama.com）下载Ollama
1.png

2.2.双击OllamaSetup.exe，安装Ollama软件，选择默认安装选项，具体步骤如下所示：
2.png 3.png

2.3.等待安装完成，就会弹出如下的命令窗口，在窗口界面尝试输入ollama命令，就会输出对应的提示信息：
4.png 5.png

3.部署DeepSeek模型

3.1.在Ollama官网的Models栏中（https://ollama.com/search），找到deepseek-r1，选择1.5b的版本（这个版本对电脑的要求是最低的）
6.png

3.2.使用快捷键WIN+R，打开运行窗口，输入cmd并确定
7.png

3.3.在弹出的窗口中，输入ollama run deepseek-r1:1.5b这个命令，第一次运行，如果没有部署过deepseek，它会自动下载并部署；等待下载和部署完成：
8.png 9.png

3.4.在DeepSeek部署完成后，我们就可以直接在这个窗口中本地和DeepSeek进行交互了；但这个界面并不是太友好，下面会跟大家分享2个桌面应用软件
10.png

4.部署nomic-embed-text嵌入式模型
这个模型是在后面的本地知识库做数据投喂中使用的

4.1.在Ollama官网的Models栏中（https://ollama.com/search），找到nomic-embed-text
11.png

4.2.使用快捷键WIN+R，打开运行窗口，输入cmd并确定

4.3.在弹出的窗口中，输入ollama pull nomic-embed-text这个命令，它会自动下载并部署；等待下载和部署完成就可以了：
12.png 13.png

5.安装Chatbox AI
Chatbox AI是一款AI客户端应用和智能助手，支持众多先进的AI模型和API，可以在Windows、MacOS、Android、iOS、Linux和网页版上使用。

5.1.到Chatbox AI官网（https://chatboxai.app/zh），下载Chatbox AI
1.png

5.2.双击Chatbox-1.9.8-Setup.exe，安装Chatbox AI软件，选择默认安装选项，具体步骤如下所示：
2.png 3.png 4.png 5.png

5.3.在第一次运行的时候，会弹出如下对话框，我们选择使用自己的API Key或本地模型
6.png

5.4.在选择模型时，我们选择本地模型Ollama API，并在弹出的设置窗口中，使用默认配置即可，点击保存
7.png 8.png

5.5.这时我们就可以使用本地部署的DeepSeek进行交流了
9.png

5.6.当然通过Chatbox AI软件也可以通过调用API Key的方式与DeepSeek服务器进行访问连接；只需要点击软件界面左下角的设置，在弹出的设置界面输入在DeepSeek创建的API key就可以了
10.png

5.7.这个时候再返回Chatbox AI聊天，就是与DeepSeek服务器之间进行交互了
11.png

6.安装Cherry Studio
Cherry Studio是一个支持多模型服务的桌面客户端，为专业用户而打造，内置30多个行业的智能助手，帮助用户在多场景下提升工作效率。

6.1.到Cherry Studio官网（https://cherry-ai.com），下载Cherry Studio
1.png 2.png

6.2.双击Cherry-Studio-0.9.19-setup.exe，安装Cherry Studio软件，选择默认安装选项，具体步骤如下所示：
3.png 4.png 5.png 6.png

6.3.点击Cherry Studio软件右下角的配置图标，配置Ollama调用本地的DeepSeek
7.png

6.4.点击Cherry Studio软件右下角的配置图标，配置联网与DeepSeek服务器进行交互
8.png

6.5.返回到聊天界面，我们可以点击Cherry Studio软件顶端来切换模型，个人感觉这个是比Chatbox AI软件方便的一个地方
9.png

6.6.我们先切换到本地DeepSeek测试一下
10.png

6.7.我们在切换到与DeekSeek服务器测试一下
11.png

7.通过Cherry Studio训练本地知识库

7.1.点击Cherry Studio软件右侧的知识库图标，在知识库界面，点击添加图标，在弹出的窗口中输入知识库名称，选择嵌入模型
12.png

7.2.知识库添加完成后显示如下
13.png

7.3.此时，我们添加一个网址看一下效果
14.png 15.png

7.4.当然我们还可以把我们的文档、资料都添加到这个知识库里，这样就创建本地的私有知识库了，通过DeepSeek模型可以检索这个知识库，实现交互。

8.安装AnythingLLM

8.1.到AnythingLLM官网（https://anythingllm.com），下载AnythingLLM
1.png

8.2.双击AnythingLLMDesktop.exe，安装AnythingLLM软件，选择默认安装选项，具体步骤如下所示：
2.png 3.png 4.png 5.png 6.png

8.3.第一次启动AnythingLLM，会有一个运行向导，我们点击Get Started后，所有配置项选择默认的即可，如下所示：
7.png 8.png 9.png 10.png 11.png

8.4.最后一步我们创建一个工作区，就进入到了AnythingLLM主界面
12.png 13.png

8.5.点击AnythingLLM左下角的Open settings图标，先对AnythingLLM软件进行前期的配置
14.png 15.png 16.png 17.png

8.6.点击知识旁边的设置图标，对知识库进行配置
18.png 19.png 20.png

8.7.这个时候我们就可以通过本地的DeepSeek大语言模型检测本地的嵌入式知识库进行交互了
21.png

8.8.点击知识旁边的上传图标，对知识库进行训练
22.png 23.png

9.使用DeepSeek基于MM32自动生成代码
根据与DeepSeek的交流，依次给DeepSeek发送3条指令，如下：
  • 基于MM32F0140芯片，帮我编写一个控制LED灯闪烁的程序，LED灯控制引脚为PA15
  • 使用库函数的形式进行编程，不要使用寄存器的方式
  • 延时函数使用SysTick实现

DeepSeek的答复如下所示：
1.png 2.png 3.png 4.png 5.png 6.png 7.png 8.png


10.感受
在学习和使用的过程中，感受到了DeepSeek的强大，感受到了AI的智能和趋势。上面分享了一些学习过程中的部署环境和软件，自己还是更喜欢使用Cherry Studio这个软件，操作方便快捷。同时对于本地部署DeepSeek，在响应速度上要比服务器快上很多；本地知识库的训练丰富程度也影响了DeepSeek是否更智能化的理解你想表达的意思或需求，而且本地知识的训练需要大量的投喂，所以我个人还是喜欢服务器版本的服务……




回复

举报

点评

21小跑堂
部署本地DeepSeek，使用AI实现生产力的大幅提升。通过详细的部署、训练和应用，实现基于MM32的代码自动生成。作者描述十分详细，无论是环境的部署还是数据的投喂均做到了手把手教学，最终实现的效果也很好，体现了AI的强大和便捷。  发表于 2025-2-13 11:34

相关帖子
发表于 2025-2-11 22:06 来自手机 | 显示全部楼层
介绍的很详细，点赞
回复

举报

发表于 2025-2-11 22:08 来自手机 | 显示全部楼层
个人感觉对于有些用户，需要更具时效性的数据，这时候就不得不结合本地部署了
回复

举报

发表于 2025-2-13 16:28 | 显示全部楼层
介绍的非常详细，做常识性了解一下。
回复

举报

 楼主| 发表于 2025-2-13 17:46 | 显示全部楼层
芯领域电子科技 发表于 2025-2-11 22:08
个人感觉对于有些用户，需要更具时效性的数据，这时候就不得不结合本地部署了 ...

回复

举报

发表于 2025-2-14 19:20 | 显示全部楼层
本帖最后由 e_007 于 2025-2-14 19:59 编辑

AI

回复

举报

发表于 2025-2-16 17:42 | 显示全部楼层
一般人用用在线版就行了，我这用了十几年的电脑应该是带不动。
回复

举报

发表于 2025-2-17 12:20 | 显示全部楼层
deepseek在线版最大的问题就是老是提示服务器忙
回复

举报

发表于 2025-2-19 10:05 | 显示全部楼层
作为一个技术，用着14年的电脑非常的糟心，完全跟不上技术的发展
回复

举报

发表于 2025-2-19 19:52 来自手机 | 显示全部楼层
deepseek的火感觉在于它的开源策略，试用了一下推理结果感觉一般。
回复

举报

发表于 2025-2-20 08:12 | 显示全部楼层
不明觉厉，果断收藏！
回复

举报

发表于 2025-2-20 22:46 | 显示全部楼层
这要安装多少APP才行，硬盘需要多大？
回复

举报

发表于 2025-2-25 08:19 | 显示全部楼层
期待基于嵌入式硬件的边缘AI应用的更多教程
回复

举报

发表于 2025-2-25 09:00 来自手机 | 显示全部楼层
AI时代，利用好AI工具为自己的生产效率赋能。
回复

举报

返回列表 发新帖
高级模式
B Color Image Link Quote Code Smilies
您需要登录后才可以回帖 登录 | 注册

本版积分规则

xld0932 Image
个人签名：King.Xu

77

主题

3023

帖子

38

粉丝
快速回复 返回顶部 返回列表