【AIMB-2210研华AMD嵌入式主板】AI语言大模型部署
# 【AIMB-2210研华AMD嵌入式主板】AI语言大模型部署本文介绍了 AIMB-2210 研华 AMD 嵌入式主板通过 Ollama 工具实现 DeepSeek 大模型的本地部署。
## 项目介绍
AI 语言大模型的本地部署，即模型部署在自己的本地服务器或计算机上，而不依赖于外部云服务。
该方案的优点是在私有环境中运行 AI 语言大模型，大幅提升数据隐私和操作灵活性。
!(https://www.eefocus.com/forum/data/attachment/forum/202509/25/183600ti68i625wcuc4tkc.jpg)
- **更高的数据安全性**：数据保存在个人硬盘，无需担心云端泄露风险；
- **完全掌控**：可以个性化定制和优化系统，随时调整 DeepSeek 的配置，根据需求进行操作；
- **独立运行**：不依赖外部网络环境，减少了系统故障和外部攻击的风险；
- **灵活扩展**：可以根据需要升级硬件或修改部署配置。
根据硬件参数，这里选择 (https://ollama.com/library/deepseek-r1:1.5b) 大模型进行部署。
!(https://www.eefocus.com/forum/data/attachment/forum/202509/25/183612n6xb0fv2ucq1q21v.jpg)
## 模型部署
- 下载并安装 (https://ollama.com/) ；
!(https://www.eefocus.com/forum/data/attachment/forum/202509/25/183622mzaohx0zpxslcnss.jpg)
- 搜索 (https://ollama.com/library/deepseek-r1) ，找到目标部署模型
!(https://www.eefocus.com/forum/data/attachment/forum/202509/25/183633dssjojkwwqkvvbb8.jpg)
- 复制对应的链接
!(https://www.eefocus.com/forum/data/attachment/forum/202509/25/183647mgf6an68e1aa8ue3.jpg)
- 打开终端命令行，执行下载、安装和运行指令
```bash
ollama run deepseek-r1:1.5b
```
- 安装完成，提示输入问题
!(https://www.eefocus.com/forum/data/attachment/forum/202509/25/183701siiqmpqqio5cemo9.jpg)
## 模型测试
包括终端对话测试和可视化界面的对话测试。
### 终端测试
- 使用 Ollama 应用界面进行对话测试（注意选择前面部署至本地的模型）
!(https://www.eefocus.com/forum/data/attachment/forum/202509/25/183718lzpigvousvthgora.jpg)
- 在终端运行本地模型，并进行对话测试
!(https://www.eefocus.com/forum/data/attachment/forum/202509/25/183732w2veeb58zvb2xdv2.jpg)
### 界面可视化
前面使用终端对话的方案无法友好地显示输出的MarkDown文本格式，因此这里采用浏览器插件的方式，获得可视化的 AI 语音大模型对话解决方案。
- 打开浏览器，搜索插件 `Page Assist` 并安装；
- 点击插件并打开对应网页；
- 选择目标大模型，如 deepseek-r1:1.5b，即可开始对话
!(https://www.eefocus.com/forum/data/attachment/forum/202509/25/183745xttz48p3454mnn3z.jpg)
可见 AI 生成的回答包含文本和公式的格式，排版相较于终端对话的方案更加美观。
## 总结
本文介绍了 AIMB-2210 研华 AMD 嵌入式主板通过 Ollama 工具实现 DeepSeek 大模型的本地部署，为相关产品在 AI 语言大模型开发领域的快速设计和应用提供了参考。
页:
[1]