在树莓派部署Open WebUI：搭建专属本地 AI服务器！

什么是 Open WebUI？

树莓派上运行的 Open WebUI，是当下备受欢迎的轻量化私密 AI 部署方案。它是一款开源网页应用，旨在为大语言模型（LLM）提供直观易用的图形交互界面。用户无需敲命令行指令，直接通过现代化浏览器聊天页面就能和 AI 对话交互。

Open WebUI 可对接多款 AI 后端引擎，支持聊天记录留存、多用户账号、文件上传、提示词管理与模型自由切换。它最常搭配 Ollama 一同使用，同时也能接入远程 API 以及其他兼容的推理程序。 该程序依托 Docker 容器运行，部署流程极简，后续版本更新维护也十分便捷。

为什么要在树莓派上搭建 Open WebUI？

树莓派非常适合打造低功耗本地 AI 服务器，能够在极小耗电量下离线运行各类 AI 程序。

本地部署 Open WebUI 具备多项核心优势：

所有对话数据仅在局域网内流转，隐私性强

无需支付任何订阅会员费用

整机功耗极低，适合 7×24 小时挂机

局域网内多台设备可同时接入使用这一套 AI 助手

断网环境下整套系统依旧可以正常工作

对于学生与开发人员而言，这也是学习容器技术、AI 模型部署、本地私有服务架构的低成本实操环境。

软硬件配置要求

想要获得流畅使用体验，优先选用8GB 内存版树莓派 5；树莓派 4 也可正常安装，但加载大参数量语言模型时速度会明显卡顿。

推荐硬件：

树莓派 5（首选 8GB 内存版本）

树莓派官方 USB-C 电源适配器

主动散热风扇或散热片

64GB 容量 Micro SD 存储卡或 USB 固态硬盘

千兆有线网口连接

必备软件：

64 位树莓派官方系统 Raspberry Pi OS

Docker 引擎

Docker Compose

Ollama 模型推理工具

Open WebUI 网页前端

安装前建议先将系统全部更新，规避依赖缺失报错问题。

树莓派端 Open WebUI 整体架构

在树莓派搭建本地大模型服务，整套系统由多个独立模块协同工作：

浏览器通过 HTTP 协议向 Open WebUI 发送对话请求；Open WebUI 将指令转发至 Ollama；Ollama 把选定的 AI 模型载入内存并生成回答内容，再原路回传给前端页面展示给用户。

树莓派安装 Docker

完整图文教程参考：

https://www.sunfounder.com/blogs/news/raspberry-pi-docker-from-installation-to-advanced-usage-and-troubleshooting

1.在设置Docker Open WebUI之前，先从更新Raspberry Pi OS开始。

sudo apt updatesudo apt upgrade -y

在安装Docker之前，您可以按照这个详细的 Raspberry Pi Docker 指南进行安装、优化和故障排除。

https://www.sunfounder.com/blogs/news/raspberry-pi-docker-from-installation-to-advanced-usage-and-troubleshooting

2.执行官方一键脚本安装 Docker

curl -fsSL https://get.docker.com | sh

3.将当前用户加入 Docker 用户组，免 sudo 执行 docker 命令

sudo usermod -aG docker $USER

4.重启树莓派使配置生效，重启后验证 Docker 安装

docker --version

至此 Docker 环境部署完成，可用来承载 Open WebUI 容器。

树莓派安装 Ollama

Ollama 负责承载、运行各类大语言模型，是整套服务的推理核心。

执行官方脚本一键安装：

curl -fsSL https://ollama.com/install.sh | sh

安装完成后拉取第一个 AI 模型示例：

ollama pull phi3:mini

或者

ollama pull tinyllama

运行模型测试是否可用：

ollama run tinyllama

终端内可以正常问答即代表 Ollama 部署成功。

用Docker安装Open WebUI

如果想在Raspberry Pi上快速安装Open WebUI，最简单的方法就是使用一个Docker命令。

docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui --network=host --restart always ghcr.io/open-webui/open-webui:main

Docker 会自动拉取镜像并后台启动容器，最新镜像可查看 Open WebUI 官方 GitHub 仓库。

https://github.com/open-webui/open-webui

打开浏览器访问：http://树莓派IP地址:3000，即可进入初始化配置页面。

使用Docker Compose安装Open WebUI

services:  open-webui:    image: ghcr.io/open-webui/open-webui:main    container_name: open-webui    restart: unless-stopped    ports:      - "3000:8080"    volumes:      - open-webui:/app/backend/data volumes:  open-webui: Save the file as:docker-compose.yml Start the container:docker compose up -d

查看容器运行状态：

docker ps

同样访问 http://RaspberryPi-IP:3000 进入初始化界面。

Docker Compose 适合在同一台树莓派同时管理 Open WebUI、Ollama、智能家居系统 Home Assistant 等多个自建服务。

Open WebUI 对接本地 Ollama

Ollama 与 Open WebUI 部署在同一台树莓派时配置十分简单：

进入 Open WebUI 后台管理面板，找到 AI 后端设置项

填写 Ollama 本地服务地址：

http://localhost:11434

保存配置。网页端会自动识别 Ollama 已下载的所有模型，完成绑定。

若模型列表为空，先确认 Ollama 服务正在运行：

systemctl status ollama

或者

ollama list

从其他设备访问Open WebUI

服务启动后，局域网内所有设备均可通过浏览器访问，访问格式：

http://raspberry_pi:3000

手机、平板、电脑连接同一 WiFi 或局域网就能使用，把树莓派变成一台随身本地 AI 对话服务器。

建议给树莓派设置静态 IP，避免设备重启后 IP 变动导致地址失效。

进阶可配置 Nginx、Caddy 反向代理，开启 HTTPS 加密访问并绑定自定义域名实现外网访问。

适配树莓派的优选 AI 模型

树莓派硬件算力有限，更适合参数量精简的量化小模型，以下为 Ollama 官方库适配推荐：

参数量 7B 及以上大模型内存占用极高、回复速度极慢，不推荐使用；量化压缩版模型能在推理速度与回答质量之间取得最优平衡。

树莓派 5 实际运行性能参考

树莓派 5 相较前代性能大幅提升，但依旧仅依靠 CPU 运算，无独立显卡加速，实测生成速度如下：

实际表现受内存大小、固态硬盘读写速度、散热条件、模型量化精度影响。

适合个人助手问答

简短代码编写

文档摘要归纳

不要对标台式机独显显卡的推理速度，它的核心定位是 7×24 小时常驻低功耗 AI 主机。

典型实用场景

整套私有化 AI 服务器全程数据本地运算，敏感信息不会上传外网，可用于：

撰写邮件、工作报告文案

编程问题答疑、代码辅助编写

解析 Linux 终端命令用法

联动 Home Assistant 智能家居自动化场景

私密笔记内容总结梳理

课业学习辅导答疑

本地文档批量检索与解读

因为一切都在本地运行，敏感信息永远不会离开网络。

建立一个完整的本地人工智能服务器

Open WebUI 可作为树莓派自建服务集群的一环，搭配多款自托管工具打造个人私有云。许多用户将其与其他自托管服务相结合，类似于构建一个完整的Raspberry Pi家庭自动化服务器。

Home Assistant：全屋智能家居自动化

Node-RED：可视化流程自动化编排

Immich：私人相册图片备份管理

WireGuard VPN：加密外网远程内网访问

多款服务共同部署后，树莓派即可变身一台轻量化个人私有云主机。

安全部署规范

即便仅在内网家庭环境使用，基础安全配置仍不可忽略：

首次登录务必设置高强度管理员账号密码

关闭不必要的端口映射，减少暴露面

如需外网访问网页端，强制开启 HTTPS 加密

定期拉取更新 Docker 镜像版本

升级服务前备份 Open WebUI 数据存储卷

若需要外网远程使用，优先搭建 VPN 通道接入内网，而非直接把网页端口暴露在公网。

常见问题排查

网页打不开：查看 Docker 容器是否正常运行

docker ps

模型列表空白：确认 Ollama 服务正常运行并已拉取模型文件

ollama list

AI 回复卡顿缓慢：更换更小参数量模型，关闭树莓派后台多余程序

Docker 提示端口占用：修改映射端口，例如将配置改为 "3001:8080"

- "3001:8080"

定位报错详情：查看容器运行日志

docker logs open-webui

绝大多数安装故障都可以通过核查容器状态、剩余内存、Ollama 连接状态解决。

树莓派提供了一个不依赖云服务托管自己智能助手的实用平台。

结语

将 Open WebUI 搭配 Ollama 部署在树莓派上，是本地私有化 AI 落地性价比极高的方案。无论是搭建私密 AI 问答服务、编程辅助工具、文档总结工具，这套方案都具备极强灵活性。依托 Docker 实现一键部署，浏览器可视化界面大幅降低了本地大模型的使用门槛。

树莓派 5 虽然无法媲美台式独立显卡的推理性能，但完全足以流畅运行 TinyLlama、通义千问 1.5B、Gemma 2B、Phi-3 Mini 这类轻量模型，满足日常绝大多数使用需求。不管是作为私人 AI 助手、编程辅助工具，还是个人自建服务器实验室的组成部分，Open WebUI 都能提供简单易用、自由度高的解决方案。

随着本地端人工智能生态不断普及，树莓派凭借低廉的成本与易用性，依旧是普通用户居家学习 AI 部署、调试自研智能应用最亲民的硬件平台。