docker安装ollama可视化

ollama可视化在github文档下面有很多种，本文使用的是比较活跃的open-webui

官方文档：https://github.com/open-webui/open-webui

快速入门文档：https://docs.openwebui.com/getting-started/quick-start/

一、拉取镜像

1.1 拉取无需显卡的镜像

docker pull ghcr.io/open-webui/open-webui:main

1.2 拉取有显卡的镜像

docker pull ghcr.io/open-webui/open-webui:cuda

二、运行容器

**注意：**如果是离线部署，增加变量 -e HF_HUB_OFFLINE=1

三、本机装有ollama容器（windows）

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -v /etc/localtime:/etc/localtime --name open-webui --restart always ghcr.io/open-webui/open-webui:main

四、连接外部ollama容器（通用）

如果是本机，也可以使用

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://ollama:11434 -v open-webui:/app/backend/data -v /etc/localtime:/etc/localtime --name open-webui --restart always ghcr.io/open-webui/open-webui:main

4.1 要运行支持 Nvidia的容器

docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data -v /etc/localtime:/etc/localtime --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

4.2 仅供 OpenAI API的容器

docker run -d -p 3000:8080 -e OPENAI_API_KEY=your_secret_key -v open-webui:/app/backend/data -v /etc/localtime:/etc/localtime --name open-webui --restart always ghcr.io/open-webui/open-webui:main

4.3 安装附带 Ollama支持的Open WebUI

此安装方法使用将 Open WebUI 与 Ollama 捆绑在一起的单个容器映像，从而允许通过单个命令进行简化设置。根据您的硬件设置选择适当的命令：

使用 GPU 支持

docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data -v /etc/localtime:/etc/localtime --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

仅适用于 CPU

docker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data -v /etc/localtime:/etc/localtime --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

五、访问web

通过http://example.com:3000访问 Open WebUI，设置管理员信息即可使用。