使用ollama安装qwen3

ollama国内安装源

https://www.modelscope.cn/models/Lixiang/ollama-release

sudo apt update
sudo apt install -y zstd
wget https://www.modelscope.cn/models/Lixiang/ollama-release/file/view/v0.30.5/ollama-linux-amd64.tar.zst
# 解压
zstd -d ollama-linux-amd64.tar.zst -o ollama-linux-amd64.tar
sudo tar -C /usr/local -xvf ollama-linux-amd64.tar
​
# 验证
ollama --version

启动 ollama 服务

ollama serve &
​
#或者更规范地跑后台：
nohup ollama serve > ollama.log 2>&1 &

启动后默认监听 127.0.0.1:11434。

root@ubuntu2404:~#ss -ntlp|grep 11434
LISTEN 0      4096       127.0.0.1:11434      0.0.0.0:*    users:(("ollama",pid=1151,fd=4)) 

配成开机自启（systemd）

sudo tee /etc/systemd/system/ollama.service <<'EOF'
[Unit]
Description=Ollama
After=network.target
​
[Service]
Type=simple
User=root
ExecStart=/usr/local/bin/ollama serve
Restart=always
Environment="OLLAMA_HOST=0.0.0.0"
Environment="OLLAMA_CONTEXT_LENGTH=8192"
Environment="OLLAMA_KEEP_ALIVE=-1"
Environment="OLLAMA_NUM_THREADS=4"
[Install]
WantedBy=multi-user.target
EOF
​
sudo systemctl daemon-reload
sudo systemctl enable --now ollama

在魔塔搜索模型，使用ollama拉取

ollama pull modelscope.cn/unsloth/Qwen3-1.7B-GGUF
​
#起别名，之后就能用短名
ollama cp modelscope.cn/Qwen/Qwen3-1.7B-GGUF qwen3:1.7b
​
ollama run qwen3:1.7b

启动 Open WebUI

docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data \
  --name open-webui \
  --restart unless-stopped \
  ghcr.nju.edu.cn/open-webui/open-webui:main

验证 Ollama 能被容器访问

docker exec -it open-webui curl http://host.docker.internal:11434/api/tags

如果返回类似：

{"models":[...]}

说明 Open WebUI 容器已经能连通 Ollama。

浏览器访问：http://服务器IP:3000

首次进入会提示注册管理员账号，第一个注册的账号就是管理员。