DEEPSEEK部署

Deepseek部署
  1. 硬件需求:
notion image
  1. 软件依赖
  1. 下载安装完成,管理员身份打开power shell,
  1. 查看版本
notion image
  1. 执行命令拉去模型:ollama run deepseek-r1:1.5b, 或者通过网页search:
notion image
  1. 可以cmd里对话
  1. 安装docker,确保cpu虚拟化开启
  1. 程序: “启用或关闭 Windows 功能”,勾选 “Hyper-V 管理工具” 和 “Hyper-V 平台”
notion image
notion image
  1. 以管理员身份打开命令行窗口,输入 “wsl --set-default-version 2”,将默认设置为 WSL 2
 
  1. 命令行窗口,输入 “wsl --update --web-download”,更新安装 wsl。
notion image
  1. docker version
notion image
  1. run docker:
notion image
  1. 安装open web UI:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
上面命令超时,下面这个可以用
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main
notion image