这两年AI大火,尤其是今年DeepSeek相信很多人都体验过了,不过现在API服务充值都暂停了,手机app我偶尔试试,也经常是服务器繁忙请稍后再试,于是我就尝试体验硅基流动x华为云联合推出基于昇腾云的 eepSeek R1&V3推理服务,本文记录下来给大家参考。
赵容部落主要分享VPS/服务器相关,所以这里我就以Open-WebUI网页版客户端通过硅基流动API使用DeepSeek模型。
注册和获取硅基流动API
首先注册硅基流动:https://cloud.siliconflow.cn/i/aBqtLrTg
注册可以获得2000万 Tokens(平台到账余额14元),注册后点击API密钥,新建API密钥,并且将密钥保存下来,后面要用到。
硅基流动(siliconflow.cn)提供了大量的模型,除了收费模型外,还有很多免费模型也挺好玩,具体可以在模型广场中查看。
安装Open WebUI
Open WebUI有几种安装方式,包括Docker、Python等等,这里我们用Docker快速部署。
本文在Debian12系统+Docker部署,关于Debian12安装Docker请参考:https://www.zrblog.net/36010.html
Docker安装Open WebUI参考:https://github.com/open-webui/open-webui
登录服务器,执行下面的命令:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
耐心等待下载并完成,通过docker ps也可以查看正在运行的容器。
root@rong-zrblog:~# docker ps CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES db*******762 ghcr.io/open-webui/open-webui:main "bash start.sh" 3 hours ago Up 3 hours (healthy) 0.0.0.0:3000->8080/tcp, [::]:3000->8080/tcp open-webui
完成后在浏览器通过http://IP:3000访问网页
部署DeepSeek
首次访问Open WebUI设定登录用户名,密码和填入电子邮箱,创建管理员账号,然后登录到网页版,点击设置,管理员面板设置,外部连接添加我们在硅基流动的API
这里我们可以添加模型ID,ID我们可以在硅基流动模型广场中点击相应模型复制即可,这里留空也行,空着默认包含所有模型(硅基流动模型非常多,建议还是复制几个常用的加进来),后面我们到对话页面去选择模型就可以了。
最后,如果你准备一直用,觉得IP+端口不好记的话,可以装个nginx,然后搞个域名反代就可以了。