发布一下我之前做的一个本地大模型部署,不需要API key,但要有自己的账号

利用Docker 的Pandora做本地ChatGPT模型部署

先下载安装Docker,设置好运行如下

会要求升级核心,cmd运行如下命令就OK

安装Pandora

再管理员cmd中输入如下命令拉取Pandora镜像

docker pull pengzhile/pandora

创建容器

docker run  -e PANDORA_CLOUD=cloud -e PANDORA_SERVER=0.0.0.0:8899 -p 8899:8899 -d pengzhile/pandora

运行访问

从DockerDesktop查看运行成功后,进入如下页面访问

http://127.0.0.1:8899

出现如下画面,访问成功

之后需要有自己又的 AccessToken,自己折腾一下网络…,就可以很长一段时间使用了.