深圳做夜场做网站,前端怎么在猪八戒网站接单做,企业网络推广平台,做汽配外贸哪个网站【ChatGLM2-6B】小白入门及Docker下部署 前提下载安装包网盘地址 开始安装加载镜像启动镜像进入容器启动模型交互页面访问页面地址 前提
安装好了docker安装好了NVIDIA显卡16G
下载安装包
网盘地址
这里因为网盘上传文件有大小限制#xff0c;所以使用了分卷压缩的方式… 【ChatGLM2-6B】小白入门及Docker下部署 前提下载安装包网盘地址 开始安装加载镜像启动镜像进入容器启动模型交互页面访问页面地址 前提
安装好了docker安装好了NVIDIA显卡16G
下载安装包
网盘地址
这里因为网盘上传文件有大小限制所以使用了分卷压缩的方式进行了上传全部下载下来就可以。
链接https://pan.baidu.com/s/1wY3QqaWrMyBR39d2ZhN_Kg?pwd9zdd
提取码9zdd将下载好的镜像文件和代码模型文件上传到服务器上并进行解压然后在该目录进行操作。
开始安装
加载镜像
docker load -i chatglm3-6b.tar启动镜像
docker run -itd --name chatglm3 -v pwd/ChatGLM3:/data \
--gpusall -e NVIDIA_DRIVER_CAPABILITIEScompute,utility -e NVIDIA_VISIBLE_DEVICESall \
-p 8501:8501 -p 8000:8000 chatglm3-6b:1.1进入容器
docker exec -it chatglm3 bash启动模型交互页面
cd /data
streamlit run basic_demo/web_demo2.py访问页面地址
http://10.22.2.18:8501/
