deepseek

一、创建实例

1. 进入官网选择实例，这里以4090D为例

2. 根据需求选择地区、计费方式和租赁GPU数量，镜像内置（1.5b,7b,8b,14b,32b）可供选择

3. 选择镜像

4. 立即创建

5. 等待创建完成就可以使用了

二、使用实例

1. 使用webui，镜像内置了open-webui，可以直接进行聊天交流

   • 点击webui

   

   • 点击之后会弹出一个新页面，请耐心等待2-3分钟，程序正在部署中

   

   • 进入页面，点击开始使用，然后注册账号

   

   • 就可以进行沟通对话交流了

   

2. 使用ollama API,复制ollama 链接

三、进阶

1. 如果需要使用70B的模型

   • 请在创建的时候选选择合适的显卡保证显存不下于40G，（举例：4090D*2 ，4080Super*2）,然后剩余创建实例步骤相同。

   

   • 进入jupyterLab, 修改 /root/gpuez/scripts/start.sh

   

   

   

   • 进入启动页选择CMD

   

   

   • 输入命令

   rm -rf /root/zscloud-tmp/models/* && rsync -av --inplace /root/zscloud-pub/models/deepseek-r1/70b/* /root/zscloud-tmp/models/

   • 重启ollama

   

2. 如果需要使用671B的模型，请联系客服