AutoDL部署大模型dots.ocr 📅 发布时间:2026/8/29 4:19:04 👁 浏览次数: 一.AutoDL网址https://www.autodl.com帮助文档https://www.autodl.com/docs/ssh_proxy/二.模型部署dots-studio/dots.ocr部署模型地址https://modelscope.cn/models/dots-studio/dots.ocr1.开机算力云服务器实例2.本地登录算力云服务器ssh -p 39571 rootconnect.cqa1.seetacloud.com3.登录成功后建立隧道登录成功后再建隧道在本机新开一个终端ssh -CNg -L 6006:127.0.0.1:6006 -p 39571 rootconnect.cqa1.seetacloud.com输入 AutoDL 给的 root 密码 后终端会停住不动——这是正常的。4.启动服务export hf_model_path/root/autodl-tmp/models/DotsOCR export PYTHONPATH/root/autodl-tmp/models:$PYTHONPATHexport LD_LIBRARY_PATH/root/autodl-tmp/my_envs/my_ocr/lib${LD_LIBRARY_PATH::$LD_LIBRARY_PATH}vllm serve ${hf_model_path}\--tensor-parallel-size 1 \--gpu-memory-utilization 0.85 \--max-model-len 8192 \--chat-template-content-format string \--served-model-name dots_ocr \--port 6006 \--trust-remote-code浏览器访问http://127.0.0.1:6006/docs6.本地图片解析服务器模型调用日志