Voicebox 生成时出现 CUDA out of memory从显存不足到切换 CPU 模式的排查方案【免费下载链接】voiceboxThe open-source AI voice studio. Clone, dictate, create.项目地址: https://gitcode.com/GitHub_Trending/voicebox1/voicebox在 Voicebox 中用 GPU 生成语音时如果显存不够典型现象是生成直接崩溃报错包含CUDA out of memory或RuntimeError: out of memory见 Troubleshooting 的 Generation Fails with Out of Memory 一节。这篇文章给出一条可执行的恢复路径先确认当前后端与显存占用然后按释放显存 → 换小模型 → 拆分长文本 → 切换 CPU 模式的顺序恢复生成并用 Settings 页面和/health接口验证结果。先确认现象与当前后端出现以下症状时再进入排查生成中途崩溃错误信息为CUDA out of memory或RuntimeError: out of memory。动手前先弄清两件事当前跑在什么后端上、你的模型需要多少显存。查看后端与设备。按 GPU Acceleration 的 Verifying Your Setup有三个位置可以确认Settings → GPU显示检测到的后端、GPU 型号和 VRAM若适用注意是否有[UNSUPPORTED - see logs]后缀Settings → Logs的 Server logs 页签启动横幅里会打印Backend: type和GPU: name健康接口curl http://localhost:17493/health返回的 JSON 中包含backend_type、backend_variant以及适用时的gpu_compatibility_warning字段。对照模型的显存需求。TTS Generation 给出了各引擎在 CUDA 上的近似 VRAM 占用引擎显存占用Kokoro~150 MBLuxTTS~1 GBChatterbox Turbo~1.5 GBQwen 0.6B / Qwen CustomVoice 0.6B~2 GBChatterbox Multilingual~3 GBTADA 1B~4 GBQwen 1.7B / Qwen CustomVoice 1.7B~6 GBTADA 3B~8 GBTroubleshooting 给出的经验线是GPU 显存不足 6 GB 时就应考虑 CPU 模式。如果你跑的是 Qwen 1.7B 或 TADA 3B 这类大模型而显存刚好在需求线附近OOM 基本可以预期。方案一释放显存后重启这是文档给出的第一顺位处理Troubleshooting 的 Free GPU Memory关闭其他占用显存的应用——游戏、视频编辑软件、开了 WebGL 的多个浏览器标签页然后重启 Voicebox。如果同时加载了多个引擎还可以主动卸载用不到的模型来释放显存。GPU Acceleration 的 Out of memory (CUDA) 一节建议用Settings → Models卸载其他引擎Model Management 说明对应的 API 是POST /models/unload例如{model_name: chatterbox-tts}它会路由到对应后端的unload_model()并释放 GPU 内存。方案二换用显存需求更小的模型文档明确建议的第一条 CUDA OOM 处理就是 Switch to a smaller model size (e.g. Qwen3 0.6B instead of 1.7B)。按上表选一个显存需求落在你 GPU 余量内的引擎即可例如显存紧张时Qwen 1.7B~6 GB换 Qwen 0.6B~2 GB只需要英文且对延迟敏感时可考虑 LuxTTS~1 GB或 Chatterbox Turbo~1.5 GB、Kokoro~150 MB。注意 Model Management 的错误表也印证了这一条OOM on load的原因是不足 VRAM对应的处理就是 Use a smaller variant, unload other engines。方案三拆分长文本对长文本Troubleshooting 的 Reduce Batch Size 建议拆成更小的片段分次生成而不是一次生成全部内容。Voicebox 自带文本分块机制超过max_chunk_chars的文本会按句子边界拆分、顺序生成再交叉淡化拼接TTS Generation。该参数默认 800可调范围 100–5000在 Settings → Generation 页面调整。长文本 OOM 时先降低单次分块长度再重试属于文档支持的操作路径。方案四切换 CPU 模式如果显存确实不够文档给出的判据是 GPU 显存不足 6 GB可以整体切到 CPU 生成。文档提供了两条入口1. 应用内设置Troubleshooting 的 Use CPU ModeSettings → Generation → Use CPU instead of GPU2. 环境变量GPU Acceleration 的 CPU-Only Fallback 与兼容性回退建议启动前设置export VOICEBOX_FORCE_CPU1TTS Generation 的设备选择说明确认了它的优先级VOICEBOX_FORCE_CPU环境覆盖是第一顺位高于 CUDA / XPU / MPS 的自动检测设置后引擎会落到 PyTorch CPU 后端。代价CPU 生成会明显变慢。两份文档给出的范围不完全一致——Troubleshooting 说 CPU generation is 5-10x slower but uses system RAM instead of VRAMGPU Acceleration 则说整体慢 5-50x取决于引擎和文本长度。另外各引擎在 CPU 上的可用性差异很大Kokoro 82M 可在现代 CPU 上实时运行、LuxTTS 在 CPU 上表现好、Chatterbox Turbo 可用但慢而 Qwen 1.7B、Chatterbox Multilingual、TADA 3B 这类大模型在 CPU 上体验很差。文档的建议是CPU 场景优先选更小的引擎。验证结果切换完成后按以下顺序确认Settings → GPU应显示 CPU 后端而不是你的 GPU 型号Settings → Logs的 Server logs 页签启动横幅中的Backend: type/GPU: name与预期一致curl http://localhost:17493/health检查backend_type/backend_variant字段重新发起一次之前失败的生成确认不再出现CUDA out of memory且能正常产出音频生成结果可在应用中播放或经GET /audio/{generation_id}获取。如果你选择的是释放显存 / 换小模型路线而非切 CPU验证标准相同后端仍显示 GPU且同样的生成请求能通过。边界与限制本文只覆盖文档中CUDA out of memory/RuntimeError: out of memory这一类生成失败启动失败、端口占用、模型下载失败等问题在 Troubleshooting 的其他章节分别处理路径不同不要混用。切换 CPU 后若之前生成的内容仍报错先确认 Settings → GPU 显示的后端确实已变化排除改完没重启的情况。若显存足够、模型也换小了仍然 OOM文档没有给出更多 CUDA 侧的处理手段可按 Troubleshooting 末尾 Still Having Issues? 一节提交 issue附上操作系统、Voicebox 版本、复现步骤和日志。【免费下载链接】voiceboxThe open-source AI voice studio. Clone, dictate, create.项目地址: https://gitcode.com/GitHub_Trending/voicebox1/voicebox创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
Voicebox 生成时出现 “CUDA out of memory“？从显存不足到切换 CPU 模式的排查方案
Voicebox 生成时出现 CUDA out of memory从显存不足到切换 CPU 模式的排查方案【免费下载链接】voiceboxThe open-source AI voice studio. Clone, dictate, create.项目地址: https://gitcode.com/GitHub_Trending/voicebox1/voicebox在 Voicebox 中用 GPU 生成语音时如果显存不够典型现象是生成直接崩溃报错包含CUDA out of memory或RuntimeError: out of memory见 Troubleshooting 的 Generation Fails with Out of Memory 一节。这篇文章给出一条可执行的恢复路径先确认当前后端与显存占用然后按释放显存 → 换小模型 → 拆分长文本 → 切换 CPU 模式的顺序恢复生成并用 Settings 页面和/health接口验证结果。先确认现象与当前后端出现以下症状时再进入排查生成中途崩溃错误信息为CUDA out of memory或RuntimeError: out of memory。动手前先弄清两件事当前跑在什么后端上、你的模型需要多少显存。查看后端与设备。按 GPU Acceleration 的 Verifying Your Setup有三个位置可以确认Settings → GPU显示检测到的后端、GPU 型号和 VRAM若适用注意是否有[UNSUPPORTED - see logs]后缀Settings → Logs的 Server logs 页签启动横幅里会打印Backend: type和GPU: name健康接口curl http://localhost:17493/health返回的 JSON 中包含backend_type、backend_variant以及适用时的gpu_compatibility_warning字段。对照模型的显存需求。TTS Generation 给出了各引擎在 CUDA 上的近似 VRAM 占用引擎显存占用Kokoro~150 MBLuxTTS~1 GBChatterbox Turbo~1.5 GBQwen 0.6B / Qwen CustomVoice 0.6B~2 GBChatterbox Multilingual~3 GBTADA 1B~4 GBQwen 1.7B / Qwen CustomVoice 1.7B~6 GBTADA 3B~8 GBTroubleshooting 给出的经验线是GPU 显存不足 6 GB 时就应考虑 CPU 模式。如果你跑的是 Qwen 1.7B 或 TADA 3B 这类大模型而显存刚好在需求线附近OOM 基本可以预期。方案一释放显存后重启这是文档给出的第一顺位处理Troubleshooting 的 Free GPU Memory关闭其他占用显存的应用——游戏、视频编辑软件、开了 WebGL 的多个浏览器标签页然后重启 Voicebox。如果同时加载了多个引擎还可以主动卸载用不到的模型来释放显存。GPU Acceleration 的 Out of memory (CUDA) 一节建议用Settings → Models卸载其他引擎Model Management 说明对应的 API 是POST /models/unload例如{model_name: chatterbox-tts}它会路由到对应后端的unload_model()并释放 GPU 内存。方案二换用显存需求更小的模型文档明确建议的第一条 CUDA OOM 处理就是 Switch to a smaller model size (e.g. Qwen3 0.6B instead of 1.7B)。按上表选一个显存需求落在你 GPU 余量内的引擎即可例如显存紧张时Qwen 1.7B~6 GB换 Qwen 0.6B~2 GB只需要英文且对延迟敏感时可考虑 LuxTTS~1 GB或 Chatterbox Turbo~1.5 GB、Kokoro~150 MB。注意 Model Management 的错误表也印证了这一条OOM on load的原因是不足 VRAM对应的处理就是 Use a smaller variant, unload other engines。方案三拆分长文本对长文本Troubleshooting 的 Reduce Batch Size 建议拆成更小的片段分次生成而不是一次生成全部内容。Voicebox 自带文本分块机制超过max_chunk_chars的文本会按句子边界拆分、顺序生成再交叉淡化拼接TTS Generation。该参数默认 800可调范围 100–5000在 Settings → Generation 页面调整。长文本 OOM 时先降低单次分块长度再重试属于文档支持的操作路径。方案四切换 CPU 模式如果显存确实不够文档给出的判据是 GPU 显存不足 6 GB可以整体切到 CPU 生成。文档提供了两条入口1. 应用内设置Troubleshooting 的 Use CPU ModeSettings → Generation → Use CPU instead of GPU2. 环境变量GPU Acceleration 的 CPU-Only Fallback 与兼容性回退建议启动前设置export VOICEBOX_FORCE_CPU1TTS Generation 的设备选择说明确认了它的优先级VOICEBOX_FORCE_CPU环境覆盖是第一顺位高于 CUDA / XPU / MPS 的自动检测设置后引擎会落到 PyTorch CPU 后端。代价CPU 生成会明显变慢。两份文档给出的范围不完全一致——Troubleshooting 说 CPU generation is 5-10x slower but uses system RAM instead of VRAMGPU Acceleration 则说整体慢 5-50x取决于引擎和文本长度。另外各引擎在 CPU 上的可用性差异很大Kokoro 82M 可在现代 CPU 上实时运行、LuxTTS 在 CPU 上表现好、Chatterbox Turbo 可用但慢而 Qwen 1.7B、Chatterbox Multilingual、TADA 3B 这类大模型在 CPU 上体验很差。文档的建议是CPU 场景优先选更小的引擎。验证结果切换完成后按以下顺序确认Settings → GPU应显示 CPU 后端而不是你的 GPU 型号Settings → Logs的 Server logs 页签启动横幅中的Backend: type/GPU: name与预期一致curl http://localhost:17493/health检查backend_type/backend_variant字段重新发起一次之前失败的生成确认不再出现CUDA out of memory且能正常产出音频生成结果可在应用中播放或经GET /audio/{generation_id}获取。如果你选择的是释放显存 / 换小模型路线而非切 CPU验证标准相同后端仍显示 GPU且同样的生成请求能通过。边界与限制本文只覆盖文档中CUDA out of memory/RuntimeError: out of memory这一类生成失败启动失败、端口占用、模型下载失败等问题在 Troubleshooting 的其他章节分别处理路径不同不要混用。切换 CPU 后若之前生成的内容仍报错先确认 Settings → GPU 显示的后端确实已变化排除改完没重启的情况。若显存足够、模型也换小了仍然 OOM文档没有给出更多 CUDA 侧的处理手段可按 Troubleshooting 末尾 Still Having Issues? 一节提交 issue附上操作系统、Voicebox 版本、复现步骤和日志。【免费下载链接】voiceboxThe open-source AI voice studio. Clone, dictate, create.项目地址: https://gitcode.com/GitHub_Trending/voicebox1/voicebox创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
