让ComfyUI跑得更快显存管理与启动参数的6个实操调优点【免费下载链接】ComfyUIThe most powerful and modular diffusion model GUI, api and backend with a graph/nodes interface.项目地址: https://gitcode.com/GitHub_Trending/co/ComfyUIComfyUI 是一个以节点图界面为核心的扩散模型 GUI、API 与后端支持图像、视频、3D、音频等多种生成任务。很多用户的实际体验是同一份工作流有时流畅、有时卡顿显存不够时就报 OOM。好消息是ComfyUI 把大部分性能开关都做成了启动参数调优不需要改一行代码只需要搞清楚每个参数管什么、什么时候用。启动日志里的显存状态先诊断再调参ComfyUI 在启动时会自动探测你的显卡打印类似Total VRAM xxxx MB的日志并据此进入一个内部 VRAM 状态源码在 comfy/model_management.pyVRAMState枚举定义了 NO_VRAM、LOW_VRAM、NORMAL_VRAM、HIGH_VRAM 等档位。状态决定了模型是常驻显存、用完后卸到内存还是按块从磁盘按需加载。建议养成一个习惯加--verbose参数启动一次比如python main.py --verbose翻到显存状态和模型加载相关日志。你看到的档位就是后续所有调参的基准——很多莫名其妙慢的情况其实是系统已经悄悄进了 LOW_VRAM 或 NO_VRAM 档。手动覆盖自动判断自动判断不总是准。如果你确定显存够用、想让模型用完后继续留在显存里避免反复加载可以加--highvram反过来显存告急时可以试--novram强制走更激进的卸载策略。完整的互斥选项组--gpu-only、--highvram、--lowvram、--novram、--cpu定义在 comfy/cli_args.py它们互斥只能选一个。精度参数怎么选--fp16-unet 与 --bf16-vae精度参数分三组分别控制扩散模型UNET/DiT、VAE 和文本编码器UNet 组--fp16-unet、--bf16-unet以及--fp8_e4m3fn-unet等 fp8 存储选项。显存紧张时fp8 存储能显著降低权重占用代价是精度损失是否可接受取决于你的模型和工作流。VAE 组--fp16-vae、--bf16-vae、--cpu-vae。VAE 解码阶段对精度敏感--fp16-vae在某些卡上可能出黑图遇到黑图可以改回默认或改用--bf16-vae。文本编码器组--fp16-text-enc、--fp8_e4m3fn-text-enc等显存吃紧时编码器往往是大头可以优先降它的精度。一个务实的组合是显存 8GB 级别先试--fp16-unet --bf16-vae跑通且出图正常再考虑是否给文本编码器上 fp8。fp8 量化机制的细节可以读 QUANTIZATION.md。注意力实现的取舍注意力后端是另一组独立开关--use-flash-attention、--use-sage-attention、--use-ck-attention、--use-pytorch-cross-attention、--use-split-cross-attention、--use-quad-cross-attention与 xformers 互斥禁用 xformers 用--disable-xformers。这些实现互斥同一时刻只生效一个。建议的做法是固定一份工作流逐个后端试跑用体感时间差决定用哪个——不同显卡架构上最优解并不相同。多GPU怎么用--cuda-device 与多实例分流ComfyUI 不会自动把一张工作流拆到多张卡上并行计算多卡的正确用法有两种指定卡。--cuda-device参数接受逗号分隔的设备 id如0,1或all其余卡对该实例不可见。单卡机器想固定用某张卡、或双卡机器只想让 ComfyUI 用性能更强的那张就是它的用武之地。多实例分流。批量出图场景下更常见的做法是每个实例绑一张卡、监听不同端口CUDA_VISIBLE_DEVICES0 python main.py --port 8188第二个实例把卡号和端口各改一位即可。之后在脚本或外部调度里把不同工作流分别 POST 到两个端口实现简单的任务分发。注意每个实例都会完整加载模型内存占用要按实例数翻倍来估。缓存与预览两个容易被忽略的耗时来源工作流执行层面的时间消耗除了采样本身还有两块常被忽略节点结果缓存。ComfyUI 默认使用基于内存压力的缓存--cache-ram可调阈值未变化的节点不会重算。如果你发现改了一个参数后整个工作流全部重跑说明缓存没命中可以把参数拆成独立输入节点让其余部分保持稳定极端省显存场景才考虑--cache-none那会让每个节点每次运行都重新执行。采样预览。--preview-method支持none、auto、latent2rgb、taesd四种默认是none。开启taesd预览时每次采样步都要跑一次小解码器长工作流会累积出可感知的时间开销对实时性有要求的话可以在调试完成后把预览关掉。--preview-size控制预览分辨率上限同样影响这部分开销。常见误区清单加更多显存参数就更快--highvram只是让模型不卸载显存本来够用时它并不提速显存不够时反而容易 OOM。它是省加载时间的手段不是加速开关。越低显存档位越安全--novram会频繁在 CPU/磁盘与显存间搬模型吞吐会明显下降。它应作为最后的兜底而不是日常配置。多卡会自动均衡负载如前所述ComfyUI 没有自动多卡负载均衡指望它自己分摊计算是误区要么用--cuda-device显式指定要么多实例分流。启动参数调完就结束了--fast提供了 fp16 累加、fp8 矩阵乘等实验性优化开关官方标注其可能影响质量甚至稳定性属于值得试但要对比出图的选项不建议无脑常开。如何自己验证调优效果不建议直接相信任何提速 X 倍的说法效果取决于你的显卡、显存容量、模型大小和工作流结构。一个可复现的自测方法固定一份工作流、固定提示词和分辨率先跑 3 次记录体感耗时作为基线一次只改一个参数比如加--fp16-unet或切换注意力后端同样跑 3 次对比观察启动日志中的 VRAM 档位和模型加载行确认改动是否真的改变了执行路径对比出图结果确认质量可接受后再保留该配置。另外显存峰值可以直接用系统工具如nvidia-smi在跑任务时观察配合--reserve-vram、--vram-headroom两个参数给系统和浏览器留余量能减少其他程序挤占显存导致的偶发 OOM。调参的完整清单随时可以回 comfy/cli_args.py 查 help 文本那是所有参数最权威的出处。【免费下载链接】ComfyUIThe most powerful and modular diffusion model GUI, api and backend with a graph/nodes interface.项目地址: https://gitcode.com/GitHub_Trending/co/ComfyUI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 让ComfyUI跑得更快：显存管理与启动参数的6个实操调优点
让ComfyUI跑得更快显存管理与启动参数的6个实操调优点【免费下载链接】ComfyUIThe most powerful and modular diffusion model GUI, api and backend with a graph/nodes interface.项目地址: https://gitcode.com/GitHub_Trending/co/ComfyUIComfyUI 是一个以节点图界面为核心的扩散模型 GUI、API 与后端支持图像、视频、3D、音频等多种生成任务。很多用户的实际体验是同一份工作流有时流畅、有时卡顿显存不够时就报 OOM。好消息是ComfyUI 把大部分性能开关都做成了启动参数调优不需要改一行代码只需要搞清楚每个参数管什么、什么时候用。启动日志里的显存状态先诊断再调参ComfyUI 在启动时会自动探测你的显卡打印类似Total VRAM xxxx MB的日志并据此进入一个内部 VRAM 状态源码在 comfy/model_management.pyVRAMState枚举定义了 NO_VRAM、LOW_VRAM、NORMAL_VRAM、HIGH_VRAM 等档位。状态决定了模型是常驻显存、用完后卸到内存还是按块从磁盘按需加载。建议养成一个习惯加--verbose参数启动一次比如python main.py --verbose翻到显存状态和模型加载相关日志。你看到的档位就是后续所有调参的基准——很多莫名其妙慢的情况其实是系统已经悄悄进了 LOW_VRAM 或 NO_VRAM 档。手动覆盖自动判断自动判断不总是准。如果你确定显存够用、想让模型用完后继续留在显存里避免反复加载可以加--highvram反过来显存告急时可以试--novram强制走更激进的卸载策略。完整的互斥选项组--gpu-only、--highvram、--lowvram、--novram、--cpu定义在 comfy/cli_args.py它们互斥只能选一个。精度参数怎么选--fp16-unet 与 --bf16-vae精度参数分三组分别控制扩散模型UNET/DiT、VAE 和文本编码器UNet 组--fp16-unet、--bf16-unet以及--fp8_e4m3fn-unet等 fp8 存储选项。显存紧张时fp8 存储能显著降低权重占用代价是精度损失是否可接受取决于你的模型和工作流。VAE 组--fp16-vae、--bf16-vae、--cpu-vae。VAE 解码阶段对精度敏感--fp16-vae在某些卡上可能出黑图遇到黑图可以改回默认或改用--bf16-vae。文本编码器组--fp16-text-enc、--fp8_e4m3fn-text-enc等显存吃紧时编码器往往是大头可以优先降它的精度。一个务实的组合是显存 8GB 级别先试--fp16-unet --bf16-vae跑通且出图正常再考虑是否给文本编码器上 fp8。fp8 量化机制的细节可以读 QUANTIZATION.md。注意力实现的取舍注意力后端是另一组独立开关--use-flash-attention、--use-sage-attention、--use-ck-attention、--use-pytorch-cross-attention、--use-split-cross-attention、--use-quad-cross-attention与 xformers 互斥禁用 xformers 用--disable-xformers。这些实现互斥同一时刻只生效一个。建议的做法是固定一份工作流逐个后端试跑用体感时间差决定用哪个——不同显卡架构上最优解并不相同。多GPU怎么用--cuda-device 与多实例分流ComfyUI 不会自动把一张工作流拆到多张卡上并行计算多卡的正确用法有两种指定卡。--cuda-device参数接受逗号分隔的设备 id如0,1或all其余卡对该实例不可见。单卡机器想固定用某张卡、或双卡机器只想让 ComfyUI 用性能更强的那张就是它的用武之地。多实例分流。批量出图场景下更常见的做法是每个实例绑一张卡、监听不同端口CUDA_VISIBLE_DEVICES0 python main.py --port 8188第二个实例把卡号和端口各改一位即可。之后在脚本或外部调度里把不同工作流分别 POST 到两个端口实现简单的任务分发。注意每个实例都会完整加载模型内存占用要按实例数翻倍来估。缓存与预览两个容易被忽略的耗时来源工作流执行层面的时间消耗除了采样本身还有两块常被忽略节点结果缓存。ComfyUI 默认使用基于内存压力的缓存--cache-ram可调阈值未变化的节点不会重算。如果你发现改了一个参数后整个工作流全部重跑说明缓存没命中可以把参数拆成独立输入节点让其余部分保持稳定极端省显存场景才考虑--cache-none那会让每个节点每次运行都重新执行。采样预览。--preview-method支持none、auto、latent2rgb、taesd四种默认是none。开启taesd预览时每次采样步都要跑一次小解码器长工作流会累积出可感知的时间开销对实时性有要求的话可以在调试完成后把预览关掉。--preview-size控制预览分辨率上限同样影响这部分开销。常见误区清单加更多显存参数就更快--highvram只是让模型不卸载显存本来够用时它并不提速显存不够时反而容易 OOM。它是省加载时间的手段不是加速开关。越低显存档位越安全--novram会频繁在 CPU/磁盘与显存间搬模型吞吐会明显下降。它应作为最后的兜底而不是日常配置。多卡会自动均衡负载如前所述ComfyUI 没有自动多卡负载均衡指望它自己分摊计算是误区要么用--cuda-device显式指定要么多实例分流。启动参数调完就结束了--fast提供了 fp16 累加、fp8 矩阵乘等实验性优化开关官方标注其可能影响质量甚至稳定性属于值得试但要对比出图的选项不建议无脑常开。如何自己验证调优效果不建议直接相信任何提速 X 倍的说法效果取决于你的显卡、显存容量、模型大小和工作流结构。一个可复现的自测方法固定一份工作流、固定提示词和分辨率先跑 3 次记录体感耗时作为基线一次只改一个参数比如加--fp16-unet或切换注意力后端同样跑 3 次对比观察启动日志中的 VRAM 档位和模型加载行确认改动是否真的改变了执行路径对比出图结果确认质量可接受后再保留该配置。另外显存峰值可以直接用系统工具如nvidia-smi在跑任务时观察配合--reserve-vram、--vram-headroom两个参数给系统和浏览器留余量能减少其他程序挤占显存导致的偶发 OOM。调参的完整清单随时可以回 comfy/cli_args.py 查 help 文本那是所有参数最权威的出处。【免费下载链接】ComfyUIThe most powerful and modular diffusion model GUI, api and backend with a graph/nodes interface.项目地址: https://gitcode.com/GitHub_Trending/co/ComfyUI创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考