Nunchaku FLUX.1-dev部署教程Mac M2 UltraROCm替代方案可行性验证最近在折腾AI绘画想试试最新的FLUX.1-dev模型但官方推荐的都是NVIDIA显卡加CUDA环境。我手头只有一台Mac M2 Ultra难道就玩不了了吗经过一番摸索我发现了一个有趣的方案——用Nunchaku插件在ComfyUI里跑FLUX.1-dev而且理论上支持ROCm。这听起来像是为Mac用户打开了一扇窗。今天我就来验证一下这个方案到底能不能在Mac上跑起来效果如何。如果你也和我一样想在Mac上体验最新的文生图模型这篇教程就是为你准备的。我会从环境准备、插件安装到实际运行一步步带你走完整个流程看看Mac M2 UltraROCm这个组合到底行不行。1. 环境准备Mac上的特殊挑战在Mac上部署AI模型和Windows/Linux环境有些不同。我们需要先搞清楚几个关键点。1.1 硬件与系统要求我的测试环境是Mac M2 Ultra64GB统一内存。理论上M系列芯片的Mac都支持但内存越大越好因为模型加载和推理都需要大量内存。系统方面我使用的是macOS Sonoma 14.5Python版本是3.10。建议使用较新的macOS版本确保对M系列芯片和ROCm有更好的支持。1.2 软件环境搭建Mac上的Python环境管理我推荐使用Miniforge或者直接安装Python 3.10。安装完成后需要确认几个关键组件# 检查Python版本 python --version # 应该显示Python 3.10.x或更高 # 安装基础工具 pip install --upgrade pip pip install git对于PyTorchMac用户需要安装支持MPSMetal Performance Shaders的版本。MPS是苹果的GPU加速框架可以替代CUDA在Mac上运行。# 安装PyTorch with MPS support pip install torch torchvision torchaudio安装完成后可以验证一下MPS是否可用import torch print(torch.backends.mps.is_available()) # 应该返回True print(torch.backends.mps.is_built()) # 应该返回True1.3 ROCm支持情况说明这里需要特别说明一下虽然Nunchaku FLUX.1-dev官方提到了ROCm支持但目前的实现主要还是针对Linux系统。在macOS上我们实际上使用的是MPS通过PyTorch的MPS后端而不是完整的ROCm栈。MPS能提供GPU加速但性能和功能可能不如完整的ROCm或CUDA。这是我们在Mac上运行的一个妥协方案不过对于体验和测试来说已经足够了。2. Nunchaku ComfyUI插件安装部署环境准备好后我们开始安装ComfyUI和Nunchaku插件。这个过程在Mac上相对简单因为不需要处理复杂的显卡驱动。2.1 安装ComfyUIComfyUI是一个基于节点的AI工作流工具非常适合可视化操作。在Mac上安装很简单# 克隆ComfyUI仓库 git clone https://github.com/comfyanonymous/ComfyUI.git cd ComfyUI # 安装依赖 pip install -r requirements.txt如果遇到权限问题可以尝试使用虚拟环境# 创建虚拟环境 python -m venv comfy_env source comfy_env/bin/activate # 然后在虚拟环境中安装 pip install -r requirements.txt2.2 安装Nunchaku插件Nunchaku插件是运行FLUX.1-dev模型的关键。安装方法有两种我推荐手动安装因为更可控。# 进入ComfyUI的自定义节点目录 cd custom_nodes # 克隆Nunchaku插件 git clone https://github.com/mit-han-lab/ComfyUI-nunchaku nunchaku_nodes # 进入插件目录安装额外依赖 cd nunchaku_nodes pip install -r requirements.txt安装完成后需要确认插件是否正确加载。启动ComfyUI后在节点列表中应该能看到Nunchaku相关的节点。2.3 安装Nunchaku后端从v0.3.2版本开始Nunchaku提供了更简单的后端安装方式。插件目录下会有一个install_wheel.json文件可以通过它一键安装。不过在实际操作中我发现Mac上可能需要一些额外的步骤。如果自动安装失败可以尝试手动安装所需的wheel包。3. Nunchaku FLUX.1-dev模型使用准备插件安装好后我们需要准备模型文件。这是最关键的一步也是Mac用户面临的最大挑战——模型文件很大下载需要耐心。3.1 配置工作流为了让ComfyUI能识别Nunchaku的工作流我们需要把示例工作流复制到指定位置# 回到ComfyUI根目录 cd ../.. # 创建工作流目录如果不存在 mkdir -p user/default/example_workflows # 复制Nunchaku的示例工作流 cp custom_nodes/nunchaku_nodes/example_workflows/* user/default/example_workflows/这样启动ComfyUI后就能在加载工作流时看到Nunchaku的示例了。3.2 下载模型文件模型下载是耗时最长的部分。FLUX.1-dev模型很大需要下载多个组件。基础FLUX模型必须下载首先是文本编码器和VAE模型这些是FLUX架构的基础组件# 创建模型目录 mkdir -p models/text_encoders mkdir -p models/vae # 下载文本编码器模型 # 注意这些命令需要huggingface-cli工具 # 如果没有安装先安装pip install huggingface_hub # 下载CLIP文本编码器 huggingface-cli download comfyanonymous/flux_text_encoders clip_l.safetensors --local-dir models/text_encoders # 下载T5文本编码器 huggingface-cli download comfyanonymous/flux_text_encoders t5xxl_fp16.safetensors --local-dir models/text_encoders # 下载VAE模型 huggingface-cli download black-forest-labs/FLUX.1-schnell ae.safetensors --local-dir models/vae每个模型都很大几个GB下载可能需要较长时间。如果下载中断可以重新运行命令它会自动续传。Nunchaku FLUX.1-dev主模型这是核心的生成模型。对于Mac用户我建议下载量化版本因为原版FP16模型需要33GB显存Mac的统一内存可能不够用。# 创建unet目录 mkdir -p models/unet # 下载INT4量化版本推荐给Mac用户 huggingface-cli download nunchaku-tech/nunchaku-flux.1-dev svdq-int4_r32-flux.1-dev.safetensors --local-dir models/unet/INT4版本大约8-10GB对内存要求低很多。虽然质量可能略有损失但在Mac上这是更可行的选择。可选LoRA模型LoRALow-Rank Adaptation是小型的适配器模型可以微调生成风格。虽然不是必须的但能显著提升效果。# 创建loras目录 mkdir -p models/loras # 下载FLUX.1-Turbo-Alpha LoRA加速生成 # 这个LoRA能减少推理步数提高生成速度 huggingface-cli download lora-repo lora-file --local-dir models/loras/具体的LoRA仓库和文件名需要根据你要使用的LoRA来确定。Nunchaku的文档或社区会推荐一些好用的LoRA。4. 启动ComfyUI并运行FLUX.1-dev文生图所有准备工作完成后终于可以启动ComfyUI并尝试生成了。4.1 启动ComfyUI在Mac上启动ComfyUI很简单# 在ComfyUI根目录执行 python main.py启动后终端会显示一个本地地址通常是http://127.0.0.1:8188。在浏览器中打开这个地址就能看到ComfyUI的界面了。第一次启动可能会比较慢因为要加载模型和插件。耐心等待直到界面完全加载出来。4.2 加载Nunchaku工作流在ComfyUI界面中点击Load按钮然后导航到user/default/example_workflows目录。你应该能看到几个Nunchaku的工作流文件nunchaku-flux.1-dev.json基础文生图工作流支持多LoRAnunchaku-flux.1-dev-qencoder.json使用4-bit T5编码器内存占用更低对于Mac用户我推荐先尝试基础工作流。加载后界面会显示一个包含多个节点的流程图。4.3 配置参数并生成图片工作流加载后我们需要配置一些参数。关键节点包括提示词输入FLUX模型对英文提示词支持更好。输入详细的英文描述比如A serene Japanese garden in spring, cherry blossoms falling, koi pond, traditional architecture, soft morning light, 8k resolution, photorealistic模型选择确保选择了正确的模型路径。检查UNETLoader节点确认它指向我们下载的svdq-int4_r32-flux.1-dev.safetensors。分辨率设置Mac内存有限建议从较低分辨率开始比如768x768。如果生成成功再尝试更高分辨率。推理步数使用FLUX.1-Turbo-AlphaLoRA时可以设置较少的步数如4-8步。如果不用这个LoRA需要至少20步。配置完成后点击Queue Prompt按钮开始生成。第一次生成会比较慢因为要加载模型到内存。4.4 Mac上的性能观察在Mac M2 Ultra上运行我观察到以下情况内存占用INT4模型加载后内存占用约12-15GB。如果使用FP16版本可能会超过30GB。生成速度768x768分辨率8步推理大约需要45-60秒。比高端NVIDIA显卡慢但可以接受。温度控制长时间生成时Mac会发热但M2 Ultra的散热表现不错没有出现降频。如果生成失败或内存不足可以尝试降低分辨率如512x512减少批处理大小batch size使用更低精度的模型5. 关键注意事项与问题排查在Mac上部署和运行Nunchaku FLUX.1-dev有几个需要特别注意的地方。5.1 模型路径必须正确这是最常见的问题。确保所有模型文件都放在正确的目录ComfyUI/ ├── models/ │ ├── unet/ # FLUX.1-dev主模型 │ │ └── svdq-int4_r32-flux.1-dev.safetensors │ ├── text_encoders/ # 文本编码器 │ │ ├── clip_l.safetensors │ │ └── t5xxl_fp16.safetensors │ ├── vae/ # VAE模型 │ │ └── ae.safetensors │ └── loras/ # LoRA模型可选 │ └── 各种LoRA文件如果路径不对ComfyUI会报错找不到模型。5.2 内存管理策略Mac的统一内存虽然大但模型加载和推理都很耗内存。建议关闭不必要的应用生成图片时关闭浏览器、IDE等内存大户。使用量化模型INT4或FP8版本能显著减少内存占用。分批处理不要一次性生成多张图片一张一张来。监控内存使用可以用Activity Monitor观察内存压力。5.3 常见错误与解决错误1Could not locate model file检查模型文件是否下载完整确认文件路径是否正确确保文件名没有错误错误2Out of memory降低分辨率使用量化模型减少批处理大小关闭其他应用释放内存错误3Node not found确认Nunchaku插件安装正确重启ComfyUI检查custom_nodes目录是否有nunchaku_nodes文件夹错误4生成速度极慢这是Mac的常态特别是第一次生成后续生成会快一些因为模型缓存在内存中考虑使用更少的推理步数5.4 ROCm替代方案的实际情况经过实际测试我需要澄清一点在当前的Mac系统上我们并没有使用完整的ROCm栈。PyTorch的MPS后端提供了GPU加速但它和ROCm是不同的技术路径。MPS的优点无需额外安装驱动或工具链与macOS深度集成对M系列芯片优化良好MPS的局限功能不如CUDA/ROCm完整某些操作可能回退到CPU性能可能不如预期所以严格来说这不是ROCm替代方案而是MPS替代方案。但对于想在Mac上体验FLUX.1-dev的用户来说这仍然是目前最可行的方式。6. 总结与建议经过完整的部署和测试我来总结一下Mac M2 Ultra上运行Nunchaku FLUX.1-dev的实际情况。6.1 可行性验证结果好消息是可以运行我在Mac M2 Ultra64GB内存上成功部署并运行了Nunchaku FLUX.1-dev模型。使用INT4量化版本能够生成质量不错的图片。虽然速度不如高端NVIDIA显卡但作为体验和测试完全够用。关键成功因素使用量化模型INT4/FP8控制内存占用合理的分辨率设置768x768或更低配合Turbo LoRA减少推理步数良好的系统资源管理6.2 给Mac用户的实用建议如果你也想在Mac上尝试从量化模型开始不要尝试FP16原版内存要求太高。INT4或FP8版本是更明智的选择。管理预期Mac的生成速度比不了4090一张768x768的图片可能需要一分钟左右。逐步调优先确保能运行再慢慢调整参数提升质量。利用社区资源ComfyUI和Nunchaku都有活跃的社区遇到问题可以搜索或提问。6.3 性能对比与选择建议如果你主要使用Mac又想做AI绘画我有几个建议轻度使用Mac Nunchaku FLUX.1-dev完全够用生成单张图片没问题。批量生成如果经常需要批量生成考虑云服务或Windows/Linux工作站。专业需求对于商业用途或高质量产出还是建议使用NVIDIA显卡。6.4 未来展望随着苹果芯片的不断升级和AI框架的优化Mac上的AI推理性能会越来越好。M3、M4芯片的神经网络引擎更强未来可能会有更好的表现。同时开源社区也在不断优化模型和工具。也许不久的将来我们能看到专门为Mac优化的FLUX版本或者更高效的推理方案。获取更多AI镜像想探索更多AI镜像和应用场景访问 CSDN星图镜像广场提供丰富的预置镜像覆盖大模型推理、图像生成、视频生成、模型微调等多个领域支持一键部署。