Navigate to WaytoAGI Wiki →
Home/Question List/Question Detail

comfyui的本地部署安装，GPU：RX6600 8G，CPU：R5 5600，内存：DDR4 8G*2

Answer

以下是关于 ComfyUI 本地部署安装的相关信息：

  • ComfyUI 相比 WebUI，配置更低，系统资源占用更少，出图速度更快，最低可在小于 3G 的 GPU 上运行，甚至没有 GPU 光用 CPU 也可以运行，但速度极慢。SDXL 出来后提高了运行配置，最低需要 8GB 显存+32GB 运行内存，12GB 流畅运行，推荐 16GB 以上。运行内存最低 32GB，越高越好，最低配会经常爆显存。玩 SD-webui 和 ComfyUI 建议使用 6GB 以上显存的 NVIDIA 显卡（N 卡），内存在 16G 以上。硬盘会影响加载模型的速度，最好把软件和模型部署在 SSD 上。如果电脑能顺畅清晰地玩 3A 游戏，那玩 webui 和 ComfyUI 也没问题。配置上不封顶，根据自己的需求和预算来即可。
  • 安装地址：https://github.com/comfyanonymous/ComfyUI 。可以下载安装包也可以直接 Git clone https://github.com/comfyanonymous/ComfyUI.git ，或者下载安装包 file:ComfyUI.zip ，下载安装包或者点击链接下载并解压至本地除 C 盘外的任意盘。然后找到文件名称为 run_nvidia_gpu 的文件双击并启动。启动完成即进入基础界面。
  • 节点存放目录：D:\COMFYUI\ComfyUI_windows_portable\ComfyUI\custom_nodes 。
  • 模型存放目录：
    • 大模型：D:\COMFYUI\ComfyUI_windows_portable\ComfyUI\models\checkpoints 。
    • Lora：D:\COMFYUI\ComfyUI_windows_portable\ComfyUI\models\loras 。
    • Vae：D:\COMFYUI\ComFYUI_windows_portable\ComfyUI\models\vae 。
  • 已经安装了 SD-WebUI 的同学可以通过修改文件路径和 WebUI 共用一套模型即可，这样就不用重复下载模型了。找到已安装好的 ComfyUI 目录文件下的 extra_model_paths.yaml.example 文件，将后缀.example 删除，然后右键用记事本打开。

您的电脑配置为 GPU：RX6600 8G，CPU：R5 5600，内存：DDR4 8G*2，可能需要注意内存方面可能不太满足推荐配置，可能会影响运行效果。

Content generated by AI large model, please carefully verify (powered by aily)

References

彭青云：01小白comfyui学习日记-解决篇线上部署，和线下部署配置需求

comfyui相比webui：comfyui配置更低；系统资源占用更少；出图速度更快；最低可在小于3G的GPU上运行。甚至没有GPU，光用CPU也可以运行，缺点是速度极慢。SDXL出来后提高了运行配置：最低需要8GB显存+32GB运行内存，12GB流畅运行，推荐16GB以上。运行内存最低32GB，越高越好，最低配会经常爆显存。玩SD-webui和comfyui建议使用6GB以上的显存的NVIDIA显卡，也就是N卡，内存在16G以上。硬盘会影响加载模型的速度，所以最好把软件和模型部署在SSD（固态硬盘）上，这样速度更快。我之前的电脑2060N系8G显存，16g内存。把webui和模型装在2t固态硬盘上，打开速度极快，出图速度也还可以，4张512x768的图不到一分钟就可出来。如果你的电脑能顺畅清晰地玩3A游戏，那玩webui和comfyui也没问题。配置上不封顶，根据自己的需求和预算来即可。以我为例，新需求：做AIGC视频+建模渲染+炼丹（lora）预算2W。起先用2060生图，后发现做AIGC视频比较费时间，且还有做建模渲染的需求。后来向朋友请教，搞了一套次顶配的组装机，加上一个护眼的4K显示器共2W出头。

1、安装部署ComfyUI 副本

地址：https://github.com/comfyanonymous/ComfyUI可以下载安装包也可以直接Git clone https://github.com/comfyanonymous/ComfyUI.git或者下载安装包file:ComfyUI.ziphttps://github.com/comfyanonymous/ComfyUI下载安装包或者点击链接下载并解压至本地除C盘外的任意盘。然后找到文件名称为run_nvidia_gpu的文件双击并启动。启动完成即进入基础界面。[heading1]五、节点存放目录[content]comfyUI的节点包括后面安装的拓展节点都存放在本目录下D:\COMFYUI\ComfyUI_windows_portable\ComfyUI\custom_nodes[heading1]五、模型存放目录[content]1、大模型：D:\COMFYUI\ComfyUI_windows_portable\ComfyUI\models\checkpoints2、Lora：D:\COMFYUI\ComfyUI_windows_portable\ComfyUI\models\loras3、Vae：D:\COMFYUI\ComfyUI_windows_portable\ComfyUI\models\vae[heading1]六、模型共用[content]已经安装了SD-WebUI的同学可以通过修改文件路径和WebUI共用一套模型即可，这样就不用重复下载模型了。找到你已经安装好的ComfyUI目录文件下的extra_model_paths.yaml.example文件，将后缀.example删除，然后右键用记事本打开，[heading1]七、快捷键

维纳 Vina： MacBook Pro M1 跑通二狗子的黑神话工作流-ComfyUI 新手从0到1系列

MacBook Pro，M1芯片，16G内存，Sonoma 14.6.1系统版本。[heading2]缘起[content]我是一名AI生图零基础、代码零基础的产品经理，从8.13号开始跟着WaytoAGI社区的ComfyUI共学课学习，刚开始用云平台的应用，对新手来说非常友好，节点、模型都是内置的，打开就能上手。跟着共学课程，我在云平台学习了ComfyUI的基础用法。8.19号，AJ在共学群里发了[二狗子的黑神话悟空工作流](https://openart.ai/workflows/monkey_favorable_41/-ai/YIP0875LOCw3t5K78lkr)，特别帅，我很想把这个模型跑起来。我在云平台尝试跑这个工作流，要么是环境不匹配，要么是模型太大上传到云很慢，于是我下决心要在本地部署一套ComfyUI，在本地跑起来。[heading2]Mac用ComfyUI的难点[content]我刚开始不明白，为什么AI生图领域喂饭的大神没有用Mac的，我后来在操作的过程中发现，在Mac部署确实有很多不方便的地方：1.生图慢，因为Mac M只有CPU，没有GPU。这可能是大神们不喜欢用Mac生图的最大原因。2.生图的大模型在CPU环境中不一定适配、好用。3.用Mac生图的人少，能一起讨论的人也少，解决方案也少，需要自己摸索。4.大神们在windows系统里做的一键包，在Mac中不能用。5.大神们的工作流也要做适配Mac的修改，需要一点点代码阅读和修改的能力。

Others are asking
我是一位程序开发小白，不会用代码开发程序。我现在有一台安装Window 11操作系统的笔记本电脑，配置为14代i7CPU、32G内存、1TB硬盘、1张RTX4070显卡。我想部署一套本地的大模型＋智能体＋知识库。我要怎么样才能实现无代码部署，请列出详细的安装步骤。
以下是为您提供的无代码部署本地大模型、智能体和知识库的详细安装步骤： 1. 硬件评估：您的笔记本电脑配置为 14 代 i7 CPU、32G 内存、1TB 硬盘、1 张 RTX4070 显卡，基本满足部署要求。但需要注意，运行内存最低 32GB，越高越好，最低配可能会经常爆显存。建议将软件和模型部署在 SSD（固态硬盘）上，以提高加载模型的速度。 2. 选择合适的部署工具：ComfyUI 是一个相对配置要求较低、系统资源占用少、出图速度快的工具。它最低可在小于 3G 的 GPU 上运行，甚至没有 GPU 光用 CPU 也可以，但速度极慢。SDXL 出来后提高了运行配置，最低需要 8GB 显存+32GB 运行内存，12GB 流畅运行，推荐 16GB 以上。 3. 安装准备：如果您的电脑能顺畅清晰地玩 3A 游戏，那么运行相关部署工具一般也没问题。 4. 预算和需求：根据您的需求和预算来选择合适的配置。例如，如果有做 AIGC 视频、建模渲染和炼丹（lora）的需求，可能需要更高的配置。 请注意，以上步骤仅为参考，实际部署过程可能会因具体情况而有所不同。
2025-03-26
ai为何使用GPU而不是CPU
AI 使用 GPU 而不是 CPU 主要有以下原因： 1. 强大的计算能力：GPU 在并行处理大量数据方面具有显著优势。例如，同年《Largescale Deep Unsupervised Learning using Graphics Processors》这篇论文指出，利用 GPU 比 CPU 快 70 倍，能将数周的工作压缩到几天甚至一天完成。 2. 适应深度学习需求：大型神经网络、输入的多个变量以及有效的反向传播 GPU 实现等方面，GPU 表现出色。如 MNIST 数据库能达到令人惊叹的 0.35%错误率。 3. 处理图形相关运算：GPU 原本就是为处理图像和图形相关运算工作而设计，其采用的核心技术如硬件 T&L 等，适合 AI 中的图形处理任务。 4. 分担 CPU 工作：GPU 的诞生源自对 CPU 的减负，使显卡减少对 CPU 的依赖，并进行部分原本 CPU 的工作。 5. 算力优势：算力可以直接转化为 GPU，一张显卡中的 GPU 是计算能力的关键。 6. 适应 AI 模型需求：当今所有 AI 模型都在使用大量专用芯片的 GPU 卡上运行。例如 NVIDIA A100 GPU 有 512 个“张量核心”，能大幅提高计算效率。但实际应用中，也存在一些限制，如数据传输、内存容量和优化方法等问题。
2025-02-14
自定义采样器（高级） Expected all tensors to be on the same device，but found at least two devices，cuda：0 and cpu！（when checking argument for argument mat2 in method wrapper_CUDA_mm）
以下是关于“自定义采样器（高级）”中“Expected all tensors to be on the same device，but found at least two devices，cuda：0 and cpu！（when checking argument for argument mat2 in method wrapper\_CUDA\_mm）”错误的解决办法： 错误原因：Expected all tensors to be on the same device,but found at least two devices,cuda:0 and cpu! 对应插件地址：https://github.com/sipie800/ComfyUIPuLIDFluxEnhanced 资料链接： 百度网盘：通过网盘分享的文件：ComfyUI_PuLID_Flux_ll 链接:https://pan.baidu.com/s/1dMLAb4s0vroO9Zk6ecKb7Q?pwd=cycy 提取码:cycy 来自百度网盘超级会员 v5 的分享 说明文档：https://www.xiaobot.net/post/b98d55699a754b9baac242a3e285be94 由于 AI 技术更新迭代，请以文档更新为准 更多内容收录在：https://xiaobot.net/p/GoToComfyUI 网盘：https://pan.quark.cn/s/129886bbcc61 相关链接： ComfyUI_PuLID_Flux_ll ：https://github.com/lldacing/ComfyUI_PuLID_Flux_ll?tab=readmeovfile guozinan/PuLID 模型：https://huggingface.co/guozinan/PuLID/tree/main
2025-02-03
RuntimeError: All input tensors need to be on the same GPU, but found some tensors to not be on a GPU
以下是对您所遇到的报错“RuntimeError: All input tensors need to be on the same GPU, but found some tensors to not be on a GPU”的一些可能的解决方案： 1. 检查您的代码和模型设置，确保所有输入张量都被正确地分配到同一个 GPU 上。 2. 对于与显存相关的问题，如爆显存的情况，在训练时可以尝试调小批量大小，在推理时可以使用强制切片。 3. 调大虚拟内存，可能有助于解决一些与内存相关的报错。 同时，在处理与 AI 相关的报错时，还可能会遇到其他类似的问题，例如： 1. 页面文件太小，无法完成操作。解决方法是增大系统虚拟内存大小。 2. 出现“torch.cuda.OutOfMemoryError: CUDA out of memory”报错，通常是爆显存了。 3. 遇到“DataLoader workerexited unexpectedly”报错，可把虚拟内存再调大一点。 4. “CUDA error: CUBLAS_STATUS_NOT_INITIALIZED when calling 'cublasCreate'”报错，一般也是爆显存。 5. “'HParams' object has no attribute 'xxx'”报错，可能是无法找到音色，一般是配置文件和模型没对应，打开配置文件拉到最下面查看是否有训练的音色。 6. “The expand size of the tensor at nonsingleton dimension 0”报错，可把 dataset/44k 下的内容全部删除，重新走一遍预处理流程。 7. “Given groups=1, weight of size to have 256 channels, but got 768 channels instead”报错，可能是 vec256 的模型用了 vec768 的配置文件，反之亦然，请参考旧模型兼容，确认配置文件和模型维度对应。 8. “配置文件中的编码器与模型维度不匹配”报错，可能是在修改配置文件中的“speech_encoder”时修改错了，检查配置文件中的“ssl_dim”一项，如果这项是 256，那您需要确认配置文件和模型维度的对应关系。
2025-01-17
常见GPU卡介绍与比较
以下是常见 GPU 卡的介绍与比较： 在选择 GPU 作为 AI 基础设施时，需要考虑多个因素： 训练与推理方面：训练大型 Transformer 模型通常需要在机器集群上完成，最好是每台服务器有多个 GPU、大量 VRAM 以及服务器之间的高带宽连接。许多模型在 NVIDIA H100 上最具成本效益，但获取较难且通常需要长期合作承诺。如今，NVIDIA A100 常用于大多数模型训练。对于大型语言模型（LLM）的推理，可能需要 H100 或 A100，而较小的模型如 Stable Diffusion 则对 VRAM 需求较少，初创公司也会使用 A10、A40、A4000、A5000 和 A6000 甚至 RTX 卡。 内存要求方面：大型 LLM 的参数数量众多，无法由单张卡容纳，需要分布到多个卡中。 硬件支持方面：虽然绝大多数工作负载在 NVIDIA 上运行，但也有公司开始尝试其他供应商，如谷歌 TPU 和英特尔的 Gaudi2，但这些供应商面临的挑战是模型性能高度依赖软件优化。 延迟要求方面：对延迟不太敏感的工作负载可使用功能较弱的 GPU 以降低计算成本，而面向用户的应用程序通常需要高端 GPU 卡来提供实时用户体验。 峰值方面：生成式 AI 公司的需求经常急剧上升，在低端 GPU 上处理峰值通常更容易，若流量来自参与度或留存率较低的用户，以牺牲性能为代价使用较低成本资源也有意义。 此外，算力可以理解为计算能力，在电脑中可直接转化为 GPU，显卡就是 GPU，除了 GPU 外，显存也是重要参数。GPU 是一种专门做图像和图形相关运算工作的微处理器，其诞生是为了给 CPU 减负，生产商主要有 NVIDIA 和 ATI。
2025-01-06
GPU的计算特性
GPU（图形处理器）具有以下计算特性： 1. 专门在个人电脑、工作站、游戏机和一些移动设备（如平板电脑、智能手机等）上做图像和图形相关运算工作的微处理器。 2. 诞生源自对 CPU 的减负，使显卡减少了对 CPU 的依赖，并进行部分原本 CPU 的工作，尤其是在 3D 图形处理时。 3. 所采用的核心技术有硬件 T&L（几何转换和光照处理）、立方环境材质贴图和顶点混合、纹理压缩和凹凸映射贴图、双重纹理四像素 256 位渲染引擎等，硬件 T&L 技术可以说是 GPU 的标志。 4. 生产商主要有 NVIDIA 和 ATI。 5. 在矩阵乘法方面表现出色，早期使用游戏用的 GPU 能使运算速度提高 30 倍。 6. 随着 AI 领域的发展而不断发展，例如在训练神经网络方面发挥重要作用。
2025-01-06
常见GPU卡介绍与比较
以下是常见 GPU 卡的介绍与比较： 在 AI 基础设施的考虑因素中，比较 GPU 时需要关注以下几个方面： 训练与推理： 训练 Transformer 模型除了模型权重外，还需要存储 8 字节的数据用于训练。内存 12GB 的典型高端消费级 GPU 几乎无法用于训练 40 亿参数的模型。 训练大型模型通常在机器集群上完成，最好是每台服务器有多个 GPU、大量 VRAM 以及服务器之间的高带宽连接。 许多模型在 NVIDIA H100 上最具成本效益，但截至目前很难找到在 NVIDIA H100 上运行的模型，且通常需要一年以上的长期合作承诺。如今，更多选择在 NVIDIA A100 上运行大多数模型训练，但对于大型集群，仍需要长期承诺。 内存要求： 大型 LLM 的参数数量太多，任何卡都无法容纳，需要分布到多个卡中。 即使进行 LLM 推理，可能也需要 H100 或 A100。但较小的模型（如 Stable Diffusion）需要的 VRAM 要少得多，初创公司也会使用 A10、A40、A4000、A5000 和 A6000，甚至 RTX 卡。 硬件支持： 虽然绝大多数工作负载都在 NVIDIA 上运行，但也有一些公司开始尝试其他供应商，如谷歌 TPU、英特尔的 Gaudi2。 这些供应商面临的挑战是，模型的性能往往高度依赖于芯片的软件优化是否可用，可能需要执行 PoC 才能了解性能。 延迟要求： 对延迟不太敏感的工作负载（如批处理数据处理或不需要交互式 UI 响应的应用程序）可以使用功能较弱的 GPU，能将计算成本降低多达 3 4 倍。 面向用户的应用程序通常需要高端 GPU 卡来提供引人入胜的实时用户体验，优化模型是必要的，以使成本降低到可管理的范围。 峰值： 生成式 AI 公司的需求经常急剧上升，新产品一经发布，请求量每天增加 10 倍，或者每周持续增长 50%的情况并不罕见。 在低端 GPU 上处理这些峰值通常更容易，因为更多的计算节点可能随时可用。如果这种流量来自于参与度较低或留存率较低的用户，那么以牺牲性能为代价使用较低成本的资源也是有意义的。 此外，算力可以直接转化成 GPU，电脑里的显卡就是 GPU。一张显卡除了 GPU 外，显存也是很重要的参数。GPU 的生产商主要有 NVIDIA 和 ATI。GPU 作为一种专门在个人电脑、工作站、游戏机和一些移动设备上做图像和图形相关运算工作的微处理器，其诞生源自对 CPU 的减负，使显卡减少了对 CPU 的依赖，并进行部分原本 CPU 的工作。
2025-01-06
GPU的计算特性
GPU（图形处理器）具有以下计算特性： 1. 专门在个人电脑、工作站、游戏机和一些移动设备（如平板电脑、智能手机等）上做图像和图形相关运算工作的微处理器。 2. 诞生源自对 CPU 的减负，使显卡减少了对 CPU 的依赖，并进行部分原本 CPU 的工作，尤其是在 3D 图形处理时。 3. 所采用的核心技术有硬件 T&L（几何转换和光照处理）、立方环境材质贴图和顶点混合、纹理压缩和凹凸映射贴图、双重纹理四像素 256 位渲染引擎等，硬件 T&L 技术可以说是 GPU 的标志。 4. 生产商主要有 NVIDIA 和 ATI。 5. 在矩阵乘法方面表现出色，早期使用 GPU 训练神经网络，能使运算速度提高 30 倍。
2025-01-06