麦克雷 Mavom.cn

标题: flux生图这么慢的吗 [打印本页]

作者: 艾的民 时间: 前天 10:19
标题: flux生图这么慢的吗
rtx4000 16g  (2070的核心)
用小马和光辉800*1200 30步加4个lora也才18秒一张，
flux d gguf q8 11.8g的  700*900  没加lora 10步直接爆显存动用虚拟显存了，巨慢要几分钟
8.6g 的flux gguf q5  也爆了点显存，反正生成到最后也是99%显存占用率。出图2分钟左右。
是我不会弄还是2070核心  16g就玩不了flux
生成一两分钟太慢了，我的需求最好是40秒内，
我玩酒馆文生图的，用来配插图，聊完一轮等2分钟才出图等不了。

作者: 艾的民 时间: 前天 10:19
我看c站上模型介绍11g的都用用q8了

作者: Russellzend 时间: 前天 10:20
gguf 会慢一些，带不动才下这种的

作者: susanzw2 时间: 前天 10:20
700*900 没加lora 10步，直接爆显存动用虚拟显存了，巨慢要几分钟
用虚拟显存肯定就慢了，但从你这句描述来看，感觉你这个不太正常吧......

作者: q80417655 时间: 前天 10:20
gguf减少了显存用量，并没有提速

作者: benjaminvm1 时间: 前天 10:21
3分钟一张图，我受不了

作者: taly21 时间: 前天 10:21
16g出图够用了，核心问题而已。20系核心只支持到fp16，出图比fp8慢一倍，显存占用更多，自然就慢了。

作者: 13661886997 时间: 前天 10:22
我用了一圈，3060 12g，能稳定快速出图的，就nf4和svq两种量化，这两还不能上lora

欢迎光临麦克雷 Mavom.cn (https://www.mavom.cn/)