Bitget App
交易“智”变
行情交易合约跟单策略理财Web3
如何在功能较弱的PC上运行强大的Flux AI图像生成器

如何在功能较弱的PC上运行强大的Flux AI图像生成器

币界网2024/08/12 23:55
作者:币界网
币界网报道:

当Flux几天前突然出现时,它很快就赢得了开源图像生成器皇冠上的明珠的声誉。它与Midjourney的美学能力相匹配,同时在快速理解和文本生成方面绝对压倒了它。捕获?你需要一个拥有超过24GB VRAM(甚至更多)的强大GPU才能让它运行。这比大多数游戏设备都要强大,更不用说你的普通工作笔记本电脑了。

但是,人工智能社区从不放弃挑战,他们卷起集体袖子开始工作。通过量化的魔力——一个压缩模型数据的花哨术语——他们设法将Flux缩小到更易于管理的大小,而不会牺牲太多的艺术魔力。

让我们把它分解一下:最初的Flux型号使用了全32位精度(FP32),这就像驾驶一级方程式赛车去杂货店——对大多数人来说都是多余的。第一轮优化为我们带来了FP16和FP8版本,每个版本都以一点点的准确性换取了效率的大幅提高。FP8版本已经改变了游戏规则,让拥有6GB GPU(想想RTX 2060)的人加入了这场盛宴。

为此,您需要禁用系统内存回调以实现稳定扩散,这样您的GPU就可以将其部分工作从内部VRAM卸载到系统RAM。这避免了臭名昭著的OOM(内存不足)错误,尽管其运行速度要慢得多。要禁用此选项,请按照Nvidia的教程进行操作。

但要戴上帽子,因为它会变得更好。

人工智能世界的真实MVP进一步突破了界限,发布了4位量化模型。这些坏男孩使用一种叫做“正常点”(NP)量化的东西,它提供了一个质量和速度的最佳点,让你的土豆电脑感觉像是得到了涡轮增压。NP量化不会像FP量化那样降低质量,因此一般来说,运行此模型可以在高速下获得很好的结果,只需要很少的资源。

这几乎好得令人难以置信,但这是真的。

在fp8和np4中使用Flux Dec获得的结果。同样的提示,不同的种子。

如何在低端GPU上运行Flux

那么,你实际上是如何运行这个简化版本的Flux的呢?首先,你需要一个像SwarmUI、ComfyUI或Forge这样的界面。我们喜欢ComfyUI的多功能性,但在我们的测试中,Forge的速度比其他界面提高了约10-20%,所以这就是我们在这里使用的。

前往Forge GitHub仓库(https://github.com/lllyasviel/stable-diffusion-webui-forge)并下载一键安装包。它是开源的,经过社区审查,所以这里没有粗略的业务。

对于NP4 Flux型号本身,Civit AI是您的一站式服务。你有两种口味可供选择:Schnell(速度)和Dex(质量)。两者都可以从这个页面下载。

一旦你下载了所有内容,就到了安装时间:

    解压缩Forge文件并打开Forge文件夹。运行update.bat以获取所有依赖项。启动run.bat以完成设置。

现在,将这些闪亮的新Flux模型放入Forge安装中的webuimodelsStable扩散文件夹中。刷新Forge web界面(如果你感觉老派,可以重新启动),然后砰的一声——你在做生意。

专业提示:要真正从复活的装备中挤出每一滴性能,请降低分辨率。与其选择全SDXL(1024x1024)分辨率,不如尝试更适中的SD1.5尺寸(768x768、512x768等)。你总是可以稍后升级,并使用Adetailer来处理那些脆脆的细节。

让我们谈谈数字:在配备6GB VRAM的RTX 2060上,Flux Schnell在NP4模式下可以在大约30秒内生成512x768的图像,而FP8版本需要107秒。想做大吗?用高分辨率修复将那个坏男孩升级到1536x1024大约需要五分钟。

想在不破坏GPU的情况下做大吗?更好的选择是从SD1.5分辨率的Flux Schnell开始,然后通过img2img发送该创建。使用低降噪强度的标准稳定扩散模型(SD1.5或SDXL)进行升级。整个过程大约需要50秒,与MidJourney在缓慢的一天中的输出相当。您将在不熔化图形的情况下获得令人印象深刻的大规模结果。

真正的踢球者?据报道,一些疯狂的家伙让Flux Schnell NP4在GTX 1060上运行,VRAM为3GB,Flux Dev每次迭代需要7.90秒。我们谈论的是一个几乎依赖生命支持的GPU,它正在这里产生尖端的人工智能艺术。对于几乎符合养老金条件的硬件来说,这并不算太破旧。

0

免责声明:文章中的所有内容仅代表作者的观点,与本平台无关。用户不应以本文作为投资决策的参考。

PoolX:锁仓获得新代币空投
不要错过热门新币,且APR 高达 10%+
立即参与!

你也可能喜欢

黄金波动加剧,分析师不再一致看涨!多头显露疲态?

黄金波动性加剧,分析师即使继续乐观看涨,也默默下调了明年的目标价。更有策略师直言,短期内金价可能已触顶。

Jin102024/11/26 12:00

84万亿美元“巨额财富转移”到来之际,巴菲特给出他的建议

全球即将迎来约84万亿美元的“巨额财富转移”,巴菲特主张不要逃避遗嘱等不愉快的话题,以免埋下家庭冲突的隐患。

Jin102024/11/26 12:00

伊朗罕见指责欧佩克+:几乎没留下恢复石油供应的余地!

据称,一些较小的非洲成员国可能会“退群”,欧佩克+已将12月1日的石油政策会议改成线上会议。

Jin102024/11/26 12:00

长期“炮轰”鲍威尔的知名议员警告:不要干预美联储

参议员沃伦称,如果特朗普政府像贝森特所提议的那样干预美联储的独立性,那将是一个严重的错误。

Jin102024/11/26 12:00