[ ComfyUI ] ComfyUI FLUX-GGUF 사용하기, Flux를 가볍게 사용하기

지난 블로그에서 FLUX의 기본 사용방법에 대해 작성했습니다.

FLUX 모델은 용량이 매우 큽니다.

지난 블로그에서 다루었던 FLUX-dev 모델의 크기는 약 23GB 정도였습니다.

 

오늘은 기본 모델이 아닌 기본 모델을 조금 가볍게 만든

양자화 모델 GGUF를 사용하는 방법에 대해 알아보겠습니다.

 

 모델 다운로드

 

GGUF 파일은 아래 링크에서 다운로드 가능합니다.

※ GGUF : 다운로드

 

링크에 접속하시면 아래 그림과 같은 모습이 보입니다.

 

Q4~Q8 모델을 다운로드하여 테스트해보신 후

자신의 컴퓨터 사양에 맞는 적절한 모델을 찾으시면 됩니다.

 

Q4~Q8 모델을 추천드리는 이유는

FLUX 모델을 분석을 한 것은 아니지만, 다른 LLM 모델을 분석한 것을 보았을 때

FP16 원본과 Q8~Q1을 비교했을 시

Q4~Q8 모델의 차이는 크지 않았지만,

그 이하로 내려갈 수록 성능하락이 급격해졌다는 분석이 있습니다. 

※ GGUF 모델 비교 : 바로가기

 

적절한 모델을 다운로드하신 후에 아래 폴더에 복사하시면 됩니다.

ComfyUI\models\diffusion_models

 

 ComfyUI 준비하기(CUSTOM NODE 설치하기)

 

ComfyUI 실행 후 Manager를 실행하여 

ComfyUI-GGUF를 먼저 설치하시면 됩니다.

 

설치 후 ComfyUI를 재시작 하시면 

설치한 노드를 사용할 수 있습니다.

 

728x90

 WorkFlow 만들기

 

이제 WorkFlow를 만들어 보겠습니다.

먼저 지난 블로그에서 다루었던 FLUX 기본 WorkFlow를 불러옵니다.

아래 링크의 블로그에서 다운로드가 가능합니다.

※ FLUX 기본 WorkFlow : 바로가기

 

먼저 Flux 기본 WorkFlow의 Load Diffusion Model과 DualCLIPLoader를 삭제합니다.

 

그다음 ComfyUI 화면의 빈 공간을 더블클릭하여 GGUF로 검색하시면

아래 그림의 노드 확인이 가능합니다.

 

이 두개의 노드를 추가해 줍니다.

그 후 Unet Loader(GGUF)는 BasicGuider 노드와 BasicScheduler 노드와 연결하고

DualCLIPLoader(GGUF)는 CLIPTextEncodeFlux 노드와 연결해 줍니다.

 

그다음 아래 그림과 같이 설정을 해줍니다.

 

반응형

 이미지 생성하기

 

아래 프롬프트를 입력하고 이미지 생성을 해보겠습니다.

Amateur cooking enthusiast shares their latest creation on Reddit, a mouthwatering Clafoutis aux Pommes captured with the high-resolution camera of an iPhone 15. The dish is artfully arranged with slices of crisp golden apples nestled in a soft, custard-like batter, surrounded by an assortment of fresh ingredients that promise a delightful blend of flavors.

 

아래 그림과 같이 이미지가 생성되었습니다.

 

10여 장 정도의 이미지를 생성해 보았을 때 

한 장의 이미지를 생성하는데 대략 36초~37초 정도 시간이 소요되어

기본 Dev 모델에 비해 약 10여 초 정도 빨라졌습니다.

flux_GGUF_Basic_WorkFlow.json

0.01MB