스테이블 디퓨전(Stable Diffusion) 완벽 설정 가이드: 초보자부터 전문가까지 필수 세팅 총정리

인공지능 이미지 생성의 양대 산맥 중 하나이자, 압도적인 커스텀 자유도를 자랑하는 스테이블 디퓨전(Stable Diffusion). 미드저니(Midjourney)가 편안한 유치원버스 같다면, 스테이블 디퓨전은 직접 기어를 조작하며 트랙을 달리는 수동 스포츠카와 같습니다. 그만큼 초기 **’설정(Setting)’**이 결과물의 퀄리티와 작업 속도를 좌우합니다.

이번 글에서는 스테이블 디퓨전 로컬 환경(AUTOMATIC1111 WebUI 기준)을 처음 구축했거나, 성능을 극대화하고 싶은 분들을 위해 꼭 알아야 할 핵심 설정과 꿀팁을 알차게 정리해 드립니다.

1. 최적의 결과물을 위한 WebUI 환경 설정 (Settings)

스테이블 디퓨전을 처음 켜면 기본 인터페이스가 단조롭고 모델을 바꿀 때마다 메뉴를 찾아 들어가야 하는 번거로움이 있습니다. 상단 메뉴의 Settings 탭에서 다음 항목들을 설정해 보세요.

💡 Quicksettings List (빠른 설정 목록) 추가하기

모델(Checkpoint)이나 VAE를 바꿀 때마다 설정창을 들락거릴 필요 없이, 메인 화면 상단에 바로 뜨도록 설정할 수 있습니다.

• Settings > User interface > Quicksettings list 항목으로 이동합니다.
• 입력창에 아래 코드를 추가해 줍니다.

  sd_model_checkpoint, sd_vae, CLIP_stop_at_last_layers
  

• 적용 방법: 상단의 Apply settings 클릭 후 **Reload UI**를 누르면 메인 화면 상단에 모델, VAE, Clip Skip을 바로 바꿀 수 있는 드롭다운 메뉴가 생성됩니다.

2. 퀄리티를 높이는 핵심 파라미터 세팅 (txt2img)

텍스트로 이미지를 생성하는 txt2img 탭에는 결과물에 지대한 영향을 주는 파라미터들이 있습니다. 감으로 맞추기보다 아래 표준 가이드를 참고해 보세요.

| 파라미터 | 권장 설정값 | 설명 |
| :— | :— | :— |
| Sampling Method | DPM++ 2M Karras 또는 Euler a | 이미지를 구체화하는 알고리즘입니다. 디테일과 속도의 균형이 좋은 DPM++ 2M Karras를 가장 추천합니다. |
| Sampling Steps | 20 ~ 30 | 반복 계산 횟수입니다. 너무 낮으면 그림이 뭉개지고, 너무 높으면 시간만 오래 걸리므로 25 내외가 적당합니다. |
| CFG Scale | 7.0 ~ 9.0 | 프롬프트 명령을 얼마나 엄격하게 따를지 결정합니다. 너무 높으면(15 이상) 색감이 타버리고(Deepfried), 너무 낮으면 AI 마음대로 그림을 그립니다. |
| Size (해상도) | 512×512 (SD 1.5) / 1024×1024 (SDXL) | 원본 모델이 학습한 권장 해상도로 시작해야 왜곡(다중 인물 등)이 적습니다. 이후 Hi-Fi Fix 등을 활용해 고해상도로 키워야 합니다. |

3. 필수 모델 및 VAE 세팅

스테이블 디퓨전의 영혼은 바로 **모델(Checkpoint)**과 **VAE(Variational Autoencoder)**입니다.

• 체크포인트(모델) 배치 위치:
  Civitai 등에서 다운로드한 .safetensors 파일은 아래 경로에 넣어야 WebUI에서 인식합니다.

  stable-diffusion-webui / models / Stable-diffusion

• VAE 설정:
  VAE는 이미지의 색감과 명암을 더 선명하고 자연스럽게 보정해 주는 필터 역할을 합니다. 최신 모델들은 대부분 VAE가 내장(Baked-in)되어 있지만, 별도로 다운받아야 하는 경우 models/VAE 폴더에 넣고 앞서 설정한 Quicksettings를 통해 적용해 줍니다.

4. 실수를 줄이는 네거티브 프롬프트(Negative Prompt) 공식

원하지 않는 요소(괴상한 손, 저화질, 깨진 해부학 등)를 차단하는 네거티브 프롬프트는 고정값으로 미리 저장해 두면 편리합니다.

추천 네거티브 프롬프트 템플릿:

lowres, bad anatomy, bad hands, text, error, missing fingers, extra digit, fewer digits, cropped, worst quality, low quality, normal quality, jpeg artifacts, signature, watermark, username, blurry

이 내용을 WebUI 하단 Negative prompt 칸에 넣어두고 시작하면 웬만한 형태의 일그러짐은 방지할 수 있습니다.

5. 작업 속도를 가속화하는 최적화 명령어 (webui-user.bat)

그래픽카드(GPU)의 VRAM 용량이 부족해 에러(CUDA out of memory)가 난다면, 실행 파일인 webui-user.bat 파일을 메모장에 열어 옵션을 수정해야 합니다.

• 메모장으로 webui-user.bat 우클릭 -> 편집
• set COMMANDLINE_ARGS= 뒤에 아래의 인자들을 용도에 맞게 추가해 보세요.
  • --xformers: 연산 속도를 높이고 VRAM을 절약해 줍니다 (가장 추천).
  • --medvram 또는 --lowvram: 저사양 그래픽카드(VRAM 4GB~6GB 사용자)에서 튕김 현상을 방지합니다.

마치며

스테이블 디퓨저는 처음 진입장벽이 조금 있지만, 위와 같이 인터페이스와 기본 파라미터를 탄탄하게 세팅해 두면 나만의 멋진 예술 작품, 캐릭터, 실사풍 이미지를 자유자재로 뽑아낼 수 있는 강력한 무기가 됩니다.