스테이블 디퓨전으로 ai 이미지 만들기를 아무것도 모른 상태로 그냥 따라했는데, 뭔가 좀더 알아보고 싶었습니다.
마침 요즘 chatgpt가 프로그램 소스코드도 만들어준다는 말을 들었습니다. 소스코드도 만들어 주는데 해석도 가능하겠지 싶어서 chatgpt에게 스테이블디퓨전을 실행하는 스크립트를 주고 물어봤습니다.
<나>
!curl -Lo memfix.zip https://github.com/nolanaatama/sd-webui/raw/main/memfix.zip
!unzip /content/memfix.zip
!apt install -qq libunwind8-dev
!dpkg -i *.deb
%env LD_PRELOAD=libtcmalloc.so
!rm *
!pip install --upgrade fastapi==0.90.1
!git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui
!git clone https://github.com/nolanaatama/sd-webui-tunnels /content/stable-diffusion-webui/extensions/sd-webui-tunnels
!git clone https://github.com/Mikubill/sd-webui-controlnet /content/stable-diffusion-webui/extensions/sd-webui-controlnet
!git clone https://github.com/fkunn1326/openpose-editor /content/stable-diffusion-webui/extensions/openpose-editor
!git clone https://github.com/yfszzx/stable-diffusion-webui-images-browser /content/stable-diffusion-webui/extensions/stable-diffusion-webui-images-browser
!git clone https://github.com/DominikDoom/a1111-sd-webui-tagcomplete /content/stable-diffusion-webui/extensions/a1111-sd-webui-tagcomplete
# Model Code
!curl -Lo /content/stable-diffusion-webui/models/Stable-diffusion/chilloutmixni.safetensors https://huggingface.co/nolanaatama/chomni/resolve/main/chomni.safetensors
# ControlNet
!curl -Lo /content/stable-diffusion-webui/extensions/sd-webui-controlnet/models/control_canny.safetensors https://huggingface.co/webui/ControlNet-modules-safetensors/resolve/main/control_canny-fp16.safetensors
!curl -Lo /content/stable-diffusion-webui/extensions/sd-webui-controlnet/models/control_depth.safetensors https://huggingface.co/webui/ControlNet-modules-safetensors/resolve/main/control_depth-fp16.safetensors
!curl -Lo /content/stable-diffusion-webui/extensions/sd-webui-controlnet/models/control_hed-fp16.safetensors https://huggingface.co/webui/ControlNet-modules-safetensors/resolve/main/control_hed-fp16.safetensors
!curl -Lo /content/stable-diffusion-webui/extensions/sd-webui-controlnet/models/control_mlsd-fp16.safetensors https://huggingface.co/webui/ControlNet-modules-safetensors/resolve/main/control_mlsd-fp16.safetensors
!curl -Lo /content/stable-diffusion-webui/extensions/sd-webui-controlnet/models/control_normal-fp16.safetensors https://huggingface.co/webui/ControlNet-modules-safetensors/resolve/main/control_normal-fp16.safetensors
!curl -Lo /content/stable-diffusion-webui/extensions/sd-webui-controlnet/models/control_openpose-fp16.safetensors https://huggingface.co/webui/ControlNet-modules-safetensors/resolve/main/control_openpose-fp16.safetensors
!curl -Lo /content/stable-diffusion-webui/extensions/sd-webui-controlnet/models/control_scribble-fp16.safetensors https://huggingface.co/webui/ControlNet-modules-safetensors/resolve/main/control_scribble-fp16.safetensors
!curl -Lo /content/stable-diffusion-webui/extensions/sd-webui-controlnet/models/control_seg-fp16.safetensors https://huggingface.co/webui/ControlNet-modules-safetensors/resolve/main/control_seg-fp16.safetensors
import shutil
shutil.rmtree('/content/stable-diffusion-webui/embeddings')
%cd /content/stable-diffusion-webui
!git checkout 0cc0ee1
!git clone https://huggingface.co/nolanaatama/embeddings
# Web UI tunnel (use cloudflare by default)
!COMMANDLINE_ARGS="--disable-safe-unpickle --no-half-vae --xformers --reinstall-xformers --enable-insecure-extension- --gradio-queue --cloudflared" REQS_FILE="requirements.txt" python launch.py
# If cloudflare failed to start, we may try these options:
# Change '--cloudflared' to '--remotemoe' on the COMMANDLINE_ARGS line above to use remotemoe tunnel
# Change '--cloudflared' to '--localhostrun' to use localhost.run tunnel
# Change '--cloudflared' to '--share' to use gradio tunnel
This appears to be a script written in Python that sets up a web UI for running models and allows for tunneling through various services.
The script first downloads and installs various dependencies and packages, including libunwind8-dev, which is a library for generating stack traces in C++ programs. It then clones several Git repositories, including stable-diffusion-web
<나>
이거 설명좀 해줘 한글로
안녕하세요! 이 코드는 파이썬으로 작성된 스크립트로, 모델을 실행하고 다양한 서비스를 통해 터널링 할 수 있는 웹 UI를 설정하는 것입니다.
먼저, libunwind8-dev와 같은 종속성 및 패키지를 다운로드하고 설치합니다. libunwind8-dev는 C++ 프로그램에서 스택 추적을 생성하는 라이브러리입니다. 그런 다음, stable-diffusion-webui와 같은 여러 Git 리포지토리를 복제합니다. stable-diffusion-webui는 모델을 실행하고 터널링하는 데 사용되는 프레임 워크입니다.
모델 코드와 ControlNet도 다운로드하여 설치합니다. ControlNet은 영상 처리에 사용되는 신경망입니다. 이 코드는 또한 /content/stable-diffusion-webui/embeddings 폴더를 삭제하고, 이전 버전으로 다운그레이드하는 작업도 수행합니다.
마지막으로, gradio-queue, cloudflared 및 다른 옵션을 사용하여 웹 UI 터널을 시작합니다. 이 옵션들은 모델을 실행하고 사용자가 웹 UI에 접근할 수 있도록 합니다. 이 중 하나가 실패하면 다른 옵션을 시도할 수 있습니다.
이 코드는 모델을 실행하고 사용자가 모델에 접근할 수 있도록 하는 웹 UI를 구성하는 데 사용됩니다.
<나>
줄마다 상세하게 설명해줘
1. !curl -Lo memfix.zip https://github.com/nolanaatama/sd-webui/raw/main/memfix.zip: curl을 사용하여 메모리 관련 문제를 해결하기 위한 파일인 memfix.zip을 다운로드합니다.
2. !unzip /content/memfix.zip: 다운로드한 memfix.zip 파일을 압축 해제합니다.
3. !apt install -qq libunwind8-dev: libunwind8-dev 라이브러리를 설치합니다.
4. !dpkg -i *.deb: 다운로드한 deb 파일을 설치합니다.
5. %env LD_PRELOAD=libtcmalloc.so: LD_PRELOAD 환경 변수를 설정하여 tcmalloc 라이브러리를 사용합니다.
6. !rm *: 현재 디렉토리에 있는 모든 파일을 삭제합니다.
7. !pip install --upgrade fastapi==0.90.1: FastAPI 라이브러리를 설치하고 버전을 0.90.1로 업그레이드합니다.
8. !git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui: stable-diffusion-webui 프로젝트를 GitHub에서 클론합니다.
9. !git clone https://github.com/nolanaatama/sd-webui-tunnels /content/stable-diffusion-webui/extensions/sd-webui-tunnels: sd-webui-tunnels을 다운로드하고 stable-diffusion-webui의 확장 기능 디렉토리에 복사합니다.
10. !git clone https://github.com/Mikubill/sd-webui-controlnet /content/stable-diffusion-webui/extensions/sd-webui-controlnet: sd-webui-controlnet을 다운로드하고 stable-diffusion-webui의 확장 기능 디렉토리에 복사합니다.
11. !git clone https://github.com/fkunn1326/openpose-editor /content/stable-diffusion-webui/extensions/openpose-editor: openpose-editor을 다운로드하고 stable-diffusion-webui의 확장 기능 디렉토리에 복사합니다.
12. !git clone https://github.com/yfszzx/stable-diffusion-webui-images-browser /content/stable-diffusion-webui/extensions/stable-diffusion-webui-images-browser: stable-diffusion-webui-images-browser을 다운로드하고 stable-diffusion-webui의 확장 기능 디렉토리에 복사합니다.
13. !git clone https://github.com/DominikDoom/a1111-sd-webui-tagcomplete /content/stable-diffusion-webui/extensions/a1111-sd-webui-tagcomplete: a1111-sd-webui-tagcomplete을 다운로드하고 stable-diffusion-webui의 확장 기능 디렉토리에 복사합니다.
14. !curl -Lo /content/stable-diffusion-webui/models/Stable-diffusion/chilloutmixni.safetensors https://huggingface.co/nolanaatama/chomni/resolve/main/chomni.safetensors: Hugging Face에서 다운로드한 모델 파일인 chilloutmix
<나>
좀더 자세하게 설명좀 해봐 처음 #model code 전까지
코드의 첫 부분은 Colab에서 실행할 수 있는 몇 가지 명령어를 포함합니다. 이 명령어들은 필요한 라이브러리와 모듈들을 설치하고, 모델 코드와 여러 확장 프로그램들을 클론합니다.
!curl -Lo memfix.zip https://github.com/nolanaatama/sd-webui/raw/main/memfix.zip
!unzip /content/memfix.zip
!curl 명령어는 memfix.zip 파일을 다운로드합니다.
!unzip 명령어는 memfix.zip 파일을 압축 해제합니다.
!apt install -qq libunwind8-dev
!dpkg -i *.deb
!apt 명령어는 libunwind8-dev 패키지를 설치합니다.
!dpkg 명령어는 다운로드 한 *.deb 파일들을 설치합니다.
%env LD_PRELOAD=libtcmalloc.so
!rm *
%env 명령어는 libtcmalloc.so 파일을 미리 로드합니다.
!rm 명령어는 현재 디렉토리의 모든 파일을 삭제합니다.
!pip install --upgrade fastapi==0.90.1
!pip 명령어는 FastAPI 버전 0.90.1을 업그레이드합니다.
!git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui
!git clone https://github.com/nolanaatama/sd-webui-tunnels /content/stable-diffusion-webui/extensions/sd-webui-tunnels
!git clone https://github.com/Mikubill/sd-webui-controlnet /content/stable-diffusion-webui/extensions/sd-webui-controlnet
!git clone https://github.com/fkunn1326/openpose-editor /content/stable-diffusion-webui/extensions/openpose-editor
!git clone https://github.com/yfszzx/stable-diffusion-webui-images-browser /content/stable-diffusion-webui/extensions/stable-diffusion-webui-images-browser
!git clone https://github.com/DominikDoom/a1111-sd-webui-tagcomplete /content/stable-diffusion-webui/extensions/a1111-sd-webui-tagcomplete
!git clone 명령어는 GitHub의 여러 저장소들을 클론합니다.
!curl -Lo /content/stable-diffusion-webui/models/Stable-diffusion/chilloutmixni.safetensors https://huggingface.co/nolanaatama/chomni/resolve/main/chomni.safetensors
!curl 명령어는 chilloutmixni.safetensors 모델 파일을 다운로드합니다.
!curl -Lo /content/stable-diffusion-webui/extensions/sd-webui-controlnet/models/control_canny.safetensors https://huggingface.co/webui/ControlNet-modules-safetensors/resolve/main/control_canny-fp16.safetensors
!curl -Lo /content/stable-diffusion-webui/extensions/sd-webui-controlnet/models/control_depth.safetensors https://huggingface.co
<나>
!git clone https://github.com/AUTOMATIC1111/stable-diffusion-webui
!git clone https://github.com/nolanaatama/sd-webui-tunnels /content/stable-diffusion-webui/extensions/sd-webui-tunnels 이걸 쉽게 설명해줘
이 명령어들은 git clone을 사용하여 Github 저장소에서 코드를 다운로드하는 명령어입니다. stable-diffusion-webui와 sd-webui-tunnels 저장소의 코드를 다운로드하여 /content/stable-diffusion-webui 폴더와 /content/stable-diffusion-webui/extensions/sd-webui-tunnels 폴더에 저장합니다.
stable-diffusion-webui는 웹 인터페이스를 제공하는 프레임워크이고 sd-webui-tunnels는 다양한 터널링 옵션을 제공합니다. 이 두 저장소의 코드를 다운로드하여 설치한 후, 터미널에서 stable-diffusion-webui를 실행할 수 있습니다.
<나>
!curl -Lo /content/stable-diffusion-webui/models/Stable-diffusion/chilloutmixni.safetensors https://huggingface.co/nolanaatama/chomni/resolve/main/chomni.safetensors
이것도 설명해줘
위의 명령어는 curl 명령어를 사용하여 모델 파라미터 파일을 다운로드하여 지정된 경로에 저장하는 것입니다.
해당 명령어에서는 curl 명령어를 사용하여 https://huggingface.co/nolanaatama/chomni/resolve/main/chomni.safetensors 에서 chomni.safetensors 모델 파라미터 파일을 다운로드하고, /content/stable-diffusion-webui/models/Stable-diffusion/chilloutmixni.safetensors 경로에 저장하고 있습니다.
즉, 이 명령어는 Stable Diffusion 모델을 학습시키는 데 사용되는 사전 훈련된 모델 파라미터 파일을 다운로드하는 것입니다.
<나>
git clone와 curl 명령어는 파라미터 순서가 다르네?
네, git clone과 curl 명령어는 사용하는 파라미터의 순서가 다릅니다.
git clone 명령어는 다음과 같은 형태로 사용됩니다.
git clone <repository> <directory>
여기서 <repository>는 복제할 Git 저장소의 URL이며, <directory>는 로컬에서 저장소를 저장할 디렉토리 이름입니다.
반면에, curl 명령어는 다음과 같은 형태로 사용됩니다.
curl -Lo <local_file_path> <remote_file_url>
여기서 -Lo는 로컬 파일에 리다이렉션을 하면서, 파일을 쓰기 모드로 열고 저장한다는 의미입니다. <local_file_path>는 저장할 로컬 파일 경로이며, <remote_file_url>은 다운로드할 원격 파일의 URL입니다.
<나>
curl과 git clone는 둘다 외부 저장소의 파일을 로컬로 가져오는거야?
네, 맞습니다. curl 명령어는 URL을 통해 파일을 다운로드하고 로컬로 가져올 수 있고, git clone 명령어는 Git 저장소를 복제하여 로컬 컴퓨터에 가져올 수 있습니다.
<나>
여기서 curl 이 뭐의 약자야?
curl은 "Client for URLs"의 약자로, 커맨드 라인에서 URL을 통해 데이터를 전송하고 받을 수 있는 도구입니다. HTTP, HTTPS, FTP 등의 프로토콜을 지원하며, 주로 데이터 전송과 API 요청을 처리하는데 사용됩니다.
<나>
github에서 다운받는 방법을 모르겠어
GitHub에서 다운로드하는 방법은 다음과 같습니다.
GitHub에서 다운로드하고자 하는 파일이나 프로젝트의 페이지로 이동합니다.
페이지 상단에 있는 초록색 버튼 "Code"를 클릭합니다.
"Download ZIP"을 선택합니다.
다운로드할 위치를 지정한 후 압축을 해제하면 됩니다.
이 외에도 Git을 이용하여 해당 프로젝트를 클론하여 다운로드할 수도 있습니다. 이 경우에는 Git이 설치되어 있어야 하며, 터미널 또는 Git Bash를 사용하여 다음과 같이 명령어를 입력하면 됩니다.
git clone https://github.com/사용자이름/프로젝트이름.git
위 명령어에서 "사용자이름"은 해당 프로젝트를 업로드한 사용자의 GitHub 사용자 이름이고, "프로젝트이름"은 해당 프로젝트의 이름입니다. 이 명령어를 입력하면 현재 위치한 디렉토리에 해당 프로젝트가 다운로드됩니다.
<나>
구글 코랩에서 로컬의 의미는 뭐야?
Google Colab은 클라우드 기반의 Jupyter Notebook 환경입니다. 로컬이라는 용어는 이 환경 내에서 사용자의 개인 컴퓨터를 가리키는 것이 아니라, 사용자가 현재 접속한 클라우드 컴퓨터를 가리킵니다. 이 클라우드 컴퓨터는 사용자가 브라우저에서 Colab을 사용할 때 동적으로 할당되는 가상 머신입니다. 따라서 구글 코랩에서 로컬이란 사용자가 현재 접속한 가상 머신을 의미합니다.
<나>
그럼 항상 모든 데이터를 로컬로 복사해온뒤에야 실행할수있어? git clone나 curl을 이용해서?
아니요, 항상 로컬로 데이터를 복사해오는 것은 아닙니다. 구글 코랩과 같은 클라우드 기반의 환경에서는 로컬이 아닌 클라우드 상에서 바로 작업이 가능합니다.
따라서 필요한 데이터나 모델 등을 구글 드라이브나 다른 클라우드 스토리지에 업로드하고, 해당 경로를 지정하여 바로 활용할 수도 있습니다. 그리고 필요한 경우에만 git clone이나 curl 등의 명령어를 이용하여 외부 저장소로부터 데이터를 가져와서 작업을 수행합니다.
<나>
그럼 처음 물어봤던 스크립트에서 git clone와 curl을 사용했던건 github와 huggingface가 바로 활용할 수있도록 지원하지 않아서 그래?
그렇습니다. 스크립트에서 사용된 git clone 명령어와 curl 명령어는 외부 저장소에서 데이터를 가져오기 위한 명령어입니다. 이러한 명령어를 사용하면, 해당 저장소에서 제공하는 데이터를 쉽게 로컬로 가져와 활용할 수 있습니다. 따라서, 해당 저장소가 바로 사용 가능한 형태로 데이터를 제공하지 않는 경우에는 이러한 명령어를 사용하여 데이터를 가져와야 합니다.
<나>
huggingface의 데이터를 복사해오지 않고 바로 쓸수있도록은 안되는거야?
Hugging Face는 다양한 딥 러닝 모델을 제공하고 있지만, 이러한 모델을 로컬에서 바로 사용하기 위해서는 모델 파일이나 데이터 파일을 다운로드 받아야 합니다. 따라서 복사해오지 않고 바로 사용하는 것은 불가능합니다.
Hugging Face는 모델을 다운로드할 수 있는 API를 제공하고 있으므로, 이를 이용해서 모델을 직접 다운로드하고 사용할 수도 있습니다. 하지만 보통의 경우에는 Git이나 curl 등을 이용해서 데이터를 다운로드하고 사용합니다.
<나>그럼 동일한 데이터를 코랩이 실행되는 구글계정이 아니고 다른 사람의 구글 드라이브에 저장하고 바로 사용하는 건 가능해?
가능합니다. 구글 드라이브를 통해 데이터를 공유하고 다른 사용자들도 접근할 수 있도록 공유 권한을 부여하면, 해당 사용자들은 자신의 구글 계정에서 데이터를 다운로드 받지 않고도 바로 사용할 수 있습니다. 이러한 방식으로 여러 사용자들이 동시에 데이터에 접근하고 작업할 수 있어 효율적인 협업이 가능합니다.
<나>
Jupyter Notebook 란게 뭐야?
Jupyter Notebook은 데이터 과학, 수학, 공학 및 기타 분야의 연구자들이 코드와 문서화된 결과를 하나의 문서로 통합하여 공유할 수 있는 오픈 소스 웹 어플리케이션입니다. 주피터 노트북에서는 코드, 텍스트, 수식, 시각화 결과 등을 포함한 모든 것을 하나의 문서로 구성하여 쉽게 공유하고 협업할 수 있습니다. 주피터 노트북은 다양한 언어를 지원하며 Python, R, Julia 등의 주요 데이터 분석 언어에 대한 지원이 강력합니다. 주피터 노트북은 Anaconda와 같은 파이썬 배포판에 포함되어 있어서 설치가 쉽고 사용이 간편합니다.
<나>ipynb 파일은 뭐지?
ipynb 파일은 Jupyter Notebook에서 사용되는 파일 형식입니다. ipynb 파일은 텍스트 파일로 작성되며, 셀(cell) 단위로 구성되어 있습니다. 각 셀은 코드나 문서, 이미지 등 다양한 형태의 콘텐츠를 담을 수 있습니다.
ipynb 파일은 Jupyter Notebook을 실행하면 웹 브라우저에서 열 수 있습니다. Jupyter Notebook에서는 셀 단위로 코드를 실행하고, 셀을 추가하거나 삭제하거나 이동하거나 복사하는 등의 작업을 할 수 있습니다. 또한, Markdown을 사용하여 문서를 작성할 수도 있습니다.
<나>
코랩에서 3일 걸리는 데이터 학습을 시키려는데 가능해?
코랩에서 3일 동안 학습을 시킬 수 있는데, 무료 버전에서는 연속적으로 사용할 수 있는 최대 시간이 12시간으로 제한됩니다. 따라서, 3일 동안 학습을 시키기 위해서는 중간에 끊어서 학습을 진행해야 합니다.
이 외에도 무료 버전에서는 GPU 및 TPU의 사용 시간에도 제한이 있으므로, 이 역시 학습 시간을 조절하는데 영향을 줄 수 있습니다. 만약 3일 동안 연속적으로 학습을 시키고 싶다면, 구글 클라우드 플랫폼(GCP)의 GPU나 TPU 인스턴스를 이용하는 것이 더욱 적합할 수 있습니다.
<나>
최대시간이 12시간이면 학습하다가 멈춰버리면 작업중이던것들은 모조리 삭제되잖아?
네, 구글 코랩에서는 무료 사용자의 경우 최대 12시간까지 무료로 사용할 수 있습니다. 그리고 해당 시간이 지나면 자동으로 세션과 노트북의 모든 데이터가 삭제됩니다. 따라서 3일이 넘는 학습을 진행하려면 무료 사용자로는 한계가 있습니다.
하지만, 유료로 코랩 프로(subscription-based service)를 사용하면 더 긴 시간동안 사용할 수 있으며, 또한 GPU와 TPU 같은 강력한 컴퓨팅 리소스도 사용할 수 있습니다. 또는 로컬 컴퓨터나 클라우드 서비스를 이용하여 학습을 진행할 수도 있습니다.
<나>
tpu는 뭐야?
TPU는 구글에서 개발한 Tensor Processing Unit의 약자로, 딥러닝 학습 및 추론을 가속화하기 위해 설계된 전용 하드웨어입니다. TPU는 GPU와 비교하여 더 빠르고 효율적인 성능을 발휘하며, 특히 대규모 딥러닝 모델 학습 시에 큰 이점을 제공합니다. 코랩에서는 TPU 가속기를 사용하여 딥러닝 모델 학습을 가속화할 수 있습니다.
<나> 이제까지 내용을 표형태로 요점정리 해줄래?
chatgpt 재밌네요. 누구 데려와서 묻고 답하기 하는 느낌입니다. 처음은 스크립트 분석을 하려는 의도 였는데 하다보니까 이것저것 다 물어봤는데 흥미롭습니다. 그리고 정말 대단하네요. 한글은 좀 약하다고 들었는데 별로 그렇지도 않아 보입니다.