Study: Artificial Intelligence(AI)
[Gen AI] Diffusion Model 설명: 기초
💡 본 문서는 '[Gen AI] Diffusion Model 설명: 기초'에 대해 정리해놓은 글입니다.해당 글에서는 Image Generative Model의 한 종류인 Diffusion Model이 무엇을 할 수 있는지 살펴봅니다. 다음으로 Diffusion Model의 작동 원리를 자세히 살펴볼거고요. 이렇게 동작이 가능하도록 하는 Diffusion Model 공통적으로 사용되는 Architecture와 Loss Function에 대해 알아봅니다.1. Image Generative ModelDiffusion Model은 이미지 생성 모델 (Image Generative Model)의 일종입니다. 일반적으로 가장 많이 알려진 이미지 생성 모델로는 GAN이 있습니다. GAN은 이미지를 생성하는 Gene..
[Gen AI] Stable Diffusion WebUI Docker 환경 설정 및 사용하기
💡 본 문서는 '[Gen AI] Stable Diffusion WebUI Docker로 환경 설정하기'에 대해 정리해 놓은 글입니다.현재(24.08.03.) Stable Diffusion WebUI AUTOMATIC1111의 경우, 설치 시에 다양한 문제가 존재한다. 따라서 환경이 변경되더라도 돌아가는 도커 파일을 공유하고자 내용을 정리하였으니 참고하시기 바랍니다.현재(24.08.03.) Stable Diffusion WebUI AUTOMATIC1111 의 경우, 설치 시에 다양한 문제가 존재한다. 패키지 디펜던시로 인해 설치하지 못하는 문제도 있겠지만, 대표적으로는 CUDA 12 버전대가 설치되어 있지 않으면, CUDA 드라이버를 업데이트하라는 메시지로 실행을 하지 못하곤 한다. 따라서 현시점에서 바..
[ML] 정보이론: Entropy, KL Divergence, Mutual Information(MI)
💡 본 문서는 '[ML] 정보이론: Entropy, KL Divergence, Mutual Information(MI)'에 대해 정리해놓은 글입니다.~~~정리하였으니 참고하시기 바랍니다.1. Entropy엔트로피는 불확실성을 의미한다. 과학에서 쓰이는 엔트로피를 보면 동일한 부피에서 고체의 엔트로피는 낮고 기체의 엔트로피는 높으며, 낮은 곳에서 높은 곳으로 흐르는 성질이 있다. 머신러닝을 위한 수학에서도 엔트로피는 같은 의미로 쓰인다. 모델을 학습하는 것은 결국 확률을 모델링하는 것이 되는데, 해당 분포가 불확실할수록 엔트로피는 높아진다. 예를 들어 어떤 X가 있는데, 이 X는 초록사과(X=0)인지 빨간사과(X=1)인지에 대한 정보를 갖고 있는 확률 분포라고 생각해 보자. 첫 번째로 X1를 6개의 원..
[논문 리뷰] InternImage: DCN + Vision Foundation Models - Exploring Large-Scale Vision Foundation Models with Deformable Convolutions
💡 본 문서는 'InternImage: Exploring Large-Scale Vision Foundation Models with Deformable Convolutions' 논문을 정리해놓은 글입니다.해당 논문은 대규모 vision foundation model의 연구에 많이 사용되는 ViT 모델과 비슷한 성능을 보여주기 위한 Foundation 모델을 위한 CNN Architecture인 InternImage에 대해 설명한 논문이니 참고하시기 바랍니다. - Paper: https://arxiv.org/abs/2211.05778 - Github: https://github.com/OpenGVLab/InternImageIntroduction대규모 언어 모델에서 transformer의 놀라운 성공으로 ..