A Survey of Generative Diffusion Model ; (디퓨전 생성모델 서베이)

학위논문(석사) -- 서울대학교대학원 : 자연과학대학 수리과학부, 2024. 2. 강명주. ; A Survey of Generative Diffusion Model HoJun Na Department of Mathematical Sciences The Graduate School Seoul National University Diffusion models have emerged as a powerful class of generative models that have shown remarkable performance in various domains. In this survey, we provide an overview of diffusion models and their key mathematical formula- tions, including the Noise Conditional Score Network (NCSN), Denoising Dif- fusion Probabilistic Models (DDPM), and Score-based generative modeling through Stochastic Differential Equations (Score SDE) models. We examine the relationship between diffusion models and previous generative models, introducing the combination of their respective strengths. Furthermore, we review the advancements made in diffusion models through subsequent pa- pers, focusing on two main topics: efficient sampling and likelihood improve- ment. In terms of applications, we discuss classifier-guided and classifier-free approaches in diffusion models, showcasing their effectiveness in computer vi- sion tasks such as super resolution, inpainting, segmentation, colorization and text-to-image generation. Additionally, we explore the inherent limitations of diffusion models and introduce the concept of optimal transport as a poten- tial alternative. Overall, this survey provides a comprehensive understanding of diffusion models, their developments, applications, and future directions. Key words: Diffusion, SDE, Computer vision, Deep Learning, Generative model Student Number: 2019-22285 ; 확산 모델은 다양한 도메인에서 높은 성능을 보여주는 강력한 생성 모델 클래스로 부상했습니다. 본 조사에서는 노이즈 조건부 스코어 네트워크 (NCSN), 노이즈 제거 확산 확률 모델 (DDPM) 및 스코어 기반 확산 확률 모델링을 위한 확률적 미분 방정식 (Score SDE) 모델을 포함한 확산 모델의 개요와 주요 수학적 공식을 제공합니다. 또한 확산 모델과 이전의 생성 모델과의 관계를 살펴보고, 각각의 장점을 결합한 접근 방식을 강조합니다. 더불어, 이후 논문 을 통해 확산 모델의 발전에 대한 최신 동향을 검토하며, 효율적인 샘플링과 우도 개선이라는 두 가지 주요 주제에 초점을 맞춥니다. 응용 분야에서는 확산 모델의 분류기 지도 및 분류기 미사용 접근 방식에 대해 논의하며, 초고해상도, 임페인팅, 분할, 색상화 및 텍스트에서 이미지 생성과 같은 컴퓨터 비전 작업에서의 효과를 증명합니다. 게다가, 확산 모델의 내재적인 ...