STUDY/ML&DL

1. 정보 (information)란?확률 : 가능한 모든 상황에서 어떤 이벤트가 발생하는 빈도수  예를 들어 만일 99개의 파란종이와 1개의 빨간종이가 있다고 가정해보자. 만일, 파란종이가 나오면 놀라지 않을 것이고 빨간종이가 나오면 놀랄 것이다. 파란 종이가 나올 확률은 0.99로 높고, 빨간 종이가 나올 확률을 0.01로 낮기 때문이다.   즉 확률이높으면 그 사건이 발생해도 그 사건이 발생해도 놀라지 않고, 확률이 낮으면 그 사건이 발생했을 때 놀라게 된다.확률과 놀람은 서로 반비례의 개념이다. 그래서 놀람을 수학적으로 표현하자면, 확률을 p(x)라고 할경우 놀람은 확률의 역수인, 1 / p(x)로 표현할 수 있다.  실제 정보이론에서 표현하는 놀람의 공식은 log(1/p(x)) 이다.  따라서 ..

1.Diffusion 모델Diffusion 모델의 작동방식은 컵에 담긴 물에 잉크를 떨어뜨리는 것으로 비유할 수 있다.예를 들면, 유리컵에 담긴 물에 잉크를 떨어뜨리면 확산이 일어나 잉크가 물 전체로 퍼지게 된다.Stable Diffusion에서는 이 현상을 Forward Diffusion이라고 한다.  Diffusion 모델에서는 원본 이미지에 노이즈를 첨가하여 마지막에는 완전한 노이즈가 되도록한다.이는 잉크가 물 안에서 서서히 퍼지다가 완전히 퍼지게 되는 것과 동일하다.Revese Diffusion은 이미 물에 완전하게 퍼진 잉크를 다시 돌려 잉크를 떨어뜨린 위치를 맞추는 것과 비슷하다.이 과정에서 완전한 노이즈에서 노이즈를 한단계씩 제거하면 원본 이미지를 복구한다.위와 같은 과정이 Diffusion..