배경 dacon 대회에서 재현성 확인을 위해 같은 코드로 결과를 다시 내어 제출했는데, 결과가 계속 달라져서 원인을 찾아보니 data loader에도 seed를 설정해줘야 한다는 것이다. 아래 공식문서를 살펴봐도 된다. https://pytorch.org/docs/stable/notes/randomness.html Reproducibility — PyTorch 2.5 documentationReproducibility Completely reproducible results are not guaranteed across PyTorch releases, individual commits, or different platforms. Furthermore, results may not be reproducib..

들어가며LLM은 고정된 데이터에 대해서 학습된 사전학습 모델이다. 따라서 최신 지식 혹은 시간에 따라 변화하는 지식을 잘 답변하지 못할 확률이 높다. 그렇다면 매번 새로운 데이터를 학습 시키면 되지 않을까? 하는 생각을 할 수 있는데 이 경우에는 Catastrophic forgetting 문제가 발생한다.👀 Catastrophic Forgetting이란?: 인공신경망이 새로운 정보를 학습할 때 이전에 학습한 정보를 잊어버리는 현상이다.그림으로 이해를 해보자. MNIST 데이터로 학습한 모델 A가 있다고 가정했을 때, 이 모델에서 SVHN 데이터로 새로 학습을 시킨다. 이후 다시 MNIST 데이터로 분류 TASK를 진행할 경우, 새로운 데이터(SVNH)로 학습하기 이전의 분류 성능이 안나온다는 것이다.그..

1. Abstract 이미지 페인팅 분야에서는 넓은 손실 영역, 복잡한 기하학적 구조 그리고 고해상도 이미지 처리에서 종종 한계를 드러낸다. 저자들은 이러한 한계의 주요 원인이 network와 loss function의 receptive field 의 부족이라고 지적한다. Lama는 이러한 문제를 해결하기 위해 다음과 같은 3가지 전략을 제시한다. We propose an inpainting network based on recently developed fast Fourier convolutions (FFCs) We propose the use of the perceptual loss [20] based on a semantic segmentation network with a high receptiv..

1. TTA란?TTA란 Train 과정이 아닌 Test(Inference) 과정에서 Augmentation을 적용하여 나온 결과들에 대해 대표값 (대체로는 평균값)을 최종 예측값으로 활용한다. 이렇게 하면 보다 모델이 일관되고 강력한 예측을 할 수 있게된다.   해당 방법이 효과적인 이유는 무작위로 변형된 이미지에 대한 예측을평균 내면서 오류도 평균화 하기 때문이다. 단일 벡터에서는 오류가 커질 수 있지만, 이를 평균내면 올바른 예측을 할 수 있도록 유도할 수 있다. 이 때문에 TTA는 모델이 확신하지 못하는 테스트 이미지에 특히 유용하다.  2. 코드실습(Pytorch) https://github.com/qubvel/ttach GitHub - qubvel/ttach: Image Test Time Aug..