timm2 [DL] 딥러닝에서 미세 조정(Fine Tuning) vs 특징 추출(Feature Extraction) Convolutional Neural Network를 살펴보면 대개 두가지의 부분으로 구성되어 있다. 첫번째는 Convolutional Layers로, 입력(대개 이미지)에 대한 feature를 추출하는 역할을 맡는다. 두번째는 Classifier로 Conv. Layers로부터 획득한 feature를 토대로 해당 입력이 어떤 class에 속하는지 판단한다. 이전 포스팅에서 언급한 바와 같이, 시간과 비용 문제로 인해 대개 well-trained network를 transfer learning하여 사용하곤 한다. 그런데 transfer learning에 관한 자료들을 찾다 보면 fine tuning이라는 용어도 보이고, feature extraction이라는 용어도 보이곤 한다. 이번 포스팅에서는 두 방법.. 2021. 9. 6. [DL] Pytorch에서의 Transfer Learning 이번 포스팅에서는 Transfer Learning에 대해 서술해보고자 한다. 우선 Tranfer Learning이란 어떤 문제(Image Classification 등)를 해결하기 위해 aritifical neural network를 사용하고자 할 때, 시간과 비용을 상대적으로 많이 투자하여 직접 network를 구성하는 것이 아닌 우수한 dataset(ImageNet, CIFAR10 등)으로 pretrained된 network를 사용하는 것이다. Computer Vision, 특히 Image Classification 분야에서는 torchvision이나 timm이 여러 SOTA(State-Of-The-Art) models를 제공해 준다. 사용법은 매우 간단하다. Transfer Learning with.. 2021. 9. 2. 이전 1 다음