Lifelong Learning2 [DL - 논문 리뷰] Subspace Regularizers for Few-shot Class Incremental Learning 이번 포스팅에서는 ICLR 2022에서 공개 된, Afra Feyza Akurek의 "Subspace Regularizers for Few-shot Class Incremental Learning"을 읽고 정리해 보도록 하겠습니다. 1. Introduction Classification 문제에서 보통은 고정된 데이터셋과 고정된 class label을 가정합니다. 이런 가정은 현실 문제와는 다소 동떨어질 수 있습니다. Classifier는 상황에 따라 새로운 지식을 학습해야할 경우가 존재하고 이전 학습에 사용된 데이터는 사용 불가능 할 수도 있습니다. 이러한 few-shot class-incremental learning (FSCIL) 환경에서는 위의 상황처럼 이전 데이터는 사용 불가능하면서, 새로운 지식.. 2022. 3. 14. [DL - 논문 리뷰] GAN Memory with No Forgetting 이번 포스팅에서는 Yulai Cong이 NeurIPS 2020에서 발표한 "GAN Memory with No Forgetting"을 읽고 정리해보도록 하겠습니다. 1. Introduction Lifelong learning 또는 continual learning은 모델에게 새로운 지식을 학습시키는 것 입니다. 그 과정에서 기존에 학습했던 지식은 까먹어서는 안됩니다. 보통의 경우 새로운 task를 학습시키면 기존 task는 잊어버리기 쉬운데, 이런 현상을 catastrophic forgetting이라 하고, lifelong learning은 이 catastrophic forgetting을 해결하는 데 초점을 두고 있습니다. Catastrophic forgetting을 해결하기 위해 classificatio.. 2022. 2. 27. 이전 1 다음
