상위: AI & ML
신경망 모델이 새로운 정보를 학습하면서 이전에 학습했던 지식을 급격하게 잊어버리는 현상.
발생 원인
- 가중치 덮어쓰기: 새로운 데이터에 맞춰 모델의 가중치가 업데이트될 때, 이전 데이터에 대한 가중치가 완전히 변경되거나 덮어씌워지기 때문.
- 데이터 분포 변화: 새로운 태스크의 데이터 분포가 이전 태스크와 크게 다를 때 발생하기 쉬움.
문제점
- 모델이 연속적으로 학습해야 하는 시나리오(예: 지속 학습, 증분 학습)에서 치명적인 성능 저하를 야기.
- 일반적인 Fine-tuning 과정에서도 발생할 수 있으며, 모델의 재학습이 필요해짐.
해결 방안 (일부)
- 정규화 (Regularization): 가중치 변화에 제약을 두어 이전 지식을 보존.
- 리허설 (Rehearsal): 이전 데이터를 일부 저장해두고 새로운 데이터와 함께 재학습.
- PEFT: 모델의 일부 파라미터만 학습하여 기존 지식의 손상을 최소화.