상위: AI & ML
사전 학습된 LLM의 모든 파라미터를 특정 하류(downstream) 태스크의 데이터셋에 맞춰 재학습하는 Fine-tuning 방법.
작동 방식
- 사전 학습된 모델의 모든 계층(레이어)의 가중치를 새로운 태스크의 데이터로 업데이트합니다.
- 일반적으로 작은 학습률(learning rate)을 사용하여 사전 학습된 지식을 보존하면서 새로운 태스크에 적응시킵니다.
장점
- 최적의 성능: 특정 태스크에 대해 모델의 모든 파라미터를 조정하므로, 해당 태스크에 최적화된 가장 높은 성능을 달성할 수 있습니다.
- 높은 정확도: 태스크에 특화된 미세 조정을 통해 높은 정확도를 기대할 수 있습니다.
단점
- 높은 컴퓨팅 자원 요구: 모델의 모든 파라미터를 학습해야 하므로, 많은 GPU 메모리와 긴 학습 시간이 필요합니다.
- 파국적 망각 위험: 사전 학습된 모델이 가지고 있던 일반적인 지식을 잃어버리고 특정 태스크에만 과적합될 위험이 있습니다.
- 느린 학습 속도: 많은 파라미터를 업데이트해야 하므로 학습 속도가 느립니다.
- 저장 공간: 파인튜닝된 모델마다 전체 모델 가중치를 저장해야 하므로 많은 저장 공간이 필요합니다.