모델 라이프사이클
학습 / 사전학습 (Training / Pretraining)
거대한 데이터셋에서 다음 텍스트를 계속 예측하게 함으로써 모델에게 기본 지식과 언어 능력을 가르치는 과정.
사전학습 과정에서 모델은 책·웹사이트·코드 등에서 가져온 텍스트의 다음 토큰을 계속 예측하고, 틀릴 때마다 내부의 수십억 개 매개변수(가중치)를 조정합니다. 이는 LLM을 만드는 과정 중 연산량이 가장 많은 단계로, 수천 개의 GPU나 TPU에서 몇 주에서 몇 달에 걸쳐 진행됩니다.
사전학습은 모델에게 일반적인 능력을 부여하지만, 아직 지시를 잘 따르거나 안전하게 대화하도록 만들지는 못합니다. 그건 이후 이어지는 파인튜닝(fine-tuning) 단계에서 이루어집니다.