체인 오브 소트(추론 모델)

질문에서 답으로 곧바로 건너뛰는 대신, 체인 오브 소트 방식의 모델은 먼저 중간 단계들을 메모하듯 풀어낸 뒤 — 사람이 종이 위에서 문제를 풀어나가는 것과 비슷하게 — 그다음에야 최종 답을 내놓습니다. 이 중간 단계를 프롬프트로 유도하든, 모델이 기본적으로 그렇게 하도록 학습시키든, 이 과정을 강제하면 곧바로 답으로 건너뛸 때 놓치기 쉬운 오류를 잡아내는 경향이 있습니다.

답을 내놓기 전에 더 오래 생각하는 "추론 모델"은 이제 단순 파라미터 수와 더불어 각 연구소가 경쟁하는 주요 축 중 하나가 됐습니다. 도전자 모델을 GPT·제미나이·클로드와 정면으로 비교한다는 게, 이제는 무엇을 아는지뿐 아니라 답하기 전에 각 모델이 얼마나 오래, 얼마나 신중하게 생각하려 하는지까지 비교한다는 뜻이 된 이유이기도 합니다.