AI 용어사전 — Tech Decode

AI 용어사전

AI·반도체 기사에 반복해서 등장하는 용어를 짧고 정확하게 정리했습니다. 30초 안에 찾아보고 다시 본문으로 돌아가실 수 있도록.

기본 개념

방대한 텍스트로 학습해 사람이 쓴 것 같은 언어를 예측·생성하는 AI 시스템.

오늘날의 거대 언어 모델을 가능케 한, 2017년에 등장한 신경망 구조.

언어 모델이 실제로 읽고 생성하는, 단어보다 더 잘게 쪼갠 텍스트 조각.

모델이 한 번에 “볼” 수 있는 텍스트의 최대량(입력한 프롬프트와 모델의 답변 포함), 토큰 단위로 측정.

원래 그래픽 렌더링용으로 만들어졌지만, 한 번에 하나씩이 아니라 수천 개의 단순 연산을 동시에 처리할 수 있어 AI에 가장 적합한 엔진이 된 칩.

신경망이 학습 과정에서 조정하는 내부 숫자 하나하나 — 모델 이름에 붙는 "700억", "4000억" 같은 수치가 바로 이 파라미터 개수입니다.

텍스트만이 아니라 이미지·음성·영상 등 두 가지 이상의 데이터 유형을 입력받거나 생성할 수 있는 모델.

학습이 끝난 AI 모델을 실제로 써서 답을 생성하는 단계 — 모델이 배우는 단계인 학습(training)과 대비되는 개념.

거대한 데이터셋에서 다음 텍스트를 계속 예측하게 함으로써 모델에게 기본 지식과 언어 능력을 가르치는 과정.

이미 사전학습된 모델에 추가 학습을 시켜 특정 작업, 말투, 또는 회사 자체 데이터에 맞게 행동을 특화시키는 과정.

학습 때 외운 내용에만 의존하지 않고, 답변 시점에 외부 문서를 참고하도록 모델에게 제공하는 방식.

모델 내부 숫자의 정밀도를 낮춰서 더 빠르게 돌아가고 훨씬 적은 메모리에 들어가게 만드는 기법 — 데이터센터가 필요한지, 휴대폰에서 돌아가는지를 가르는 경우가 많습니다.

AI 모델이 사실이 아니거나 지어낸 내용을, 맞는 답과 똑같이 자신 있게 말하는 현상.

단일 질문에 답하는 데 그치지 않고, 여러 단계를 계획하고 도구 호출·브라우징·코드 작성 및 실행 같은 행동을 취해 목표를 완수하는 AI 시스템.

최종 답을 내놓기 전에 중간 추론 과정을 글로 풀어내는 모델 방식으로, 수학·논리·다단계 문제의 정확도를 눈에 띄게 끌어올립니다.

전체 파라미터를 여러 개의 전문 “전문가” 서브네트워크로 나누고, 요청마다 그중 일부만 활성화하는 모델 구조.

AI 칩 바로 옆에 쌓아 올려, 칩의 연산 속도를 따라갈 만큼 빠르게 데이터를 공급하는 메모리 — AI 인프라 구축의 핵심 병목 지점.

엔비디아의 GPU를 프로그래밍하기 위한 자체 소프트웨어 플랫폼 — 엔비디아의 하드웨어 지배력이 경쟁사들에게 그토록 무너뜨리기 어려웠던 가장 큰 이유로 꼽힙니다.

다른 회사가 설계한 칩을 대신 제조해주는 회사 — 현재 가장 앞선 공정을 대량으로 만들 수 있는 곳은 TSMC와 삼성 단 두 곳뿐입니다.

칩에 가장 작고 가장 앞선 회로 패턴을 찍어내는 데 쓰이는 극자외선 공정 — 전 세계에서 딱 한 회사, ASML만이 만들 수 있습니다.