AI 术语表
AI 术语表
对我们 AI 与半导体报道中反复出现的术语给出简短、准确的解释——三十秒查完，继续阅读正文。
基础概念
LLM(大语言模型)
通过海量文本训练、用来预测和生成类人语言的 AI 系统。
Transformer(变换器)
2017 年提出的神经网络架构，正是它让现代大语言模型成为可能。
Token(词元)
语言模型实际读取和生成的最小文本单位——往往比一个完整单词还要小。
上下文窗口(Context Window)
模型一次能"看到"的最大文本量(包括你的提示词和它自己的回复)，以 token 数衡量。
GPU(图形处理器)
最初为图形渲染而生的芯片，却因为能同时进行成千上万次简单运算(而不是一次只算一个)，意外成为最适合 AI 的引擎。
参数
神经网络在训练过程中不断调整的内部数值之一——模型名称里常见的"700亿""4000亿"，指的正是参数的数量。
多模态 AI
不局限于文本，而是能够接收或生成多种数据类型——文本、图像、音频、视频——的模型。
模型生命周期
推理(Inference)
使用已训练好的 AI 模型来实际生成答案的阶段——与模型"学习"的训练阶段相对。
训练/预训练(Training / Pretraining)
让模型在海量数据集上不断预测下一段文本，从而学到基础知识和语言能力的过程。
微调(Fine-tuning)
在已完成预训练的模型基础上做进一步训练，使其行为专精于某项任务、某种风格或某家公司自有的数据。
RAG(检索增强生成)
在回答时为模型提供外部文档参考，而不是只依赖训练时记住的内容。
量化(Quantization)
把模型内部数值的精度降低，使其运行更快、占用的内存也大幅减少——这往往决定了一个模型是必须跑在数据中心，还是能装进一部手机。
行为与风险
基础设施
MoE(专家混合)
一种模型架构，把全部参数拆分成多个专门化的"专家"子网络，每次请求只激活其中一小部分，而不是动用整个模型。
HBM(高带宽内存)
一种直接堆叠在 AI 芯片旁边的内存，用于以足够快的速度为芯片供应数据、跟上其算力——是 AI 基础设施建设中的关键瓶颈。
CUDA
英伟达用于对其 GPU 进行编程的专有软件平台——被普遍认为是英伟达硬件霸主地位如此难以被对手撼动的最主要原因。
晶圆代工厂
为其他公司设计的芯片进行代工生产的企业——目前能大规模量产最先进制程的，只有台积电和三星这两家。
EUV 光刻
用于在芯片上刻印最小、最先进电路特征的极紫外光工艺——全世界只有一家公司能够制造，那就是阿斯麦(ASML)。