LLM(大規模言語モデル)

GPT、Claude、Geminiのようなモデルは、ニューラルネットワーク（多くはTransformer構造）を、テキスト・コードなど数兆語規模のデータで学習させて作られます。モデルは答えをどこかから“検索”しているのではなく、言語の統計的パターンを学習し、一度に1トークンずつ、筋の通った有用なテキストを生成しています。

規模が大きいほど、つまりより多くのデータと計算資源で学習するほど性能が高まる傾向があります。最先端の研究所が学習用GPUとデータセンターに数十億ドルを投じる理由の一つであり、この支出こそがAIの評価額がAI収益を先取りしすぎているかという論争の中心になっています。