基座模型(Foundation / Base Model)与”两个基座”的辨析

聊 AI 时”基座”这个词到处飞,但它其实指两个完全不同层面的地基,混着用就会越听越懵。这篇专门把它们拆开。

一句话先记住

  • 基座模型 = 模型层面的地基(预训练出来的底座大模型,如 Llama/Qwen base)。
  • 基座 / 脚手架 = 系统层面的地基(工程师搭的运行框架,其实就是 Agent Harness)。

这两个”基座”不是一回事:一个是”用哪个模型当底子”,一个是”用什么代码框架把模型跑起来”。见下方对照表。

1. 基座模型是什么

基座模型(也叫底座模型 / base model / foundation model)= 只做过预训练、还没做指令微调的大模型。

它在海量文本上学会了”续写下一个词”,语言能力很强,但还不太会”听话地对话或听指令”——你问它问题,它可能接着帮你把问题续写下去,而不是回答。

一个类比:基座模型像一个博览群书但没受过职业训练的天才——知识极广,但你让它”帮我写封正式邮件”,它不一定按你的格式来。要”教它听话”,就得再训练一步。

基座模型 → 能干活的模型:靠 SFT

基座模型(Base)            ← 只会续写,知识广但不"听话"
   │ SFT(有监督微调,喂"指令→理想回答"的样本)
   ▼
指令模型(Instruct/Chat)   ← 会听指令、会对话、会按格式调工具
  • SFT(Supervised Fine-Tuning,有监督微调):在基座模型上,用”指令 + 理想回答”的成对数据继续训练,让它学会”听话”。(Day 3 详学,计划见 sft.md
  • Hermes 就是典型例子:在开源基座模型(如 Llama、Qwen)上做 SFT,得到的擅长 function-calling / 结构化输出的模型系列。所以说 “Hermes 是 SFT 的产物”。(计划见 sft.mdhermes.md

记忆钩子:基座模型是”毛坯”,SFT 是”装修”,Instruct 模型是”精装可入住”。 Agent 里真正在用的通常是精装过的 Instruct 模型。

2. 另一个”基座”:脚手架 / 运行框架

工程语境里说”搭基座""基座搭建”,常指工程师搭的那套底层系统框架:运行循环、工具接入、状态管理、日志监控……

这其实就是 agent_harness.md 里讲的 Agent Harness。 它是”系统层面的地基”,负责把模型武装成能干活的 Agent,并用确定性代码管住控制流(见 agent_harness.md 的”控制流 vs 内容决策”)。

3. 两个”基座”对照

维度基座模型(Foundation Model)基座 / 脚手架(Harness)
层面模型系统 / 代码
是什么预训练的底座大模型运行循环 + 工具 + 状态 + 观测的框架
例子Llama base、Qwen baseAgentExecutor、LangGraph runtime、手写循环
怎么”变好”SFT / RLHF 等微调工程设计(健壮性、可观测、可控)
关联笔记sft.md(Day 3)、token.mdagent_harness.md

4. 一个完整 Agent 是怎么叠起来的

基座模型(Foundation Model)        ← 基座①:模型地基(Llama/Qwen base)
      │ 经过 SFT 变得会听指令
      ▼
指令模型(Instruct Model)          ← 会对话、会调工具
      │ 被工程师的脚手架包起来
      ▼
Agent Harness(基座②:脚手架)      ← 基座②:系统地基(循环/工具/状态)
      │ 里面跑着
      ▼
Loop(控制流靠代码,内容决策靠模型)

回到那个经典疑问——“Loop 策略是工程师定还是模型决策?“:控制流由基座②(工程师的脚手架代码)定,内容决策由基座①(经 SFT 而来的模型)在循环里做。 两个基座各司其职,见 agent_harness.md 的”控制流 vs 内容决策”。

5. 常见坑(复习重点)

  • 把两个”基座”当成一个 → 听到”基座”先问一句:是模型的基座,还是系统/框架的基座?
  • 以为基座模型能直接当助手用 → base 模型不”听话”,得先 SFT 成 instruct 模型。
  • 以为微调就是”教新知识” → SFT 主要教”听指令、按格式作答”的行为,不是灌大量新知识(灌知识更多靠 RAG,见 embedding_model.md)。这条正是”缺知识→RAG,缺行为→微调”排障框架的核心,见 agent_dev.md

关联概念

  • agent_harness.md:另一个”基座”——系统脚手架;控制流 vs 内容决策。
  • sft.md(Day 3 计划):基座模型 → 指令模型的微调过程;Hermes。
  • token.md:模型参数量、上下文窗口等底层概念。
  • embedding_model.md:参数量命名(xB)、以及”灌知识靠 RAG 而非微调”。