核心 GUIDE
CONCEPTFOUNDATION6 分钟阅读
Next-token Generation（逐 Token 生成）
大语言模型并不是一次性取出完整答案，而是在不断增长的 Context 上逐步预测并选择下一个 Token；长文本的连贯行为来自许多局部决策的连续累积。
核心心智模型
生成过程可以看成一个自回归 Loop：模型根据当前 Context 为候选 Token 打分，解码策略选择一个 Token，把它追加回 Context，再继续下一轮，直到满足停止条件。
为什么重要
一旦把生成理解为反复发生的概率决策，很多产品问题就更容易定位。较早选择的 Token 会改变后续步骤看到的 Context，因此很小的概率差异也可能逐渐放大，最终形成不同的解释、代码路径或 Tool 参数。产品不能把一次流畅输出当成模型内部存在的固定答案。
01
看完整生成 Loop，而不是只看最终一句话
每一步，模型都会把当前 Token 序列映射成词表上的概率分布；Runtime 的解码策略从中选择 Token，追加到序列后再次调用模型。Stop Token、长度上限以及应用层策略共同决定何时结束。由于被选中的 Token 会成为下一步的新证据，生成具有明显的路径依赖。
02
示例：两个合理开头导致不同后续
客服草稿可能以“可以”或“视情况而定”开头，两者在当前 Prompt 下都合理，但会改变后续条件分布。前者更容易继续写成确定性的政策说明，后者更容易补充限制条件。因此系统应该跨多次运行评估完整行为，而不是把一次样本视作模型的固定结论。
常见失败模式
- 把模型回复当成像数据库一样一次性读取出来的结果。
- 只调试最后一句话，却忽略前面 Token 选择如何塑造后续输出。
- 看到输出很稳定，就误以为底层概率分布也具有确定性。
工程启发
- 当业务风险与生成差异有关时，主动检查多个样本。
- 把模型 Token 概率与 Runtime 的停止、重试、验证策略区分开。
- 对于早期选择会约束后续步骤的任务，评估完整 Trajectory。
关键结论
- 01生成是连续的条件概率决策过程。
- 02每个已选择 Token 都会成为下一步的 Context。
- 03生产稳定性需要 Runtime Contract 来约束概率生成。
阅读记录
未打开Practice 尚未完成
这里只记录你真实做过的动作，不代表掌握、熟练或认证。
用于这些学习路径
这个 Concept 会在多个 canonical 学习路径中复用。
来自 Knowledge Graph 的相关知识点
这些关系直接来自 canonical graph，不维护第二套 Guide 分类体系。