模型不识字,只认 token——分词器把文本切成小段,每段映射成一个数字编号。 英文里一个 token 大约是四分之三个单词;中文里常见一字一 token 或一词一 token, 同样一句话的 token 数通常比英文多不少。
模型的计算量正比于处理的 token 数:输入(prompt)要全部编码一遍,输出要逐个生成。 所以 API 普遍按"输入 token 单价 + 输出 token 单价"收费,输出单价通常更贵, 因为生成是逐 token 串行的,没法并行。
窗口是模型一次能"看到"的总 token 上限(输入 + 输出共享)。超出部分对模型完全不可见—— 不是"记不清",是根本没看到。实践注意: