上下文长度(Context Length)是指什么?

上下文长度(Context Length)是模型单次推理可处理的最大token数量、决定其能记住多少信息的架构参数,其核心构成包括长文档分析、多轮对话记忆与复杂推理链等任务,以及随之上升的计算与内存成本,解决的是模型记不住长输入信息的问题,…