上下文长度

上下文长度，是指模型在单次推理中能够处理的最大token数量，这个限制决定了模型能够”记住”和利用的信息范围。更长的上下文允许模型处理更复杂的任务，如长文档分析、多轮对话记忆和…