大语言模型 (LLM)里的上下文窗口 (Context Window)指的是什么?

上下文窗口(Context Window)是模型一次推理交互中能同时读入并保留的信息量上限,其表现形式包括早期模型仅能容纳数千个词、现代模型可吞下整本书、窗口越大响应越慢成本越高,解决的是长对话超出容量后模型断片失忆的问题,并不解决中间信息…