大语言模型 (LLM)里的上下文窗口 (Context Window)指的是什么?

大语言模型 (LLM)里的上下文窗口 (Context Window)指的是什么?每个 AI 都有它的“瞬间记 […]
数字化转型1000问-数字化转型网szhzxw.cn

大语言模型 (LLM)里的上下文窗口 (Context Window)指的是什么?每个 AI 都有它的“瞬间记忆”极限,这就是上下文窗口。它决定了模型在一次对话中能塞进多少信息。 早期模型只能记几千个词,聊长了就会“断片儿”。 现在的模型窗口大到惊人,能一口气吞下一整本书。但别高兴太早。窗口越大,反应越慢,开销越高。而且还有个“迷失在中间 (Lost in the middle)”的问题:模型往往只记得开头和结尾,中间的信息容易被它当耳边风。

CXOU AI 未来大会 · 报名通道限时开启
💬 评论
🔗 本文链接

📰 你可能也喜欢

术语词典

零信任 Zero Trust

零信任是云计算与远程办公时代替代传统边界防御的下一代安全架构范式:把信任从「网络位置」转为「身份与上下文」,让企业在开放环境下依然能实施最小权限与持续验证,是 …
📅 09-20 · 👁 2026年9月20日
术语词典

Service Mesh服务网格

Service Mesh 是云原生时代把微服务治理能力从框架下沉到基础设施的关键架构:让多语言微服务在不修改业务代码的前提下获得一致的网络、安全、可观测能力,是…
📅 09-20 · 👁 2026年9月20日
术语词典

数字主线

数字主线是离散制造企业从「卖设备」转向「卖设备 + 数据 + 服务」的关键基础设施,是工业 4.0 时代把设计、制造、运维全链路数据贯通、释放数据要素价值的事实…
📅 09-20 · 👁 2026年9月20日
术语词典

RAG

1、英文名 / 缩写: Retrieval-Augmented Generation(缩写 RAG),别名:检 […]
📅 09-20 · 👁 2026年9月20日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

LLM蒸馏是什么?

一、什么是LLM 蒸馏? LLM 蒸馏是把大模型的能力迁移到小模型上的技术过程,让小模型在保持较高任务表现的同 […]
📅 09-19 · 👁 2026年9月19日
人工智能1000问——数智化转型网www.szhzxw.cn 行业百科

Fine-tuning 是什么?

一、什么是Fine-tuning? Fine-tuning 是基于预训练模型在特定领域数据上进行二次训练的过程 […]
📅 09-19 · 👁 2026年9月19日