数智化转型网szhzxw.cn 人工智能1000问 人工智能1000问|大语言模型 (LLM)里的上下文窗口 (Context Window)指的是什么?

人工智能1000问|大语言模型 (LLM)里的上下文窗口 (Context Window)指的是什么?

数字化转型1000问-数字化转型网szhzxw.cn
数字化转型1000问-数字化转型网szhzxw.cn

大语言模型 (LLM)里的上下文窗口 (Context Window)指的是什么?每个 AI 都有它的“瞬间记忆”极限,这就是上下文窗口。它决定了模型在一次对话中能塞进多少信息。 早期模型只能记几千个词,聊长了就会“断片儿”。 现在的模型窗口大到惊人,能一口气吞下一整本书。但别高兴太早。窗口越大,反应越慢,开销越高。而且还有个“迷失在中间 (Lost in the middle)”的问题:模型往往只记得开头和结尾,中间的信息容易被它当耳边风。

本文由数字化转型网(www.szhzxw.cn)转载而成,来源于网络;编辑/翻译:数字化转型网(Professionalism Achieves Leadership 专业造就领导者)默然。

免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/112035.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部