Hunyuan-Large-Longcontext
Hunyuan-Large-Longcontext
腾讯 · 更新于 2024-12-18
Hunyuan-Large-Longcontext 是腾讯开源的大语言模型，属 MoE 架构，总参 389B、激活参 52B，支持 256K 超长文本序列，Instruct 模型支持 128K。采用 CLA 结构与 FP8 量化优化，节省显存并提升吞吐，适配 vLLM 推理框架与 Hugging Face 生态，可用于长文档处理、代码生成等场景。
核心参数
| 厂商 | 腾讯 |
|---|---|
| 分类 | 文本生成/大模型 |
| 更新时间 | 2024-12-18 |
| 标签 | 文本生成、中文、英文、高性价比 |
模型定价
输入
6 元/百万 tokens
输出
18 元/百万 tokens
模型能力
| 输入类型 | 文本 |
|---|---|
| 输出类型 | 文本 |
| Function Call | 否 |
| 模型精调 | 否 |
| 前缀缓存 | 否 |
| 结构化输出 | 是 |
模型参数
| 上下文窗口 | 256K |
|---|---|
| 模型更新时间 | 2024-12-18 |
| 开源分类 | 非开源 |
| 多模态支持 | 否 |
| 最大输入 Token | 256K |
| 最大生成 Token | 8K |
| 典型场景 | 知识问答 |
基准测试得分
以下是在各种标准基准测试中的表现，评估模型在不同任务和领域的能力。
GPQA
研究生物理问题评估
44.07