Hunyuan-Large-Longcontext 是腾讯开源的大语言模型,属 MoE 架构,总参 389B、激活参 52B,支持 256K 超长文本序列,Instruct 模型支持 128K。采用 CLA 结构与 FP8 量化优化,节省显存并提升吞吐,适配 vLLM 推理框架与 Hugging Face 生态,可用于长文档处理、代码生成等场景。
Hunyuan-Large-Longcontext
Hunyuan-Large-Longcontext 是腾讯开源的大语言模型,属 MoE 架构,总参 389B、 […]
🔗 本文链接