通义千问发布Qwen3.8-Flash-Next,提前剧透Qwen4架构

大模型开源领域的创新节奏再次刷新纪录。阿里通义千问团队近日正式开源了全新多模态MoE模型Qwen3.8-Flash-Next,作为Qwen4 架构的早期预览版本,该模型在保持极低计算开销的同时展现出了越级的性能表现。

大模型开源领域的创新节奏再次刷新纪录。阿里通义千问团队近日正式开源了全新多模态MoE模型Qwen3.8-Flash-Next,作为Qwen4 架构的早期预览版本,该模型在保持极低计算开销的同时展现出了越级的性能表现。

在核心架构与参数规模上,Qwen3.8-Flash-Next采用了高度稀疏的混合专家(MoE)设计。整个模型总参数量为 1250 亿,并额外搭配了 510 亿参数的N-gram嵌入表以及 40 亿参数的多token预测模块,但每个token实际激活的参数量仅有 60 亿。其整体拥有 48 层网络结构,MoE层集成了 512 个专家并通过top- 10 进行路由分配。

技术创新方面,该模型集成了多项前沿升级。它引入了GDN与QSA混合注意力机制,兼顾了长文本处理任务的运行效率与信息检索精度,将原生256K的上下文窗口通过YaRN技术成功扩展至1M。同时,通过引入 510 亿参数的N-gram嵌入,几乎不增加额外计算成本便大幅扩展了容量,且支持通过异步预取使其驻留于系统低速DRAM内存中;此外还采用了门控残差连接(GR)以及微块粒度选择上下文的稀疏注意力设计。

在实际性能与成本表现上,该模型交出了亮眼答卷。受益于极致的稀疏化设计,其训练成本仅为上一代Qwen3.7-Plus的九分之一,但在代码编写与办公等核心任务上的表现实现了显著跃升。多方评测与最新报道确认,凭借仅6B的激活参数,该模型在能力上成功击败了Claude Opus 4.6 Max等顶尖旗舰。

在生态部署与开源节奏上,SGLang在模型发布首日便提供了Day- 0 级别的直接支持,开发者可以通过开源渠道获取模型权重并在本地或集群环境中高效部署。这一系列底层架构的创新与突破,不仅为全球开源社区提供了前沿的技术探索样本,也进一步推动了高性能AI大模型向低成本、高效率的规模化落地演进。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

1400万企业的 AI 同事上线:WorkBuddy 进通讯录,群聊勾选即成任务、产物直接发回企微

10月14日,腾讯WorkBuddy宣布与企业微信完成深度融合,WorkBuddy客户端现可在企业授权范围内调用消息、文档、会议、微盘等十大能力,并以对话机器人…
📅 10-28 · 👁 2026年10月28日
数智化转型网每日AI资讯 AI情报站

“软硬模”三位一体!STEPX 首款大模型原生智能体手机 Neo 登场,售价 3999 元起

大模型原生 AI 终端品牌 STEPX(阶跃终端)在上海召开主题发布会,正式发布了旗下首款大模型原生智能体手机 STEPX Neo。该机型通过“硬件+操作系统+…
📅 10-28 · 👁 2026年10月28日
数智化转型网每日AI资讯 AI情报站

Meta 发布最强开源模型 Muse Spark Open,并牵手苹果力推 Mac 本地运行

当地时间周四,Meta 正式发布了其迄今为止能力最强的开放权重大模型——Muse Spark Open,并宣布与苹果展开合作,推动该模型在 Mac 电脑上实现本…
📅 10-28 · 👁 2026年10月28日
数智化转型网每日AI资讯 AI情报站

Anthropic IPO 估值遭砍:增速放缓,2 万亿美元预期回落至 1.5 万亿

路透社援引四名知情人士称,随着 AI 融资成本攀升引发市场不安,Anthropic 披露最新财务数据后,部分现有股东与拟参与 IPO 的投资人开始考虑下调对其的…
📅 10-28 · 👁 2026年10月28日
数智化转型网每日AI资讯 AI情报站

Figma 推出 Markdown 编辑器 Specs,扩大代码层公开测试

Figma 在印度举办的首届 Config 大会上推出基于 Markdown 的全新编辑器 Figma Specs,并向更多用户开放代码层(Code Layer…
📅 10-28 · 👁 2026年10月28日
数智化转型网每日AI资讯 AI情报站

斯坦福等联合提出全新文本生成范式 NCM,生成速度狂飙 31 倍

人工智能领域的文本生成技术迎来颠覆性创新。斯坦福大学与 Together AI 的研究人员近日联手推出了一种截然不同于传统自回归和扩散模型的全新文本生成范式——…
📅 10-28 · 👁 2026年10月28日