通向AGI的7次架构革命：从Transformer到MoE/Mamba
2017 年 Google 团队发表《Attention Is All You Need》提出 Transformer 架构，7 年后这个架构成为所有大模型的「基础母语」——GPT、LLaMA、
标签：MoE
DeepSeek V4.1 Flash 正式发布：552B MoE 新架构，全面超越 V4 Pro
深度求索 发布 DeepSeek V4.1 Flash 模型。这是其全新模型结构系列中尺寸最小的模型，具备原生多模态视觉理解能力。新模型结构的设计初衷是：能力上限更高、推理速度更快、吞吐更大、可扩展到更大参数模型。
Kimi K3.1十月或压轴登场:三档推理强度、百万超长上下文，Agent与Swarm全塞进配置
月之暗面的下一发旗舰，似乎已经被代码自己"剧透"了。多家消息源指称，Kimi K3.1正悄悄在内部成型，预估最快下个月（2026年10月）就会正式登场，并一口气带来Low、High、Max三档可调的推理强度。
消息称 Kimi K3.1 下月登场，三档推理强度 + 百万 Token
据 Wccftech 报道，月之暗面（Moonshot）正酝酿推出 Kimi K3.1 模型，预估将在下月（2026 年 10 月）登场，并计划提供 Low、High、Max 共 3 档推理强度。目前这一消息来自消息源 @MaxForAI …
千问发布Qwen3.8-LiveTranslate:同传延迟降至2.3秒，还能保留你的音色
新一代同声传译大模型 Qwen3.8-LiveTranslate，在翻译质量、延迟、说话人识别和语音合成四个维度上全面升级。
小米发布并开源 MiMo-V2.6:AA 智能指数46分登顶最强开源模型
小米9月22日发布并开源 MiMo-V2.6系列，含 MiMo-V2.6-Pro 与 MiMo-V2.6-Flash 两款原生全模态模型，权重与技术报告已通过 HuggingFace 全面开源，同步上线 MiMo Desktop 桌面客户端…
MoE 是什么？
混合专家模型（MoE，Mixture of Experts）是让多个专家子网络配合路由器动态分配算力的稀疏大模型架构，核心能力包括专家分工、路由动态选路与算力稀疏化，可支撑万亿参数模型而不显著增加推理计算量，解决的是总参数量与推理开销的矛盾…