通向AGI的7次架构革命：从Transformer到MoE/Mamba
2017 年 Google 团队发表《Attention Is All You Need》提出 Transfo
标签：Transformer
Transformer十年：从论文到统治世界
2017 年 6 月，Google 团队发表论文 Attention is All You Need，提出 Transformer 架构——当时没人预料到这一架构会统治未来 10 年的 AI 时代。到 2026 年，几乎所有前沿大模型都基于…
从ELIZA到ChatGPT：聊天机器人的60年
1966 年 ELIZA 诞生，到 2026 年 ChatGPT 已经 4 年——聊天机器人走过了 60 年。这不是一条直线，而是一条反复被打回原形又反复复活的曲线。每一代聊天机器人都有自己的技术底牌（模式匹配 / 规则 / 检索 / 神经…
AI 70 年简史：从图灵测试到生成式智能，智能革命的六个浪潮
AI 不是 2022 年 ChatGPT 出圈后才出现的——它已经走过了 70 年。从 1950 年图灵写下"Can machines think?"的著名一问，到 2026 年大模型全面渗透办公、教育、编程、医疗、工业，AI 经历了诞生、…
TypeSafe AI发布Jev:不生成文本的Transformer模型，主打低成本决策
TypeSafe AI发布新型Transformer模型Jev，尝试绕开大语言模型（LLM）的文本生成范式，以概率输出和“校准决策”服务软件自动化。OpenAI前研究员、RLHF技术参与者Diogo Almeida两年前离开OpenAI创办…
什么是Transformer？
Transformer是什么？Transformer是一种用于自然语言处理的深度学习模型架构，由Vaswani
什么是嵌入 (Embeddings)？
Transformer里面的嵌入 (Embeddings)是指什么？是指文字拆成 Token 后，下一步就是让