数智化转型网 人工智能资讯 每日人工智能资讯|阿里开源统一科学大模型 LOGOS,仅用五十六分之一参数超越微软

每日人工智能资讯|阿里开源统一科学大模型 LOGOS,仅用五十六分之一参数超越微软

阿里 ATH-Token Foundry 联合中国人民大学高瓴人工智能学院,今日正式宣布开源首个基于统一科学语法的多领域科学生成基础模型 LOGOS。在六大代表性科学任务中,该模型凭借纯序列建模范式,一致性地匹配或超越了传统的领域专用方法。数智化转型网www.szhzxw.cn

值得关注的是,该模型展现出了极高的参数效率。仅有 1B 参数量的 LOGOS-1B 模型,在多个核心任务上的表现就成功超越了参数量高达 8×7B 的微软 NatureLM 语言模型。数智化转型网www.szhzxw.cn

一、首创科学语法统一异构对象

LOGOS 构建了一个涵盖生物大分子、化学实体以及界面互作等 7 类模态、总计 44.87B tokens 的庞大预训练语料库。通过设计共享词表,它将蛋白质和小分子等原本异构的对象全部编码为统一的离散 Token 序列。数智化转型网www.szhzxw.cn

这种独特的科学语法设计,让不同的科学对象得以在同一个生成空间中被大模型自回归地理解。它甚至发明了一种“文字描述法”,无需输入复杂的 3D 坐标,仅靠序列预测就能在脑海中构建出复杂的空间互作规律。数智化转型网www.szhzxw.cn

二、彻底消除预训练与应用断层

在传统科研范式中,换一个研究环节往往需要切换不同的模型,导致模型落地时需要大量的微调。LOGOS 则实现了形式与目标的高度一致,其预训练数据的序列形式与下游任务的输入输出形式完全等同。

这种高度对齐有效消除了预训练与下游应用之间的鸿沟,无需复杂的适配层即可直接激活生成能力。目前,阿里已将该大模型的模型权重、推理代码以及技术报告进行了完整开源。

若您对人工智能感兴趣,可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数智化转型网小助手思思(17757154048,微信同号)

思思微信二维码

若您为人工智能服务商,可添加数智化转型网小助手Nora,加入人工智能行业交流群。

Nora微信二维码

若您为人工智能创业者,可添加数智化转型网社群主理人Carina,加入人工智能创业交流群。

Carina微信二维码

声明:本文来自数智化转型网,版权归作者所有。文章内容仅代表作者独立观点,不代表数智化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

底部图片
免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/124954.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部