双向视听分离:通仪实验室发布PrismAudio,让AI理解并重新配音视频

在AI视频生成蓬勃发展的时代,“无声配图片”或“声音不匹配”一直是影响沉浸体验的最后障碍。为了解决这一痛点,阿 […]

在AI视频生成蓬勃发展的时代,“无声配图片”或“声音不匹配”一直是影响沉浸体验的最后障碍。为了解决这一痛点,阿里巴巴通仪实验室最近推出了一个名为PrismAudio的新视听转音频框架。这项研究已被顶级人工智能会议ICLR 2026接受,核心目标是自动将视频与精准的环境音效匹配。

先思考,然后说:配音大师与《思维链条》

传统的配音模型通常以“直观”的方式生成声音,常常导致尴尬场面,比如马踩地却发出鸟鸣,或声音比画面慢半拍。PrismAudio的突破在于其“先记笔记,然后说话”的能力。

  • 分解思维链:在生成声音之前,模型会分析视频内容:场景中有什么?声音应该什么时候开始?音频是清晰还是深沉?声音源是在左边还是右边?
  • 四位教师评分:为确保质量,开发团队引入了强化学习,由四位“虚拟教师”从语义一致性、时间同步、美学质量和空间准确性四个维度对输出进行评分。这种多维反馈机制解决了以往模型“专注于某一方面而忽视其他方面”的长期问题。

轻便高效:9秒视频仅需0.6秒

PrismAudio不仅能产生准确的声音,而且运行速度极快。得益于其自开发的快速GRPO高效训练算法,该模型在保持高操作效率的同时实现了显著的性能飞跃:

  • 小巧,大功率:该模型仅有5.18亿个参数,远少于通常拥有数百亿参数的类似模型。
  • 超高速响应:生成9秒高质量音频仅需0.63秒,几乎实现“即时交付”。

行业洞察:真实环境音效时代

PrismAudio的出现不仅为电影后期制作和短视频制作提供了强大的自动化工具,还为多对象生成任务带来了新思路。当人工智能能够准确平衡声音的质感和空间感时,未来的视频创作将真正实现“你所见即你所听”。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

​豆包大模型 2.1 Pro 0915 版本重磅发布:Agent 交付更稳、多模态 Coding 全面进化

9月16日,火山引擎官方正式宣布,豆包大模型2.1Pro(Doubao-Seed-2.1-pro)迎来了全新的0915版本升级,目前该模型的 API 已经全量上…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

vivo 正式发布智能体大模型矩阵,并重磅预研 30B MoE 端侧大模型

vivo 今日正式召开发布会,推出全新的智能体大模型矩阵,涵盖语音、端侧、云侧等四款核心大模型,全方位赋能终端设备的智能化体验。与此同时,vivo 官方宣布正在…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

​生数科技正式发布 Vidu S2,支持实时编辑、动态参考图与头显适配

生数科技于9月15日正式发布了全新的 Vidu S2视频大模型系列。本次发布的 Vidu S2包含两个核心模型:面向持续交互数字角色生成的 Vidu S2-Av…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

DeepSeek V4.1Flash助力《生化危机7》安卓模拟运行,帧率提升50%

近日,有网友社交平台发文称,其调用DeepSeek V4.1Flash模型,并结合Hermes Agent工具,对《生化危机7》游戏纹理进行AI调优,使游戏在搭…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

AI智能体手机进入量产商用阶段:努比亚NaviX Ultra正式开售 搭载豆包手机助手

搭载豆包手机助手消费者版的努比亚NaviX Ultra正式上市,标志着AI智能体手机从工程样机进入规模化量产商用阶段。产品围绕“听得懂、能干活、记得住、够安全”…
📅 10-21 · 👁 2026年10月21日
数智化转型网每日AI资讯 AI情报站

科学减重一亿斤再加码!蚂蚁阿福推出AI饮食分功能,还将发一亿颗鸡蛋

每天吃的健康吗?现在拍张照就能知道了。9月16日,蚂蚁阿福发布了"AI饮食分":用户拍下餐食照片,AI就能自动识别食物种类、算清营养和热量,…
📅 10-21 · 👁 2026年10月21日