数智化转型网szhzxw.cn 人工智能资讯 每日人工智能资讯|双向视听分离:通仪实验室发布PrismAudio,让AI理解并重新配音视频

每日人工智能资讯|双向视听分离:通仪实验室发布PrismAudio,让AI理解并重新配音视频

在AI视频生成蓬勃发展的时代,“无声配图片”或“声音不匹配”一直是影响沉浸体验的最后障碍。为了解决这一痛点,阿里巴巴通仪实验室最近推出了一个名为PrismAudio的新视听转音频框架。这项研究已被顶级人工智能会议ICLR 2026接受,核心目标是自动将视频与精准的环境音效匹配。

先思考,然后说:配音大师与《思维链条》

传统的配音模型通常以“直观”的方式生成声音,常常导致尴尬场面,比如马踩地却发出鸟鸣,或声音比画面慢半拍。PrismAudio的突破在于其“先记笔记,然后说话”的能力。

  • 分解思维链:在生成声音之前,模型会分析视频内容:场景中有什么?声音应该什么时候开始?音频是清晰还是深沉?声音源是在左边还是右边?
  • 四位教师评分:为确保质量,开发团队引入了强化学习,由四位“虚拟教师”从语义一致性、时间同步、美学质量和空间准确性四个维度对输出进行评分。这种多维反馈机制解决了以往模型“专注于某一方面而忽视其他方面”的长期问题。

轻便高效:9秒视频仅需0.6秒

PrismAudio不仅能产生准确的声音,而且运行速度极快。得益于其自开发的快速GRPO高效训练算法,该模型在保持高操作效率的同时实现了显著的性能飞跃:

  • 小巧,大功率:该模型仅有5.18亿个参数,远少于通常拥有数百亿参数的类似模型。
  • 超高速响应:生成9秒高质量音频仅需0.63秒,几乎实现“即时交付”。

行业洞察:真实环境音效时代

PrismAudio的出现不仅为电影后期制作和短视频制作提供了强大的自动化工具,还为多对象生成任务带来了新思路。当人工智能能够准确平衡声音的质感和空间感时,未来的视频创作将真正实现“你所见即你所听”。

若您对人工智能感兴趣,可添加数字化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数字化转型网小助手思思(17757154048,微信同号)

此图片的alt属性为空;文件名为image-82.png

若您为人工智能服务商,可添加数字化转型网小助手Nora,加入人工智能行业交流群。

此图片的alt属性为空;文件名为image-83.png

若您为人工智能创业者,可添加数字化转型网社群主理人Carina,加入人工智能创业交流群。

此图片的alt属性为空;文件名为image-84.png

声明:本文来自网络,版权归作者所有。文章内容仅代表作者独立观点,不代表数字化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

此图片的alt属性为空;文件名为image-12.png

本文由数智化转型网(www.szhzxw.cn)转载而成,来源于网络;编辑/翻译:数智化转型网(Professionalism Achieves Leadership 专业造就领导者)默然

免责声明: 本网站(http://www.szhzxw.cn/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。 本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等) 版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。https://www.szhzxw.cn/109887.html
联系我们

联系我们

17717556551

邮箱: editor@cxounion.org

关注微信
微信扫一扫关注我们

微信扫一扫关注我们

关注微博
返回顶部