京东宣布开源自研实时流式视频编辑模型 JoyAI-Video-Edit,用户可以一边观看视频一边修改人物与场景,让视频创作从”先有素材再修改”变为可实时互动编辑。京东官方表示,在流式实时视频编辑方向,该模型对比当前业内代表性模型各项指标全面领先,达到世界一流水平。数智化转型网www.szhzxw.cn
视频实时编辑首先要解决速度问题。视频由一帧帧连续画面组成,如果模型处理速度跟不上播放速度,就会出现卡顿与延迟。JoyAI-Video-Edit 基于全自研 JoyAI-Video 模型,在 720P 分辨率下实现每秒 30 帧的模型推理速度,能够在保持较高画面清晰度的同时跟上常见影视视频的播放节奏。数智化转型网www.szhzxw.cn
视频长度也是流式编辑的一道门槛。此前流式编辑模型只能处理几秒或分钟级片段,而 JoyAI-Video-Edit 支持任意时长的稳定流式编辑,可以随着视频持续播放、持续处理。用户不必等待整段视频生成完成,就能在播放过程中实时修改场景、替换物体、调整人物形象或改变画面风格,实现”边观看边创作”。数智化转型网www.szhzxw.cn
一、权威评测全面登顶,四类编辑任务优势突出
为评估模型能力,研究团队将 JoyAI-Video-Edit 与 SANA Streaming、LiveEdit、Xmax-X2.0 等国际代表性流式视频编辑模型进行对比。结果显示,在覆盖典型视频编辑场景的评测数据中,JoyAI-Video-Edit 整体效果全面领先。
在业界权威的 OpenVE-Bench 通用评测中,该模型超越了目前所有的流式编辑方法,在全局风格、局部替换、局部删除和字幕编辑等任务中优势尤其突出,大幅领先行业同类模型。具体应用场景上,创作者可以让视频中的人物连续更换服装,在直播中把普通街道变成动画世界,也可以在家装设计中尝试不同的家具、墙面和灯光效果。
二、不止视频创作,还能为机器人”量产”训练数据
值得关注的是,JoyAI-Video-Edit 还为具身智能数据大规模合成提供了新的技术路径。机器人训练需要大量物体抓取、搬运与操作视频,但真机数据采集成本较高,危险或少见场景也难以反复采集。数智化转型网www.szhzxw.cn
依托对场景、物体与画面内容的可控编辑能力,JoyAI-Video-Edit 可将人手操作视频转化为机械手或机械臂操作素材,并在保留物体位置、空间关系与动作轨迹的基础上,替换场景、物体与机器人形态,让一段视频扩展出更多训练样本。从视频创作到机器人训练数据合成,这款模型的开源或将为多个赛道同时打开新的想象空间。数智化转型网www.szhzxw.cn
若您对人工智能感兴趣或为人工智能创始人,可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商,可联系数智化转型网小助手思思(17757154048,微信同号)

若您为人工智能服务商,可添加数智化转型网小助手Jasper,加入人工智能行业交流群。

声明:本文来自数智化转型网,版权归作者所有。文章内容仅代表作者独立观点,不代表数智化转型网立场,转载目的在于传递更多信息。如有侵权,请联系我们。

本文由数智化转型网(www.szhzxw.cn)转载,编辑/翻译:数智化转型网(Professionalism Achieves Leadership 专业造就领导者)白龙
