输入分镜脚本,几秒生成1分钟连贯叙事视频!字节开源StoryMem,让AI视频角色永不“变脸”

近日,字节跳动与南洋理工大学联合研发的开源框架StoryMem在AI视频生成领域引发广泛关注。该框架通过创新的“视觉记忆”机制,将现有单镜头视频扩散模型转化为多镜头长视频故事讲述者,能自动生成时长超过

近日,字节跳动与南洋理工大学联合研发的开源框架StoryMem在AI视频生成领域引发广泛关注。该框架通过创新的“视觉记忆”机制,将现有单镜头视频扩散模型转化为多镜头长视频故事讲述者,能自动生成时长超过1分钟、包含多个镜头切换、角色和场景高度连贯的叙事视频,标志着开源AI视频技术向电影级叙事迈出关键一步。

StoryMem的核心创新:记忆机制驱动的逐镜生成

StoryMem的核心在于引入人类记忆启发的“Memory-to-Video(M2V)”设计。它维护一个紧凑的动态记忆库,存储先前生成镜头中的关键帧信息。首先使用文本到视频(T2V)模块生成首镜头作为初始记忆,随后每生成一个新镜头,都通过M2V LoRA将记忆关键帧注入扩散模型,确保角色外貌、场景风格和叙事逻辑跨镜头高度一致。

生成完成后,框架自动进行语义关键帧提取和美学筛选,进一步更新记忆库。这种迭代式生成方式,避免了传统长视频模型常见的角色“变脸”、场景跳变问题,同时仅需轻量LoRA微调即可实现,无需海量长视频数据训练。

卓越一致性与电影级品质

实验显示,StoryMem在跨镜头一致性上显著优于现有方法,提升幅度高达29%,并在人类主观评测中获得更高偏好。同时保留了基础模型(如Wan2.2)的高画质、提示遵循度和镜头控制能力,支持自然转场和自定义故事生成。

框架还配套发布了ST-Bench基准数据集,包含300个多样化多镜头故事提示,用于标准化评估长视频叙事质量。

应用场景广泛:快速预览与A/B测试利器

StoryMem特别适用于需要快速迭代视觉内容的领域:

– 营销与广告从脚本快速生成动态分镜,进行多种版本A/B测试
– 影视预制作辅助剧组可视化故事板,降低前期概念成本
– 短视频与独立创作轻松产出连贯叙事短片,提升内容专业度

社区快速响应:ComfyUI集成已现雏形

项目发布后短短几天,社区已开始探索本地化部署,部分开发者在ComfyUI中实现初步工作流,支持本地运行生成长视频,进一步降低了使用门槛。

AIbase观点:长视频一致性一直是AI生成领域的痛点,StoryMem以轻量高效的方式破解这一难题,极大推动了开源视频模型向实用叙事工具演进。未来结合更多多模态能力,其在广告、影视和内容创作中的潜力将进一步释放。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

可灵 AI 宣布 Kling 4.0 Flash 全面开放,深度融入专业影视工作流

人工智能视频生成领域迎来重要进展。可灵 AI 官方正式宣布,备受瞩目的 Kling4.0Flash 现已面向全球所有用户全面开放。作为面向高频创作与高性价比需求…
📅 11-07 · 👁 2026年11月7日
数智化转型网每日AI资讯 AI情报站

国产RNA生物大模型重大突破:中国科大团队研发 structRFM 登上《自然》并全面开源

中国科学技术大学研究团队近日在生命科学与人工智能交叉领域取得重磅突破,正式推出名为 structRFM 的开源 RNA 序列基础模型,相关研究成果已于近日荣登国…
📅 11-07 · 👁 2026年11月7日
数智化转型网每日AI资讯 AI情报站

灵光2.0上线一周托管超116万项事务,用户突破2000万

11月5日消息,蚂蚁集团旗下AI助手灵光公布最新数据:自今年10月27日灵光2.0上线,一周内已帮助用户管理超116万项事务,执行超360万次任务。随着AI从“…
📅 11-07 · 👁 2026年11月7日
数智化转型网每日AI资讯 AI情报站

豆包工作首次接入第三方模型,首批上线Kimi、智谱与DeepSeek

10月29日,字节跳动旗下豆包工作团队订阅版与企业订阅版正式全面接入第三方模型,首批上线Kimi K3.1Pro、GLM5.3以及DeepSeek V4.1Fl…
📅 11-07 · 👁 2026年11月7日
数智化转型网每日AI资讯 AI情报站

雷军晒小米机器人做家务视频,Xiaomi-Robotics-1支撑长程任务

小米创办人、董事长兼CEO雷军近日在微博发布视频,展示小米机器人在家庭场景中的最新测试进展。该机器人在小米青年公寓试运营,可完成垃圾清扫、物品分类归位等家务任务…
📅 11-07 · 👁 2026年11月7日
数智化转型网每日AI资讯 AI情报站

月之暗面开放 2.8 万亿参数 Kimi K3.1 Pro 权重,强势登顶 Agent Arena 开源榜

11月5日消息,按照此前在10月24日发布时许下的承诺,月之暗面(Moonshot AI)今日正式在 Hugging Face 平台全面开放了Kimi K3.1…
📅 11-07 · 👁 2026年11月7日