深度合成技术指依托人工智能深度学习模型生成文字、图像、音频与视频,核心特征是生成内容高度真实,已有FakeApp、Faceswap等应用,广泛用于AI合成主播、虚拟偶像与赛事新闻生成。解决的是内容创作依赖实拍、门槛高的问题,并不解决生成真实性与授权伦理风险。
截至目前已有多款具有类似功能的应用程序上线,包括FakeApp、Faceswap、RealTalk、Melnet、ZAO等。深度合成技术极大地丰富了新闻内容的创作与传播方式,从AI合成主播到虚拟偶像,从修复历史老照片到快速生成赛事新闻,深度合成技术正在逐步改变新闻传播的生态。
由于深度合成技术可以在未经涉及图像和声音当事人同意的情况下生成某人发表任何言论(幽默、色情或政治)的视频,并具有使用门槛低、生成内容高度真实的特性,人们担心由该技术生成的伪造视频在色情、法庭、勒索、恐怖主义宣传上的滥用,以及由此造成的对社会、政治、金融、新闻信任等的伤害。