最近,马斯克旗下的 xAI 公司宣布其 AI 聊天机器人 Grok 推出了一项新功能,用户现在可以生成6秒的视频片段,包括一些露骨内容。这项名为 “Imagine” 的功能可以根据用户的提示创建带声音的视频。根据 xAI 员工 Mati Roy 在社交媒体上的帖子,Grok 更新生成的视频示例包括机器人、外星部落女性等。
然而,Grok 最近的推出引发了不少争议,其中就包括其推出的一款性别化 AI “伴侣”。新功能也引发了对深度伪造(deepfake)的担忧,这种技术可以数字化地改变视频中的人物形象,通常是未经同意的情况下发布。美国国家性剥削中心高级副总裁 Haley McNamara 表示:“xAI 似乎并没有响应我们要求移除其‘NSFW’ AI 聊天机器人的呼声,而是进一步推动了性剥削。”