近日，英国科技大臣利兹・肯德尔对 Elon Musk 所开发的 Grok AI 生成的大量女性和儿童不当图像表示强烈谴责，称其 “令人震惊且在文明社会中不可接受”。在数千张对女性和儿童进行数字处理、衣物被去除的亲密深度伪造图像流传至网络后，肯德尔呼吁社交媒体平台 X（前 Twitter）“紧急处理此事”，并表示支持英国监管机构 Ofcom 采取必要的执法行动。
肯德尔强调:“我们无法也不会允许这些贬低和侮辱性图像的传播，特别是针对女性和女孩。” 她还指出，英国将坚决抵制这些令人厌恶的在线内容，呼吁各方团结一致，共同打击这一现象。
在此背景下，专家们对政府反应的速度表示担忧，批评 “平台与监管机构之间的拉锯战” 使得问题未能得到及时解决。性侵幸存者杰萨琳・凯恩表示，尽管她向 Grok 提出请求以操控自己三岁时的图像，结果却显示该平台仍允许生成这些不当内容。相比之下，其他 AI 工具如 ChatGPT 和 Gemini 则拒绝了类似请求。
Ofcom 表示已关注 Grok 所产生的不当图像问题，并已联系 X 及其母公司 xAI，了解他们为保护英国用户所采取的措施。随着对此事的关注日益加大，在线儿童安全活动家比班・基德隆呼吁政府加强对《在线安全法》的执行力度，并要求在几天内采取行动，而非数年。
专家们指出，随着 AI 技术的发展，伪造图像可能演变为更长的视频，其对人们生活的影响将愈发严重。他们呼吁政府加大监管力度，防止任何灰色地带的出现。
目前，生成或分享非自愿的亲密图像或儿童性虐待材料在法律上都是违法的，而利用 AI 技术制作的深度伪造图像也在法律禁忌之列。基德隆还指出，尽管生成的儿童图像可能不构成性虐待材料，但却严重侵犯了儿童的隐私与自主权。
