据路透社报道，马斯克旗下AI公司xAI向南 卡罗来纳州男子特里·哈伍德提起诉讼，指控其滥用Grok生成儿童性虐待材料。哈伍德今年 2 月因涉嫌性剥削未成年人被捕，xAI指控他违反服务条款，当地时间周二已向得克萨斯州一家联邦法院提交诉状。数智化转型网www.szhzxw.cn
一、上传普通人照片生成深度伪造色情内容
xAI在诉状中指控哈伍德将成年人和未成年人的普通照片上传至Grok，随后试图生成以照片人物为对象的色情深度伪造内容，还被指制作未经成年人本人同意的色情图像。AI公司主动起诉用户涉嫌利用AI生成色情内容的案例此前极为少见，这一案件具有标志性意义。xAI要求法院判令哈伍德支付金额尚未确定的赔偿金，并永久禁止他使用Grok，诉状称”被告经过蓄意策划，把原告的工具变成犯罪武器”。数智化转型网www.szhzxw.cn
二、Grok内容安全问题遭全球审视，已促成 244 人被捕
诉讼提交之际，xAI正因Grok的内容安全问题受到全球审视，外界指控Grok允许用户制作未经当事人同意的色情深度伪造内容。xAI在诉状中披露，公司已在 2026 年暂停 52222 个账户，向美国国家失踪与受虐儿童中心提交 73604 份报告，促成至少 244 人被捕。这一数据反映出AI平台在内容安全治理上的力度正在加大，也凸显了AI生成内容被滥用的严峻现实。数智化转型网www.szhzxw.cn
若您对人工智能感兴趣或为人工智能创始人，可添加数智化转型网小助手思思微信加入人工智能交流群。若您在寻找人工智能供应商，可联系数智化转型网小助手思思（17757154048，微信同号）
若您为人工智能服务商，可添加数智化转型网小助手Jasper，加入人工智能行业交流群。
声明：本文来自数智化转型网，版权归作者所有。文章内容仅代表作者独立观点，不代表数智化转型网立场，转载目的在于传递更多信息。如有侵权，请联系我们。
本文由数智化转型网（www.szhzxw.cn）转载，编辑/翻译：数智化转型网（Professionalism Achieves Leadership 专业造就领导者）白龙
