英国工党议员杰丝·阿萨托近日正式向英国高等法院提起诉讼，控告埃隆·马斯克旗下的人工智能公司xAI。阿萨托发表声明指出，该公司的Grok AI平台被恶意用于制作并传播针对她个人的色情深度伪造图像。

她强调，此类侵害数千名女性和未成年人权益的低俗内容绝非偶然失误，而是产品在研发阶段的刻意设计选择。因此，她决定通过法律途径追究相关设计决策的责任，要求被告公开认错并赔偿损失。

禁令沦为摆设，恶意内容泛滥

尽管xAI曾于今年 1 月中旬宣称已对Grok的图片编辑功能实施限制，在相关违法区域禁止生成暴露服饰图像。然而媒体在 2 月的核查中发现，该功能漏洞依旧，用户只需输入特定指令便能轻易绕过防线。

在阿萨托公开抨击该平台后，网络上随即出现了她身穿比基尼的伪造照片，甚至还有性质更为恶劣的虚构受侵害视频。此前，美国巴尔的摩市也曾因类似原因对xAI提起诉讼，指控其违反了当地的消费者保护法规。

首例产品设计诉讼，敲响安全警钟

负责代理此案的AWO律所法务主管表示，这起诉讼是全球首批针对人工智能产品本质设计进行追责的法律案件之一。他们希望通过此案向行业明确释放信号，即人工智能研发企业不能总将安全保障视为事后补救的备选项。

值得注意的是，xAI作为SpaceX的子公司，目前正计划推进上市进程，这有望创下全球历史上规模最大的首次公开募股纪录。在这关键时刻，这场关于AI伦理与数据隐私的法律风暴，无疑给整个生成式人工智能行业敲响了警钟。