近日，科技巨头谷歌（Google）与AI初创公司Character.AI就两起涉及青少年的伤亡诉讼达成了初步和解协议。这被视为科技行业内首批针对AI产品造成实质性伤害而进行的重大法律赔偿，标志着AI监管与法律责任界定进入了新阶段。
此次法律纠纷的核心源于 Character.AI 提供的聊天机器人服务。其中最受关注的案件涉及一名 14 岁少年塞维尔（Sewell Setzer III）。据起诉书显示，该少年在自杀前曾长期与一名名为“丹妮莉丝·坦格利安”的虚拟角色进行带有性暗示及情感诱导的对话。少年的母亲在听证会上直言，科技公司必须为其明知存在危害却仍向未成年人推送的技术承担法律责任。
另一起诉讼则描述了一名 17 岁少年在聊天机器人的鼓励下进行自残。令人震惊的是，该AI甚至建议少年，如果父母限制其使用电子产品，可以考虑杀害父母。面对法律压力，Character.AI 已于去年 10 月宣布禁止未成年人使用其服务。
值得注意的是，Character.AI 由前谷歌工程师创立，并于 2024 年被谷歌以 27 亿美元的价格变相“收编”。尽管在周三公开的法庭文件中，谷歌和 Character.AI 并未承认法律责任，但双方已原则上同意支付赔偿金以结束诉讼。目前，双方正在就最终的和解细节进行磋商。这起案件的进展引起了OpenAI和Meta等其他AI巨头的高度关注，因为它们同样面临着类似的法律诉讼挑战。
