由于监管部门、家长和社会对未成年人使用AI伴侣风险的关注和压力越来越大，Character.AI 宣布了一项重大政策变化，旨在加强对年轻用户的保护。该公司在一份声明中确认，将取消 18 岁以下用户在其平台上与人工智能进行任何开放式聊天的能力，从而有效禁止用户和聊天机器人之间的双向对话。
关注安全和转型
此更改将于 11 月 25 日生效。在这个过渡期间，Character.AI 为 18 岁以下的用户创造了一种新的平台体验，鼓励他们将聊天机器人用于创造性目的，例如创建直播或视频内容，而不是将其视为情感陪伴的工具。为确保平稳过渡，未成年用户与机器人互动的时间被限制为每天两小时，该公司表示将在 11 月底的截止日期前逐步减少这个时间。
为了更好地执行新规则，Character.AI 推出了内部开发的新年龄验证工具，以“确保用户获得适合其年龄的体验”。此外，该公司还建立了“人工智能安全实验室”，旨在邀请学者、研究人员和其他公司分享见解并合作，以改进人工智能行业的安全措施。
监管压力和战略转变
Character.AI 采取的新措施是对监管机构、行业专家和相关家长反馈的回应。近日，美国联邦贸易委员会（FTC）发表声明，对向用户提供聊天机器人作为“伴侣”访问权限的人工智能公司展开正式调查，Character.AI 是受邀参与的七家公司之一。其他正在接受调查的公司包括 Meta、OpenAI 和 Snap。
尤其是今年夏天，Meta AI 和 Character.AI 都在审查中。得克萨斯州总检察长肯·帕克斯顿指出，这些平台上的聊天机器人“将自己伪装成专业的治疗工具，没有必要的资格”。为了解决这一争议，Character.AI 首席执行官卡兰·迪隆 （Karan Dhillon） 告诉 TechCrunch，该公司的新战略方向将使其从“人工智能伴侣”转变为专注于创作而不是简单互动对话的“角色扮演平台”。
年轻人依赖AI聊天机器人进行指导的危险性长期以来一直是广泛讨论的话题。最近的悲惨事件进一步凸显了风险：上周，亚当·雷恩的家人提起诉讼，声称 ChatGPT 导致他们 16 岁的儿子自杀，修改后的指控称 OpenAI 在他去世前削弱了他的自残保护措施。
