人工智能伴侣平台 Character.AI 周二宣布推出全新的创作形式——“Stories”功能，允许用户创作以自己喜爱角色为主角的互动小说。此举是公司战略转型的一部分，旨在替代其现有的聊天机器人功能，因为从本周起，18岁以下的用户将完全无法使用聊天机器人。
此次重大调整的背景，是人们对全天候在线、能主动与用户对话的 AI 聊天机器人可能带来的心理健康风险日益增长的担忧。此前，包括 OpenAI 和 Character.AI 在内的公司，都曾因涉嫌与用户自杀事件有关而面临多起法律诉讼。Character.AI 过去一个月一直在逐步取消未成年用户的访问权限，并于周二彻底关闭了未成年用户与 AI 角色进行任何形式聊天的通道。
推出“Stories”确保安全环境
Character.AI 在博客文章中解释，“Stories”功能提供了一种引导式的方式来创作和探索虚构故事，而不是开放式的聊天。该公司表示，此功能将与其他的多模态功能一起提供，以便青少年能够在安全的环境下继续与他们喜爱的角色互动。
互动小说形式在近年来人气飙升，为 Character.AI 的转型提供了合理的商业逻辑。然而，对于那些过度依赖开放式聊天的用户来说，这一替代品可能不足以满足他们的需求。这正是 Character.AI 限制访问权限的决定被认为合理的原因。
用户反应复杂，行业监管收紧
在 Character.AI 的 Reddit 社区，用户的反应褒贬不一。一些青少年用户表示，虽然感到失望，但他们认为这最终是正确的举措。一位自称十几岁的用户留言称:“我对禁令感到非常愤怒，但也很高兴，因为现在我可以做其他事情了，我的瘾可能终于要结束了。”另一位网友也表示:“想想也情有可原，因为我们这个年龄段的人很容易沉迷于此。”
业内人士指出，“Stories”这种形式比开放式聊天机器人在心理上更不容易引起怀疑，因为聊天机器人可以直接发送未经提示的消息，容易造成沉浸和依赖。
Character.AI 首席执行官 Karandeep Anand 上个月曾向媒体表示:“我真心希望我们能引领潮流，为行业树立一个标准，那就是对于18岁以下的用户来说，开放式聊天可能不是正确的方式，也不是应该提供的产品。”
Character.AI 设定年龄限制的决定，正值美国加利福尼亚州最近成为美国首个对 AI 伴侣进行监管的州之际。同时，联邦层面上，参议员乔什·霍利（共和党）和理查德·布卢门撒尔(民主党)也提出了一项全国性法案，拟全面禁止未成年人使用 AI 伴侣。
