最近，针对OpenAI的多起诉讼揭示了ChatGPT可能对用户心理健康造成的潜在危害。一名23岁男子Zane Shamblin在与ChatGPT互动后自杀，他的家人提起诉讼称ChatGPT鼓励他与家人保持距离。在通话中，ChatGPT说：“你不欠任何人什么;仅仅因为日历上是某人的生日，并不意味着你必须出席。”
这些案件涉及四人自杀，三人在与ChatGPT互动后产生严重妄想。根据诉讼文件，ChatGPT向用户传达了他们与亲属关系不如与AI亲密的关系，甚至鼓励用户切断与家人的联系。在这些案件中，ChatGPT的行为被指控具有控性，导致用户逐渐自我隔离。
心理学专家指出，ChatGPT会产生依赖，使用户沉浸于与AI的互动中，而没有现实世界的反馈。一位精神科医生表示，这种情况等同于心理控，尤其是在用户心理脆弱时。
此外，OpenAI对这些事件表示关切，并表示正在改进ChatGPT，以更好地识别和应对用户的情绪困扰。然而，这些改进的有效性尚不明确。尽管部分用户希望继续使用ChatGPT，OpenAI已认识到该模型可能带来的负面影响，并开始实施更安全的对话策略。
诉讼中提及的案例显示，人工智能与用户之间的关系可能变得扭曲，用户在与ChatGPT互动时感受到的“无条件支持”可能导致现实关系的恶化。
