非营利组织发布新报告:ChatGPT 青少年模式安全风险过高 ​

加州非营利组织 Common Sense Media 近日发布报告指出,OpenAI 的 ChatGPT 青少年模式对未成年人而言存在过高风险。测试显示,当青少年账户长时间讨论自杀、自伤或进食障碍等高风险话题时,系统往往无法及时向家长发送预警,也未能稳定提供危机干预热线等求助信息。

加州非营利组织 Common Sense Media 近日发布报告指出,OpenAI 的 ChatGPT 青少年模式对未成年人而言存在过高风险。测试显示,当青少年账户长时间讨论自杀、自伤或进食障碍等高风险话题时,系统往往无法及时向家长发送预警,也未能稳定提供危机干预热线等求助信息。

测试人员发现,青少年账户需在数周内围绕多种情境输入数百条提示词,才可能触发家长通知,单次令人警觉的对话完全不足以触发预警。此外系统还无法可靠识别未成年人身份,即使在聊天中自报年龄也无法自动切换模式,因此该机构呼吁 OpenAI 暂停推广该产品。

官方回应测试局限,研究机构坚持原判

面对质疑,OpenAI 发言人回应称该测试未能准确反映系统的实际运作逻辑。官方审查测试方法后认为,大多数测试可能在面向青少年的家长控制功能全部上线前就已经结束,并表示年龄预测软件需要综合多种信号,单凭自报年龄不会改变账户分类。

然而研究人员对此回应予以反驳,强调测试前已向官方确认相关功能均已推出。研究团队指出,即便考虑到绑定账号后可能存在的延迟生效时间,系统在危机情况下依然未能可靠发出预警,因此坚持认为 ChatGPT 青少年模式的安全性暂未达标。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

数智化转型网每日AI资讯 AI情报站

蚂蚁阿福获世界互联网大会领先科技奖 成为首个获得该奖的健康AI应用

11月2日,在2026年世界互联网大会上,蚂蚁集团旗下的健康AI蚂蚁阿福获得“领先科技奖”,成为首个获得该奖项的健康垂类AI应用。目前,蚂蚁阿福已服务1.5亿用…
📅 11-13 · 👁 2026年11月13日
数智化转型网每日AI资讯 AI情报站

ChatGPT 要能主动挂断危险对话,屡犯者直接封号

过去要靠用户自己收手,如今 AI 先把话筒抢过来。OpenAI 日前宣布,未来几周将给 ChatGPT 加上更硬的暴力内容闸门:当对话持续围绕暴力或严重伤害他人…
📅 11-13 · 👁 2026年11月13日
数智化转型网每日AI资讯 AI情报站

六步实现音视频联合生成!Pika基于MiniMax H3 重磅开源Pika H3 Flex

近年来,人工智能在视听创作领域的迭代速度令人目不暇接。近日,知名AI视频创作平台 Pika 宣布推出基于 MiniMax H3的全新衍生模型 —— Pika H…
📅 11-13 · 👁 2026年11月13日
数智化转型网每日AI资讯 AI情报站

破解AI长期记忆瓶颈,阿里云赋能Personal Agent迈向深度个性化

11月2日,阿里云宣布对其Memory服务进行全面升级,重点面向Personal Agent场景增强用户偏好、计划及历史约定的长期记忆与个性化处理能力,并全面提…
📅 11-13 · 👁 2026年11月13日
数智化转型网每日AI资讯 AI情报站

韩国史上最大预算案:820 万亿韩元,AI 与半导体成绝对主角

一份刷新本国纪录的财政账单,把宝押在了 AI 与半导体上。11 月 2 日,韩国总统李在明在国会公布 2027 年预算案:总支出较上一年增长 12.8%,达到 …
📅 11-13 · 👁 2026年11月13日
数智化转型网每日AI资讯 AI情报站

北京出台智能眼镜消费政策:购新补贴15%,单件最高500元

北京市商务局近日印发《促进智能眼镜消费政策指南》,推出七项支持举措,从购新补贴、首店首发、品牌联名、国际化消费场景、离境退税、数字化转型到国际市场开拓等方面,推…
📅 11-13 · 👁 2026年11月13日