OpenAI宣布升级ChatGPT暴力内容限制,危险对话频发将面临封号

OpenAI 近日正式宣布,将在未来几周内全面升级并加强 ChatGPT 对暴力相关内容的限制,同时针对未成年人用户推出更加严格的武器和安全系统信息防护机制。

OpenAI 近日正式宣布,将在未来几周内全面升级并加强 ChatGPT 对暴力相关内容的限制,同时针对未成年人用户推出更加严格的武器和安全系统信息防护机制。

此次政策调整的核心,在于对高风险对话采取更果断的干预手段。根据新公布的措施,如果系统检测并评估用户的对话显示出持续聚焦于暴力或严重伤害他人想法的倾向,ChatGPT 将具备主动结束对话的能力。更为严厉的是,若用户因这类问题被系统多次终止对话,其账号将面临被暂停使用甚至直接封禁的处罚。

在具体的内容过滤边界上,原有政策一如既往地禁止提供任何帮助用户策划或实施暴力行为的操作指导。而在此次调整中,限制范围进一步扩大到了历史层面——模型针对“过去大规模袭击事件及其实施者”相关问题的回答细节将被大幅缩减,甚至直接选择拒绝回答。具体受限内容不仅涵盖了重现袭击过程所涉及的武器、装备及其获取途径,还包括限制用户查询旨在放大袭击者知名度的伤害规模详细比较。需要注意的是,这一系列限制适用于全体用户,不区分年龄段与提问目的,即便是成年用户在进行相关查询时也将受到相同的约束。

除了面向所有用户的通用限制外,针对被识别为未满18周岁的青少年群体,OpenAI 进一步加码了精细化保护。系统将针对性地限制可能被用于实施暴力的武器和安全系统的实用信息,即便相关提问表面上看起来并未直接显露暴力意图,该项保护也会自动触发。不过,OpenAI 强调,青少年依然可以正常通过 ChatGPT 寻求帮助,例如学习如何预防或缓和暴力,或是获取与可信赖成年人取得联系的有效指导。

为了确保青少年保护机制的精准落地,OpenAI 引入了改进后的年龄预测机制。该机制能够结合用户的日常行为等多维度信号,持续对账号是否属于未成年人进行动态评估,并在适当时机自动匹配相应的保护措施。如果用户的账号不幸被系统误判为未成年人,也可以通过主动提交身份信息的方式进行验证与调整。

💬 评论
🔗 本文链接

以专业为基,引领科技向善向新

Rooted in professionalism, we lead technology toward social good and innovation.

数智化转型网 · 了解更多产业资讯与选型数据 →

📰 你可能也喜欢

55 个海外智能体,日本 13 个、韩国 9 个、美国 8 个:海外版图透露的三个信号 AI情报站

55 个海外智能体,日本 13 个、韩国 9 个、美国 8 个:海外版图透露的三个信号

《智能体建设地图》单列了"海外智能体专区",收录 55 个智能体,覆盖 13 个国家和地区。日本 13 个、韩国 9 个、美国 8 个占据前三。这份分布,是国内…
📅 11-17 · 👁 2026年11月17日
自动草稿每个智能体都标了"替人做哪件事、解决什么难题":如何把地图当成选型对标表自动草稿 AI情报站

每个智能体都标了”替人做哪件事、解决什么难题”:如何把地图当成选型对标表自动草稿

《智能体建设地图》里每个智能体都带一组结构化字段——一句话职责、价值、痛点、能力定义、场景、能解决什么、适配行业、角色类型。这八个字段合起来,就是一份现成的智能…
📅 11-17 · 👁 2026年11月17日
"业务执行型"占了近一半:从41种角色看,智能体到底在替人干什么 AI情报站

“业务执行型”占了近一半:从41种角色看,智能体到底在替人干什么

《智能体建设地图》给每个智能体都贴了"角色类型"标签。在 18 个行业视角收录的 747 个智能体里,一共出现 41 种角色,其中"业务执行型"367 个、约占…
📅 11-17 · 👁 2026年11月17日
智能体建设地图 AI情报站

18 个行业里,政务 59 个、金融 54 个、制造 54 个:智能体密度告诉了我们什么

把《智能体建设地图》18 个行业的收录量排成一列,政务 59、金融 54、制造 54 领跑,法律 32 垫底,首尾相差不到一倍。这个"密度差"不是行业大小的排名…
📅 11-17 · 👁 2026年11月17日
一张地图,1263个智能体:企业该怎样读懂《智能体建设地图》 AI情报站

一张地图,1263个智能体:企业该怎样读懂《智能体建设地图》

CXOU AI 研究院出品的《智能体建设地图》,把 18 个行业、15 个职能域、223 个细分场景里的 1263 个智能体铺成一张可检索的版图。对大多数企业来…
📅 11-17 · 👁 2026年11月17日
曦选创智完成5亿元天使轮融资(信息图,非新闻实拍配图) AI情报站

曦选创智完成5亿元天使轮融资,投后估值40亿元

近日,由优必选与沐曦股份联合发起成立的具身智能端侧芯片公司曦选创智宣布完成5亿元天使轮融资,投后估值达到40亿
📅 11-17 · 👁 2026年11月17日