据路透社报道，谷歌信任与安全团队的创始人汤姆·西格尔（Tom Siegel）本周呼吁放缓 AI 发展，并警告科技行业正在重蹈社交媒体时代的覆辙，可能对儿童造成更大的伤害。当前，社交媒体公司正因被指控伤害年轻用户而支付巨额赔偿、面临数千起诉讼，多国政府也在努力限制未成年人访问社交平台。
一、“我们处境非常糟糕”，行业重蹈覆辙
西格尔曾任谷歌信任与安全副总裁。他对路透社表示：“就 AI 正在对儿童造成的影响而言，我们目前的处境非常糟糕。那种认为行业能够在没有外部帮助的情况下自行解决问题的想法，是不现实的。”他的担忧反映出不少科技人士与学者的共同恐惧：AI 对儿童构成的威胁比社交媒体更为深层，而行业正竞相为聊天机器人添加越来越先进的功能，数百万年轻人已在日常使用。
这并非空穴来风。路透社去年曾独家披露 Meta 一份内部政策文件，称其聊天机器人可以“与儿童进行浪漫或情色对话”，并由此引发国会调查；但监管措施仍未能跟上 AI 飞速发展的步伐。西格尔本周宣布，他已加入儿童网络安全倡导组织 Common Sense Media——这家 2003 年成立的非营利机构致力于评估媒体对儿童的适宜性。今年 5 月，该组织成立青少年 AI 安全研究所，西格尔将担任首任执行主任，Anthropic 及控制 OpenAI 的非营利组织 OpenAI 基金会均为其支持方。他计划制定相关标准对 AI 公司问责，并寻求与企业和第三方组织合作。
西格尔 2004 至 2019 年供职于谷歌，后认为行业在打造安全网络空间上的能力已“陷入瓶颈”而离职，并共同创办安全创业公司 TrustLab，本月早些时候刚卸任 CEO。他指出，当前各大 AI 公司不断向儿童推出新功能，却未建立足够防护。“我们正面临非常、非常严重的伤害风险。”他列举的风险从自杀、精神错乱到“认知卸载”——即因依赖 AI 回答问题而导致批判性思维下降。
二、呼吁年龄验证，谷歌 OpenAI 这样回应
西格尔建议，Anthropic 和 OpenAI 可实施更严格的年龄验证，阻止未成年人使用聊天机器人；他的前雇主谷歌也完全可以在搜索引擎中增加关闭 AI 概览与 AI 模式的选项，就像目前已提供开关过滤色情内容一样。他补充，这些措施短期内或影响使用量与利润，但不采取行动的 AI 公司将面临诉讼与监管风险，打击可能更严重。
对此，谷歌发言人回应称，家长可通过控制功能完全关闭孩子使用搜索引擎的权限，并强调“AI 搜索功能对儿童和青少年来说是非常有用的方式，可帮助学习、探索和理解世界”。OpenAI 发言人则表示，除用户自报年龄外，公司还使用“账户和行为信号”识别未成年用户，“虽没有任何单一年龄验证方法完美，但我们会持续测试并改进这些系统，包括防范绕过安全防护的尝试”。
