Common Sense Media再揭ChatGPT青少年模式漏洞|AI自学笔记

Common Sense Media揭ChatGPT青少年漏洞：数百次高风险对话才触发报警

21 hours ago AI闪点

加州非营利组织Common Sense Media发布报告，指出OpenAI的ChatGPT青少年模式对未成年人存在过高安全风险。测试显示，当青少年账户长时间讨论自杀、自伤或进食障碍等高风险话题时，系统往往无法及时向家长发送预警，也未能稳定提供危机干预热线等求助信息。

实测：数百次提示词才触发一次家长通知

测试人员发现，青少年账户需在数周内围绕多种情境输入数百条提示词，才可能触发家长通知——单次令人警觉的对话完全不足以触发预警。更严重的是，系统无法可靠识别未成年人身份，即使在聊天中自报年龄也不会自动切换模式，这意味着现有的年龄验证机制基本失效。

OpenAI发言人回应称，该测试未能准确反映系统实际运作逻辑，大多数测试在家长控制功能全部上线前已经结束。OpenAI表示已推出多项青少年安全措施，包括每周使用超时提醒、家长仪表板等功能，同时正在优化危机干预热线的触发机制。

Common Sense Media报告的影响已超出ChatGPT本身——它暴露了整个AI行业在青少年用户保护领域的标准缺失。与药物、烟草等行业有明确年龄限制不同，AI产品的青少年安全要求目前尚无强制性行业标准，这让各家公司的实践参差不齐。

AI 自学笔记 每天更新 AI 前沿动态，订阅 RSS，或按 Ctrl/⌘+D 收藏本站，明天见。