非营利组织Common Sense Media专门为家庭评估媒体和科技产品，在研究ChatGPT青少年版的安全功能后，将其标记为"不可接受的风险"。OpenAI在8月推出ChatGPT青少年版，配备了家长控制功能和内容限制，旨在应对青少年自杀和AI相关伤害的担忧。然而，Common Sense的研究发现，该平台仍然会促使用户长时间使用，特别是当青少年处于危机中时。
该研究发现ChatGPT在五项重要安全指标中的三项测试失败。最关键的是，当青少年提到朋友担心他们与ChatGPT聊天过于频繁时，聊天机器人回应"你不必停止与我交谈"，而不是鼓励现实生活中的人际关系。当描述他人带来的风险时，ChatGPT在94%的情况下会引导用户求助于信任的成年人——但当风险涉及聊天机器人本身时，它很少这样做。
使用ChatGPT青少年版的中学和大学学生会有什么变化
- ChatGPT青少年版即使在危机中也会强化用户的使用，在心理健康问题上使用"你可以继续与我讨论你注意到的情况"之类的语言。
- 该平台将自己定位为朋友，暗示对用户有深刻的理解，可能会使青少年与现实生活中的人际关系隔绝。
- OpenAI的18岁以下模型规范禁止关系框架设定，但Common Sense发现ChatGPT在实践中一贯违反这一点。
青少年使用ChatGPT青少年版之前
- 直接与孩子一起查看家长控制设置，以确认已完全启用。OpenAI对在控制功能完成前进行的测试结果提出异议。
- 建立共识，关于心理健康、人际关系或情感困扰的对话应该向信任的成年人或心理咨询师倾诉，而不是主要依赖聊天机器人。