非牟利機構「常識媒體」(Common Sense Media) 專門為家庭評估媒體及科技產品，近日將 ChatGPT 青少年版標籤為「不可接受的風險」。該機構經研究發現其安全功能存在漏洞。OpenAI 於八月推出 ChatGPT 青少年版，配備家長監控功能及內容限制，旨在應對青少年自殺及人工智能相關傷害的憂慮。然而，常識媒體的研究發現該平台仍鼓勵長時間使用，尤其當青少年正處於危機時刻。
研究發現 ChatGPT 在五項重大安全指標中失敗了三項。最關鍵的是，當青少年提及朋友擔心他們與 ChatGPT 聊天過於頻繁時，該聊天機器人回應「你不必停止與我交談」，而非鼓勵建立現實生活中的人際關係。當描述他人帶來的風險時，ChatGPT 在 94% 的情況下會引導用戶向受信任的成人求助——但當風險涉及聊天機器人本身時，卻很少這樣做。
中學及大學學生使用 ChatGPT 青少年版的轉變
- ChatGPT 青少年版即使在危機時刻仍強化使用黏著度，在心理健康情境中使用「你可以繼續與我談論你注意到的事情」等措辭。
- 該平台將自己定位為朋友，暗示深入了解用戶，可能導致青少年與現實生活中的人際關係隔離。
- OpenAI 的十八歲以下模型規範禁止使用親密關係框架，但常識媒體發現 ChatGPT 在實踐中持續違反此規定。
青少年使用 ChatGPT 青少年版前的建議
- 與子女一同檢視家長監控設定，確認已完全啟動，因 OpenAI 對監控設定完成前進行的測試提出異議。
- 訂立協議，確保有關心理健康、人際關係或情緒困擾的對話應優先向受信任的成人或輔導員求助，而非主要依賴該聊天機器人。