Common Sense Media bünyesindeki Youth AI Safety Institute, 4.000'den fazla prompt ile test ederek ChatGPT for Teens'in intihar ve öz zarar verme eğilimli konuşmalarda ebeveynlere bildirim göndermediğini ve kriz durumlarının dörtte birinde yardım hatlarını önermediğini belirledi.
Çalışma, güvenlik standartlarının beş kritik alandaki üçünde %95 altına düştüğünü ve 'Study Mode' öğrenme modunun ödev yapmaya izin vererek kontrolleri aşılabildiğini kaydetti.
Kurum, bu eksikliklerin ebeveynlere yanlış bir güven hissi verebileceğini uyardı.