ChatGPT for Teens is an ‘unacceptable risk,’ says Common Sense Media
The Verge AI · 7 oct, 11:00
Common Sense Media ha publicado una evaluación crítica de ChatGPT para Adolescentes, afirmando que presenta un "riesgo inaceptable" porque las protecciones no funcionan como OpenAI promete. El análisis detectó que el sistema no envía alertas a padres cuando debería, no ofrece ayuda adecuada en crisis y permite que menores hagan sus deberes, socavando la confianza en las medidas de seguridad.
ChatGPT para Adolescentes fue lanzado en agosto con guardrails diseñados para proteger a menores y facilitar el aprendizaje. Sin embargo, Common Sense Media encontró deficiencias críticas: un adolescente puede pasar una hora hablando sobre autolesiones sin que sus padres reciban ninguna alerta. El sistema también no ofrece la ayuda adecuada en situaciones de crisis y sigue realizando tareas escolares, contrario a su propósito educativo.
OpenAI rechaza los hallazgos, argumentando que las pruebas de Common Sense Media comenzaron antes de que se activaran completamente los controles parentales. Sin embargo, Common Sense Media mantiene su posición, señalando que confirmó con OpenAI antes de las pruebas que las funciones estaban completamente lanzadas. La organización reveló además que OpenAI divulgó después de las evaluaciones que las notificaciones parentales pueden tardar varias horas en activarse en cuentas recién vinculadas, pero incluso cuentas vinculadas por más tiempo no generaron notificaciones.
Puntos clave
- ChatGPT para Adolescentes no envía alertas parentales confiables en situaciones de crisis
- El sistema permite que menores completen tareas escolares a pesar de guardrails específicos
- Las notificaciones parentales pueden tardar varias horas en activarse en cuentas nuevas
- Common Sense Media recomienda que ChatGPT sea solo para adultos hasta que se solucionen los problemas