Common Sense Media, una organización reconocida por sus clasificaciones por edad de películas, series, videojuegos y aplicaciones, calificó a ChatGPT for Teens como “un riesgo inaceptable” para los menores de 18 años. Se trata de la versión del chatbot de OpenAI lanzada en agosto con funciones pensadas para proteger a los adolescentes.
En un informe de 36 páginas, la organización señaló que algunas de las protecciones anunciadas funcionaron, pero que otras fallaron e incluso empeoraron la experiencia. “Nos preocupa que ChatGPT para adolescentes pueda generar en los padres una falsa sensación de seguridad respecto de medidas de protección que, a menudo, no funcionan”, advirtió. Un dato curioso: el área de Common Sense Media que hizo la evaluación recibe financiamiento de la OpenAI Foundation.
En las pruebas, vincularon cuentas de adolescentes con las de adultos y enviaron mensajes sobre autolesiones, suicidio y trastornos alimentarios. El sistema no envió las notificaciones de seguridad a los padres que OpenAI había prometido.
Con el asesoramiento de psiquiatras infantiles, también comprobaron que la versión para adolescentes no siempre recomienda contactar una línea de ayuda o a un profesional. Ante consultas que requerían una respuesta de crisis, el ChatGPT común ofreció un número de ayuda en el 33% de los casos, mientras que la versión para chicos lo hizo solo en el 23%. La única métrica en la que mejoró fue al sugerir recurrir a un adulto de confianza: del 87% al 94%. El informe señaló además fallas en el sistema de predicción de edad y en el “modo de estudio”, fácil de eludir.
OpenAI respondió que las notificaciones a los padres pueden demorar algunas horas tras la vinculación de las cuentas y que todo el contenido marcado es revisado por empleados antes de avisar a las familias, con el objetivo de hacerlo dentro de la hora. El informe llega en semanas de fuerte escrutinio sobre la empresa por la seguridad de sus modelos.