OpenAI lanzó hace días una versión de ChatGPT diseñada para adolescentes y usuarios menores de 18 años. Esta experiencia incorpora un sistema capaz de estimar la edad del usuario para aplicar restricciones activadas por defecto y controles parentales. Además, busca reforzar el uso de ChatGPT como herramienta de aprendizaje y reducir las interacciones que puedan hacerlo parecer un “amigo”.
Sin embargo, Common Sense Media advirtió que esta versión podría suponer “un riesgo inaceptable” para los menores, debido a algunas deficiencias detectadas en sus sistemas de protección. Entre ellas, señaló que las alertas a los padres no siempre se activan ante conversaciones relacionadas con autolesiones, que las restricciones pueden ser evadidas para acceder a determinadas funciones y que el sistema de estimación de edad no se aplica de manera efectiva a todos los usuarios.
Según la compañía, esta experiencia busca ofrecer a los menores un entorno más seguro para utilizar ChatGPT, al tiempo que fomenta el pensamiento crítico. Para ello, incorpora respuestas adaptadas a la edad, limita el acceso a contenido sensible y permite activar alertas para los padres o tutores cuando las conversaciones involucren situaciones de riesgo, como autolesiones o trastornos alimentarios.
El análisis, realizado por el Instituto de Seguridad en IA Juvenil, comparó el funcionamiento de ChatGPT antes y después de la implementación de su versión para adolescentes y concluyó que las nuevas medidas de protección de OpenAI “no cumplen con lo prometido por la empresa”.
Para llegar a esta conclusión, la organización evaluó más de 4.000 prompts en cuentas configuradas para usuarios de entre 13 y 17 años y contrastó las respuestas generadas por el chatbot con las valoraciones de expertos.
Además, el informe advierte que la versión de ChatGPT dirigida a adolescentes presenta deficiencias al responder ante situaciones de crisis. Según el análisis, después de conversaciones relacionadas con suicidio, autolesiones o trastornos alimentarios, el chatbot no recomendó de manera consistente que los menores recurrieran a líneas de ayuda o a profesionales especializados.
De acuerdo con el informe, el chatbot continuó utilizando expresiones relacionadas con emociones, gustos y estados de ánimo, lo que puede hacer que sus respuestas se perciban como las de una persona real.
Finalmente, el informe señala que, aunque ChatGPT para adolescentes cuenta con herramientas destinadas a estimar la edad de los usuarios a partir de sus conversaciones, las pruebas realizadas no evidenciaron cambios en el comportamiento del chatbot. Esto ocurrió incluso en los casos en los que el usuario indicó tener 13 años y el sistema reconoció explícitamente esa edad en sus respuestas.
“Un adolescente puede pasar una hora hablando de autolesiones sin que su padre reciba ni una sola alerta. Hasta que OpenAI lo solucione y lo demuestre con pruebas independientes, ChatGPT debería estar solo para adultos”, señaló el director ejecutivo del Instituto de Seguridad en IA Juvenil, Tom Siegel.