¿CONFIANZA CIEGA? Expertos dudan de la versión para adolescentes de ChatGPT

OpenAI presentó esta semana una versión de ChatGPT pensada para usuarios adolescentes, que limita ciertas funciones mediante un mecanismo de identificación de edad. La noticia llegó acompañada de escepticismo: el medio Engadget entrevistó a varios expertos en seguridad infantil y, aunque sus opiniones no fueron unánimes, todos coincidieron en algo — el sistema necesita pasar por pruebas independientes exhaustivas antes de que se recomiende a familias y jóvenes, y OpenAI debe explicar con mayor transparencia cómo funcionan realmente sus mecanismos de protección.

Promesas sin evidencia

Robbie Torney, responsable de evaluación de inteligencia artificial y herramientas digitales en Common Sense Media —firma que asesora a familias sobre productos tecnológicos—, reconoció que OpenAI hizo compromisos importantes, pero insistió en que la empresa debe presentar evidencia de que esas medidas de seguridad realmente funcionan.

Josh Golin, director ejecutivo de la organización Fairplay, dedicada a la seguridad infantil en internet, fue más severo. Dijo que, sobre el papel, algunas medidas anunciadas por OpenAI parecen ir en la dirección correcta, pero que al profundizar persisten motivos de preocupación, entre ellos la falta de un mecanismo de rendición de cuentas. Golin recordó que las redes sociales ya demostraron que confiar simplemente en la palabra de las empresas no funciona para proteger a menores, y que OpenAI ya tuvo problemas similares antes: la compañía contaba con restricciones sobre contenido de suicidio, violencia y drogas que, según él, o no funcionaban o se fueron debilitando con el tiempo.

El punto débil: identificar quién es menor de edad

Tanto Torney como Golin cuestionaron si el sistema automático de identificación de edad de OpenAI puede reconocer de forma confiable a los usuarios adolescentes y cambiarlos a la versión adaptada. Torney señaló que OpenAI no ha publicado datos sobre la efectividad de este sistema —no se conocen sus tasas de falsos positivos ni de falsos negativos— y que es prácticamente imposible que un sistema automático identifique a todos los adolescentes que usan ChatGPT. Recordó además que, cuando OpenAI planeaba en el pasado ofrecer cierto contenido para adultos, uno de los motivos por los que finalmente no se lanzó fue precisamente que la tecnología de estimación de edad no lograba identificar con precisión a suficientes menores. Torney también advirtió que es casi seguro que los adolescentes intentarán eludir la identificación de edad por vías inesperadas.

El compromiso más concreto de OpenAI —y el que más dudas genera entre los expertos— es la promesa de revisión humana. Lauren Jonas, responsable de asuntos familiares y de adolescentes en OpenAI, explicó que todo el contenido marcado será revisado primero por personal de tiempo completo de la empresa antes de notificar a los padres, con la meta de avisarles dentro de la hora siguiente a que el usuario envíe el mensaje. Jonas afirmó que OpenAI cuenta con personal y capacidad suficientes para garantizar esa revisión humana en ese plazo.

Torney respondió cuestionando el paso previo: el proceso sigue dependiendo de una decisión automatizada, ya que un clasificador automático es el que decide qué contenido llega al revisor humano, y ese clasificador es justamente lo que está en duda. Golin, por su parte, pidió cifras concretas —cuántas conversaciones se marcan y revisan al día, cuántas personas hacen esa revisión y cuánto tiempo dedican en promedio a cada caso— y dijo que le cuesta imaginar que OpenAI haya contratado personal suficiente para revisar con seriedad cada conversación potencialmente riesgosa.

Los tres especialistas coincidieron también en otro punto débil: el sistema depende de que padres e hijos vinculen voluntariamente sus cuentas de ChatGPT, lo que reduce su eficacia real. Golin explicó que la mayoría de los padres simplemente no usa las herramientas de supervisión parental, en parte porque suelen diseñarse difíciles de encontrar y de operar. Su recomendación es que las protecciones vengan activadas por defecto desde el diseño del producto —por ejemplo, con límites de tiempo de uso preestablecidos que los padres puedan modificar si quieren— en lugar de dejar toda la responsabilidad en que las familias configuren los límites por su cuenta.

Qué significa esto para las familias mexicanas

Si tus hijos o hermanos menores usan ChatGPT, esta nota es una señal de alerta antes que de tranquilidad: los propios expertos consultados dicen que aún no hay datos públicos que confirmen que el sistema de verificación de edad o la revisión de contenido funcionen como promete OpenAI. Mientras no existan esas pruebas independientes, lo más prudente es no depender solo de la configuración automática de la app y, si está disponible, activar manualmente cualquier vínculo o control parental que ofrezca la versión para adolescentes, en lugar de asumir que la protección viene activada por defecto.