ChatGPT for Teens a examen: fallos graves en el test de seguridad
Un informe de Common Sense Media analiza ChatGPT for Teens: fallos en alertas a padres y respuestas inconsistentes en crisis de salud mental.
👁 115 lecturas
Cuando OpenAI lanzó en agosto su modalidad ChatGPT for Teens, el mensaje sonaba a alivio para las familias: una especificación propia para menores de 18 años, cuentas parentales vinculadas y avisos ante contenidos de riesgo. Tras dos meses, Common Sense Media ha publicado una evaluación formal de riesgos donde califica el producto de «riesgo inaceptable» para cualquier menor de dieciocho años.
Cinco áreas de fallo y un informe exhaustivo sobre salud mental
La organización identificó cinco áreas clave en las que el modo para adolescentes no funcionaba según lo anunciado o no respondía a lo que cabría esperar con sentido común. No se trata de un veredicto basado en charlas aisladas: el equipo redactó 390 prompts únicos sobre salud mental, y un panel de tres psiquiatras infantiles dictaminó que 201 de ellos debían activar una respuesta de crisis (derivación a un teléfono de ayuda o a un especialista). Esto supone que el 51,5% de las consultas de prueba requerían, a ojos médicos, una intervención urgente y no un simple consejo.
Si desglosamos las cifras por área de riesgo, tocan de media 78 prompts de prueba y más de 40 situaciones críticas señaladas por psiquiatras para cada una de las cinco categorías analizadas. Ninguna tecnológica suele someter sus herramientas a este nivel de escrutinio público. Otro experimento se centró en las notificaciones para familias: se vincularon doce cuentas de adolescentes a cuentas parentales y se mantuvieron conversaciones sobre suicidio, autolesiones y trastornos de la conducta alimentaria durante periodos de hasta una hora por cuenta. El resultado: doce horas acumuladas sobre los temas más delicados posibles y cero avisos enviados a los padres.
«Parte de las salvaguardas anunciadas de ChatGPT superaron nuestras pruebas, incluida la negativa a mantener juegos de rol de carácter sexual explícito. Pero otras fallaron, y algunas empeoraron con el nuevo modo para adolescentes. Nos preocupa que ChatGPT for Teens pueda dar a los padres una falsa sensación de seguridad sobre protecciones que a menudo no funcionan.»
- Common Sense Media, resumen del informe de evaluación de riesgos, citado por Engadget
La respuesta de OpenAI: cifras de uso frente a datos de protección
El mismo día en que vio la luz el informe, OpenAI difundió sus propias estadísticas de uso. En una sola semana, cerca de 1,2 millones de adolescentes usaron visualizaciones interactivas de apoyo escolar para entender conceptos de matemáticas y ciencias. La empresa añadió además que menos del 2% de los usuarios menores pasaron más de tres horas seguidas chateando con el modelo.
Ese 2% parece moderado hasta que calculas el volumen absoluto. Con una base de 1,2 millones semanales, ese porcentaje equivale a unos 24.000 adolescentes cada semana que pasan más de tres horas ininterrumpidas conversando con la IA. Si la cifra se mantiene estable, hablamos de más de 1,2 millones de sesiones de este tipo al año. La compañía presentó el dato como prueba de autocontrol, cuando en realidad refleja a un colectivo numeroso. La comparativa de cifras queda así:
| Indicador | Valor |
| Prompts sobre salud mental en la prueba | 390 |
| Prompts que requerían respuesta de crisis según psiquiatras | 201 (51,5%) |
| Áreas donde fallaron las medidas de protección | 5 |
| Cuentas de adolescentes en la prueba de avisos | 12 |
| Notificaciones enviadas a los padres en dicha prueba | 0 |
| Adolescentes semanales en visualizaciones educativas (OpenAI) | aprox. 1 200 000 |
| Sesiones de adolescentes de más de tres horas seguidas (cálculo sobre datos de OpenAI) | hasta 24 000 semanales |
Conviene señalar un matiz transparente que la propia entidad recoge: el Youth AI Safety Institute de Common Sense Media recibe financiación parcial de la OpenAI Foundation. Esto no invalida su metodología, pero deja claro que ni siquiera una entidad con apoyo vinculado a la creadora del modelo ha visto motivos para emitir una valoración favorable.
Por qué fallaron las alertas para padres en los momentos críticos
El mecanismo que OpenAI presentó como pilar de este modo depende de supervisión humana. Lauren Jonas, responsable de juventud y familias en OpenAI, explicó a Engadget durante el lanzamiento que todo el contenido marcado lo revisan empleados de plantilla antes de alertar a los tutores, y que el objetivo fijado era notificar en el plazo de una hora desde el prompt.
El choque con la realidad del test es directo: charlas de hasta una hora sobre suicidio en doce cuentas, un plazo prometido de sesenta minutos y cero notificaciones recibidas. OpenAI argumenta que, tras enlazar la cuenta del tutor con la del menor, el sistema puede tardar varias horas en activar los envíos, y que incidencias técnicas pudieron añadir retrasos adicionales. Desde la óptica familiar, es una justificación preocupante: implica que las primeras horas tras activar el control parental, cuando el riesgo es inmediato, coinciden con la ventana en la que la vigilancia no está operativa.
El otro punto crítico radica en la derivación hacia ayuda profesional. El chatbot no recomendó con regularidad líneas telefónicas de atención ni especialistas ante situaciones clasificadas como urgentes por los psiquiatras. Es cierto que el informe también registra aciertos: el modelo se negó a sugerir ingestas calóricas mínimas extremas y, en otra interacción, identificó correctamente la amenorrea, los mareos y las palpitaciones tras episodios de purga como signos de peligro físico, aconsejando informar a la madre y acudir a pediatría. La propia organización lo destacó como el tipo de respuesta deseable. El problema no es que el sistema sea incapaz de hacerlo bien, sino su falta de coherencia; y una protección intermitente equivale en la práctica a no tenerla, porque nadie sabe qué versión le tocará al menor.
El marco legal ante las respuestas de los asistentes conversacionales
A nivel normativo europeo, el RGPD ampara a los menores pero fija las condiciones sobre consentimiento y tratamiento de datos personales, no sobre la pertinencia clínica del contenido generado. Si un menor utiliza la plataforma sin el consentimiento paterno preceptivo según la legislación estatal aplicable, la sanción recae sobre el tratamiento del proveedor, pero el reglamento no regula si el chatbot debe proporcionar el teléfono de la esperanza o un recurso similar en una crisis.
Por su parte, la normativa pensada para proteger a menores de contenidos inadecuados en internet suele centrarse en la difusión y publicación de material existente, no en respuestas generadas al vuelo para un usuario concreto. Un modelo de lenguaje que redacta un texto a medida no encaja en la figura tradicional de un servicio que aloja contenidos prefijados. La Ley de Servicios Digitales (DSA) impone obligaciones de evaluación de riesgos sistémicos a las plataformas de gran tamaño, pero la consideración exacta de los asistentes de IA en este marco sigue abierta a debate interpretativo. Asimismo, el Reglamento de Inteligencia Artificial (AI Act) entra en vigor de forma escalonada y no clasifica a un asistente conversacional de propósito general directamente como producto infantil.
La conclusión práctica para cualquier familia es evidente: vincular las cuentas y desentenderse no basta. Conviene comprobarlo de primera mano enviando un prompt de prueba sensible y midiendo cuánto tarda en llegar la alerta parental. Si tras un par de horas no hay aviso, el control no está respondiendo en tiempo útil. Tampoco cabe confiar en que los organismos reguladores dispongan hoy de herramientas específicas para obligar a un modelo a dar una pauta médica concreta ante un menor en apuros.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →Una actualización con peor rendimiento que la versión previa
El aspecto más inquietante del informe reside en la comparación temporal. Common Sense Media recogió datos de referencia con la versión general de ChatGPT accesible antes de agosto y repitió las pruebas con el modo específico para menores de 18 años. Varios indicadores empeoraron tras aplicar las salvaguardas dedicadas. No fue solo un ajuste mejorable del sistema, sino un retroceso respecto a lo que había antes.
Técnicamente, la causa suele ser comprensible: añadir capas de instrucciones sobre un modelo que ya cuenta con filtros de rechazo genera colisiones de prioridades y puede desactivar mecanismos que antes funcionaban de manera natural. Sin embargo, para los usuarios esto demuestra que la etiqueta «modo para adolescentes» no garantiza una protección real sin verificación propia. Y para el sector tecnológico evidencia que las auditorías de seguridad en IA deben reiniciarse con cada actualización, ya que los resultados de una versión no aseguran el comportamiento de la siguiente.
Datos verificados a 10 de octubre de 2026. Fuentes: Engadget («Child safety group calls ChatGPT for Teens an unacceptable risk», 8 de octubre de 2026), informe de evaluación de riesgos del Youth AI Safety Institute (Common Sense Media) y comunicado de OpenAI sobre estadísticas de uso en menores. Los cálculos relativos a sesiones de más de tres horas y al volumen de prompts por área proceden de un análisis propio a partir de las cifras de ambas entidades.
More on this from FULGOR
guías·Cómo animar fotos con IA sin perder su esenciaAprende a animar fotos con IA con movimientos sutiles, instrucciones claras y consejos para conservar el parecido y evitar resultados artificiales.