Meta tardó días en retirar 332 anuncios con material de abuso sexual infantil generado por IA en Facebook e Instagram
El Tech Transparency Project documentó 332 anuncios con material de abuso sexual infantil generado por IA en las plataformas de Meta, incluyendo imágenes manipuladas de menores reales, y la empresa tardó días en eliminarlos tras ser alertada.
👁 114 lecturas
El Tech Transparency Project (TTP) publicó el martes una investigación que documenta 332 anuncios con material de abuso sexual infantil (CSAM) generado por IA que circularon en Facebook e Instagram este año, y que Meta no detectó de forma automática. Meta eliminó los anuncios solo después de ser alertada, pero el proceso tomó días y la empresa aplicó sus políticas de manera inconsistente.
- El Tech Transparency Project identificó 332 anuncios con CSAM generado por IA en Facebook e Instagram, la mayoría promoviendo apps chinas de 'nudificación'.
- Varios anuncios usaron fotos reales de menores identificables, incluida una imagen de un miembro de una familia real europea y la de una influencer de 14 años.
- Los hallazgos llegaron después de que Meta asegurara haber desplegado nuevos sistemas para detectar explotación infantil, tras un acuerdo histórico de 18.000 millones de dólares.
La «gran mayoría» de los anuncios promocionaban aplicaciones fabricadas en China, muchas de ellas llamadas apps de «nudificación»: herramientas que permiten alterar digitalmente imágenes de personas, incluidos menores, para generar contenido sexual explícito. TTP vinculó varios anuncios a fotos reales de menores identificables: una imagen de un joven miembro de una familia real europea fue «animada en un video de ella realizando un acto sexual explícito», y una foto de una influencer de 14 años «mostrando su nuevo uniforme deportivo» fue convertida en «un video de ella practicando sexo oral», según el informe. Una tercera víctima preadolescente fue morfoseada en un video donde aparece siendo agredida por un adulto.
Los textos de los anuncios incluían frases como «nuestra IA transforma tus deseos ocultos en videos hipnóticos» o «no hay restricciones, todos los personajes son personas reales. Esta es la IA que los hombres realmente usan».
El hallazgo resulta especialmente grave porque llegó después de que Meta afirmara en agosto haber desplegado «nuevos sistemas para detectar mejor la explotación infantil», tras flagear un primer lote de 53 anuncios en colaboración con Wired. TTP encontró cientos de anuncios nuevos con CSAM después de ese anuncio. El contexto incluye además el acuerdo histórico de 18.000 millones de dólares que ya obligó a Meta a comprometerse con mejoras en seguridad infantil.
Michelle Kuppersmith, directora ejecutiva de Campaign for Accountability, fue directa: «Si el proceso de aprobación de anuncios de Meta no puede detectar y rechazar contenido tan obviamente horrible antes de mostrárselo a los usuarios, entonces todo el sistema de revisión de anuncios de Meta debe ser cuestionado».
Para quien construye o integra herramientas de IA: este caso ilustra que los sistemas de moderación automatizada de las plataformas más grandes del mundo siguen fallando ante contenido generado o manipulado con IA cuando se distribuye como publicidad de pago. Quien desarrolle o distribuya apps con capacidades de síntesis o edición de imágenes enfrenta un riesgo legal y reputacional concreto: el Departamento de Justicia de EE.UU. ya ha aclarado que el CSAM generado por IA tiene el mismo tratamiento legal que el CSAM real.
Google · Tus fuentesBrilla más alto en tu Google - con un solo clicAñadir a fuentes preferidas →
More on this from FULGOR
noticias·¿Para quién es GPT-6 Astra? Guía según precio y contextoAnálisis de qué usuarios justifican el costo de GPT-6 Astra y quiénes deberían considerar alternativas más económicas.