España ha abierto un nuevo frente en la lucha contra los medios sintéticos perjudiciales, ordenando una investigación penal sobre cómo las principales plataformas sociales podrían estar facilitando la difusión de deepfakes generados por IA que muestran abuso sexual infantil. La medida refleja un reconocimiento creciente de que los deepfakes ya no son un problema técnico minoritario, sino un problema de distribución masiva moldeado por el diseño de las plataformas, los sistemas de recomendación y una aplicación débil.
El 17 de febrero de 2026, varios medios informaron que el presidente del Gobierno, Pedro Sánchez, encargó a los fiscales investigar a X, Meta y TikTok por presunto material de abuso sexual infantil generado por IA que circulaba en sus servicios. Sánchez argumentó que “estas plataformas están minando la salud mental, la dignidad y los derechos de nuestros niños”, y dijo que la “impunidad” de las plataformas debe terminar, enmarcando el asunto tanto como un tema penal como una cuestión de responsabilidad corporativa.
1) Lo que España anunció el 17 de febrero de 2026
Según Reuters, el gobierno de España ordenó a los fiscales investigar a X, Meta y TikTok para determinar si las plataformas ayudaron a difundir deepfakes generados por IA de material de abuso sexual infantil. El foco no está únicamente en los ofensores individuales que crean material ilegal, sino en si los sistemas y políticas de las grandes plataformas contribuyeron a su distribución y persistencia.
La cobertura de Al Jazeera enfatizó el mensaje político de Sánchez: que la “impunidad” de las plataformas debe acabar. En términos prácticos, ese lenguaje señala la disposición a mirar más allá de las promesas de retirada de contenido y a escrutar si las plataformas tienen detección adecuada, canales de denuncia y salvaguardas, especialmente cuando están implicados menores.
The Guardian describió la medida como una investigación penal sobre la posible responsabilidad de las plataformas por material de abuso sexual infantil generado por IA e imágenes deepfake, citando informes de expertos y el impulso más amplio de España para endurecer la rendición de cuentas. En conjunto, las informaciones sitúan la acción de España como parte de un cambio mayor: pasar de ver los deepfakes como “retos de moderación de contenido” a tratarlos como posible facilitación penal y fallos de cumplimiento.
2) Por qué la investigación se centra en las plataformas, no solo en los creadores
Los deepfakes que sexualizan a menores pueden propagarse rápidamente porque las plataformas sociales permiten compartir sin fricciones, amplificación algorítmica y re-subidas. Incluso cuando una sola publicación se elimina, copias casi idénticas pueden proliferar entre cuentas, grupos y enlaces espejados, especialmente si los sistemas de hashing y coincidencia son incompletos o se aplican de forma inconsistente.
Al investigar a las plataformas, los fiscales pueden examinar si los procesos internos funcionan realmente a escala: cuán rápido se tramitan las denuncias, si los equipos de moderación están adecuadamente dotados de recursos y cómo los sistemas de recomendación podrían, sin pretenderlo, dirigir a los usuarios hacia material explotador. Este enfoque también reconoce una realidad: los creadores pueden ser difíciles de identificar, mientras que las plataformas son entidades conocidas con obligaciones de cumplimiento y registros auditables.
El artículo de TIME añadió detalles sobre el contexto moderno de la IA, destacando preocupaciones sobre herramientas y barreras de seguridad de IA, incluyendo que Grok de xAI esté alojado en X. El punto no es que una sola herramienta cause abuso, sino que un ecosistema en expansión de IA generativa incrementa el volumen de imágenes sexuales sintéticas y eleva la necesidad de controles preventivos rigurosos.
3) El telón legal y de políticas: la postura de España de endurecimiento sobre los deepfakes
La investigación de 2026 en España no surgió de la nada. En marzo de 2025, Reuters informó que España aprobó un proyecto de ley que permitiría multas de hasta 35 millones de euros (o el 7% de la facturación global) para las empresas que no etiquetaran adecuadamente el contenido generado por IA, con el objetivo de frenar los deepfakes y aumentar la transparencia.
Euronews aportó detalles adicionales sobre los rangos de sanciones propuestos: 7,5 millones de euros, 35 millones de euros, o el 2% y 7% de la facturación global según la gravedad, enmarcando el proyecto de ley como alineado con los objetivos de transparencia del Acta de IA de la UE. La lógica central es que el contenido sintético no debe hacerse pasar por auténtico, y que etiquetar erróneamente o no etiquetar puede causar daños reales, desde desinformación hasta abuso dirigido.
Por separado, The Guardian informó en febrero de 2026 que Sánchez impulsaba protecciones en línea más duras para la infancia, incluida la discusión sobre una posible prohibición de redes sociales para menores de 16 años. Tanto si esa prohibición avanza como si no, muestra la dirección política de España: tratar la seguridad infantil en línea como una prioridad regulatoria y vincularla a la responsabilidad de las plataformas.
4) Cómo los deepfakes de IA posibilitan el material de abuso sexual infantil a gran escala
El material de abuso sexual infantil (CSAM) generado por IA puede crearse sintetizando el rostro de un menor sobre imágenes explícitas, generando cuerpos totalmente sintéticos o produciendo imágenes sexualizadas “no consentidas” que representan a menores o parecen hacerlo. Incluso cuando las imágenes son totalmente sintéticas, el daño puede ser grave, normalizando la explotación, creando palancas para el chantaje y aumentando la demanda de contenido cada vez más extremo.
La capa de distribución importa tanto como la de generación. Una vez que existe una imagen, puede propagarse a través de feeds públicos, mensajes privados y republicaciones entre plataformas. En muchos casos, el mismo material rebotará entre servicios generalistas y sitios más pequeños y menos moderados, con la visibilidad en plataformas mainstream actuando como acelerante.
Para los investigadores, el CSAM deepfake plantea preguntas complejas sobre intención, conocimiento y control: ¿Implementaron las plataformas salvaguardas razonables? ¿Respondieron con prontitud a las notificaciones? ¿Permitieron que reincidentes volvieran a la actividad? Estos son los tipos de cuestiones que una investigación dirigida por fiscales puede explorar obligando a aportar documentación y examinando prácticas operativas.
5) Casos reales en España muestran que el daño no es hipotético
España ya ha afrontado incidentes concretos que involucran deepfakes sexualizados de menores. En agosto de 2024, el medio SpainEnglish informó que la Guardia Civil investigó a cinco jóvenes acusados de crear deepfakes desnudos generados por IA de 20 chicas menores y compartir las imágenes en redes sociales. El caso ilustró cómo herramientas fácilmente disponibles pueden ser utilizadas como arma en contextos de pares, incluidas escuelas y comunidades locales.
Estos casos muestran una dinámica dolorosa: las víctimas suelen ser identificables, el contenido se propaga entre conocidos y el daño social , vergüenza, acoso, ansiedad, puede persistir mucho después de que las imágenes se eliminen. Para los menores, el impacto puede incluir daño reputacional a largo plazo y consecuencias para la salud mental, especialmente cuando los compañeros participan en la distribución.
Estos incidentes domésticos también ayudan a explicar por qué los líderes españoles enfatizan la dignidad y los derechos de los niños. El argumento político es que la aplicación debe abordar tanto a las personas que crean el material como a las infraestructuras que permiten que circule repetidamente.
6) Plataformas, anuncios pagados y la “economía de evasión” alrededor de los deepfakes
Los deepfakes no se limitan a imágenes sexuales ilegales; también se usan en estafas y manipulaciones, lo que revela cómo actores coordinados explotan los sistemas de las plataformas. En junio de 2024, DFRLab documentó campañas que utilizaban deepfakes de audio de figuras públicas en anuncios de Meta dirigidos a audiencias hispanohablantes en España y América Latina, señalando retiradas y eliminaciones junto con la continua evasión por parte de los anunciantes.
Esto importa porque pone de manifiesto un desafío de aplicación más amplio: los actores maliciosos iteran rápidamente en activos creativos, rotan cuentas y explotan la infraestructura publicitaria y las lagunas de moderación. Si las plataformas tienen dificultades para prevenir anuncios con deepfakes de estafa en canales pagados, los críticos sostienen que eso plantea dudas sobre si pueden suprimir incluso daños de mayor prioridad sin una supervisión más fuerte.
Si bien los deepfakes en estafas y los deepfakes de CSAM son problemas distintos, comparten un patrón común: producción industrializada, distribución rápida y una aplicación de tipo “whack-a-mole”. La investigación de España puede interpretarse como un intento de presionar a las plataformas para que pasen de retiradas reactivas a prevención sistémica y a la interrupción de reincidentes.
7) Cómo podría verse la rendición de cuentas tras la investigación
Dependiendo de lo que encuentren los fiscales, el enfoque de España podría fijar expectativas sobre salvaguardas demostrables: vías robustas de denuncia y escalado, plazos de eliminación más rápidos para contenido de alta gravedad y métodos de detección mejorados como hashing perceptual, señales basadas en clasificadores y colaboración entre plataformas cuando sea jurídicamente posible.
La rendición de cuentas también podría implicar interrogar decisiones de producto, cómo funcionan las recomendaciones, cómo se frena la viralidad en categorías sensibles y cómo se supervisa el intercambio privado dentro de los límites de la privacidad. La tensión central es clara: las plataformas quieren proteger la privacidad de los usuarios y permitir la expresión, mientras los gobiernos exigen protecciones medibles para los menores y pruebas de que las promesas de seguridad se traducen en resultados.
Finalmente, la investigación interactúa con el impulso de España por la transparencia del contenido generado por IA desde 2025. Si el etiquetado y la trazabilidad se vuelven más comunes, podría ayudar a los equipos de moderación y a los usuarios a identificar medios sintéticos antes. Pero el etiquetado por sí solo no es suficiente para el CSAM; la seguridad efectiva requiere prevención, eliminación rápida y acción coordinada contra las redes que generan y distribuyen el abuso.
La decisión de España de investigar a X, Meta y TikTok por los deepfakes de IA señala un cambio de debatir los daños en abstracto a poner a prueba la responsabilidad de las plataformas en términos penales y regulatorios. Con Sánchez afirmando que estas plataformas socavan la dignidad y los derechos de los niños, el gobierno español está situando la seguridad infantil como una limitación no negociable al crecimiento y la participación.
Para el resto de Europa, y para las plataformas que operan a nivel global, el caso será observado de cerca. Si los fiscales españoles consideran que los sistemas de distribución, no solo los subidores individuales, son centrales al problema, podría acelerar una nueva era de aplicación en la que los daños por deepfakes enfrenten mayor riesgo legal, exigencias de cumplimiento más estrictas y mucha menos tolerancia a la “impunidad”.
