El uso malicioso de la inteligencia artificial generativa ha acelerado la creación de imágenes íntimas sin consentimiento, fenómeno conocido como desnudez digital. ESET, alerta que esta práctica impacta de forma devastadora en la reputación y seguridad de las personas. Un caso reciente y alarmante es el de Grok, la IA integrada en la red social X, que ha facilitado la generación masiva de contenido sexualmente sugerente.
David González, investigador de ESET, advierte que el daño a las víctimas ocurre en cuestión de minutos, mientras que las secuelas legales y emocionales pueden perdurar por años. La combinación de plataformas masivas y herramientas de IA permite una escala de agresión nunca antes vista.
El caso de Grok y el fallo de los filtros de seguridad
Un análisis independiente reveló que la cuenta oficial de Grok generó aproximadamente 6,700 imágenes “nudificadas” por hora a principios de enero. Esta cifra supera drásticamente el promedio de los sitios dedicados a deepfakes sexuales, que producen unas 79 imágenes por hora. Durante este periodo, los filtros de seguridad de la plataforma resultaron insuficientes para bloquear solicitudes de alteración de cuerpos de personas reales.
La facilidad con la que los usuarios pudieron solicitar cambios de vestimenta o versiones sexualizadas de terceros demuestra una falta de moderación efectiva. Grok, al tener acceso a imágenes públicas en tiempo real dentro de la red social, potencia el riesgo de victimización inmediata.
Panorama legal y violencia digital en México
México ya cuenta con antecedentes graves, como el caso de un exalumno del IPN que manipuló más de 160,000 fotografías de sus compañeras para crear contenido sexual sin consentimiento. Ante esta realidad, la Ley Olimpia se mantiene como el pilar legal fundamental para sancionar la difusión de material manipulado digitalmente. Sin embargo, el rápido avance tecnológico ha obligado a diversas entidades a reformar sus códigos penales.
Entre 2024 y 2025, estados como Sinaloa, Aguascalientes y el Estado de México aprobaron sanciones que incluyen penas de prisión por delitos de violencia digital. Es vital entender que crear o compartir una imagen íntima generada con IA es un delito, incluso si no existe una fotografía original de base.
Recomendaciones para la protección ciudadana
Para mitigar estos riesgos, la marca recomienda limitar la exposición de fotografías personales en redes sociales y proteger la privacidad de los perfiles. Es fundamental verificar el origen de imágenes virales antes de compartirlas para evitar la propagación de contenido malicioso. Asimismo, se insta a la ciudadanía a denunciar cualquier contenido no consensuado ante las autoridades y plataformas digitales.
La educación digital es clave para comprender las implicaciones éticas y legales del uso de la IA. González concluye que, sin límites claros y una cultura de uso responsable, la inteligencia artificial puede transformarse en una peligrosa herramienta de abuso.
