Visitas: 174
- De acuerdo con el Center for Humane Technology, más del 96 por ciento de los deepfakes tienen un contenido sexual, siendo las mujeres las principales víctimas
- Los deepfakes (o ultrafalsos) son contenidos audiovisuales (videos, imágenes o audios) hiperrealistas manipulados o generados mediante técnicas de inteligencia artificial (específicamente, deep learning o aprendizaje profundo) para representar a personas diciendo o haciendo cosas que en realidad nunca sucedieron
Juan Ignacio Corro
Naucalpan, Estado de México, a 12 de noviembre de 2025
De acuerdo con el Center for Humane Technology, más del 96 por ciento de los deepfakes (noticias falsas procesadas con inteligencia artificial) tienen un contenido sexual, siendo las mujeres las principales víctimas.
Tan solo en 2023, se identificaron más de 500 mil videos de este tipo y se estima que este número se duplica cada seis meses, según la empresa especializada, Sensity AI.
Al respecto, el vicecoordinador del Grupo Parlamentario del Partido Acción Nacional (PAN) en el Senado de la República, Enrique Vargas del Villar, suscribió una iniciativa de ley para reformar el Código Penal Federal, con el objetivo de que se castigue la violación a la intimidad sexual con el uso de Inteligencia Artificial (IA), con penas de hasta seis años de prisión y multas de hasta mil Unidades de Medida y Actualización (UMAs).
De acuerdo con el senador por el Estado de México, la creación y difusión de contenido sexual sintético o manipulado, también conocido como deepfake, es un fenómeno que cada día crece más como parte de los desafíos emergentes de la IA y las tecnologías digitales, por lo que es necesario que México actualice su marco legal para evitar impunidad en casos en los que se crean imágenes, videos y sonidos con contenido explícito falso, usando el rostro de una persona real y sin su consentimiento, así como la difusión masiva de este tipo de contenidos en redes sociales.
Enrique Vargas señaló que este proyecto de decreto surge de escuchar a jóvenes de todo el país, mediante la realización de un Parlamento Juvenil en la Cámara de Senadores, en el que estos manifestaron la necesidad de actualizar la legislación mexicana para penalizar la creación, manipulación, difusión y posesión de imágenes, audios o videos con contenido sexual y con el uso de la IA, por lo que se trabajó en esta iniciativa para crear una tipificación expresa que reconozca estas prácticas y las sancione.
Explicó que, actualmente, el Artículo 199 Octies del Código Penal Federal únicamente tipifica la divulgación no consentida de contenido íntimo real, por lo que no se consideran los casos en los que dicho contenido ha sido alterado o generado artificialmente, permitiendo un vacío legal en los delitos cometidos con el uso de tecnologías digitales, algoritmos de IA, aprendizaje automático y/o cualquier otro medio tecnológico, por lo que se estima viable que se apruebe para erradicar estas conductas y el Estado cumpla con su obligación en materia de protección contra la violencia digital, y con una recomendación del Comité para la Eliminación de la Discriminación contra la Mujer (CEDAW).
Que información se obtiene de la IA:
Tecnología
La creación de deepfakes se basa principalmente en algoritmos avanzados, como las redes neuronales generativas antagónicas (GAN, por sus siglas en inglés) y los autocodificadores. Estos sistemas aprenden los patrones de apariencia, expresiones faciales y tonos de voz de una persona a partir de una gran cantidad de datos (imágenes y audios existentes) para luego sintetizar contenido falso convincentemente realista.
Usos y Aplicaciones
Si bien se han utilizado con fines positivos y creativos, como en la industria del cine para rejuvenecer actores o recrear figuras históricas en museos, la mayoría de los usos en línea son maliciosos.
Usos Positivos:
- Efectos visuales en cine y televisión.
- Proyectos educativos (recreación de figuras históricas).
- Asistencia a personas con discapacidades del habla.
- Parodias y entretenimiento (si se divulgan claramente como falsos).
Usos Maliciosos y Riesgos:
- Fraude financiero y robo de identidad: Se han reportado casos millonarios en los que se suplanta la voz o imagen de ejecutivos para ordenar transferencias bancarias fraudulentas.
- Desinformación y manipulación política: Creación de videos falsos de líderes mundiales o figuras públicas para influir en la opinión pública o en elecciones.
- Acoso, extorsión y difamación: Producción de contenido sexual explícito no consensuado (especialmente común contra mujeres) o material vergonzoso para chantajear a las víctimas.
- Ataques de ingeniería social: Uso de deepfakes de voz o video para engañar a empleados y obtener acceso a datos confidenciales o sistemas internos.
Detección y Legislación (Actualizado a 2025)
La tecnología avanza rápidamente, haciendo que los deepfakes sean cada vez más difíciles de detectar a simple vista. Las técnicas de detección actuales buscan inconsistencias en el parpadeo, iluminación, sincronización labial y contornos faciales. Paralelamente, se están desarrollando herramientas tecnológicas y estándares de autenticación (como marcas de agua digitales) para combatir este problema.
A nivel legal, varios países están implementando o actualizando normativas:
- Unión Europea: La Ley de IA (AI Act), en pleno desarrollo e implementación durante 2025, prohíbe los sistemas de IA de «riesgo inaceptable» (como la manipulación dañina del comportamiento humano) y exige transparencia para los contenidos generados por IA, incluyendo los deepfakes.
- Estados Unidos: Se han aprobado leyes a nivel estatal y federal (como la ley TAKE IT DOWN) que penalizan la creación y difusión de pornografía deepfake no consensuada y restringen su uso en campañas electorales.
- México: Existe un vacío legal específico sobre los deepfakes, aunque se pueden aplicar leyes existentes sobre protección de datos personales, propiedad intelectual y delitos contra la intimidad. Hay iniciativas legislativas en curso para abordar este tema de manera integral.
