Deepfakes, explicados.

«Deepfake» se usa de forma laxa para casi cualquier cosa generada por IA, pero el término tiene un linaje concreto: audio o vídeo sintético o manipulado, producido con aprendizaje automático, que muestra a una persona real haciendo o diciendo algo que nunca hizo, de forma lo bastante convincente como para confundirse con material genuino. Lo que antes exigía un estudio de efectos visuales y semanas de composición manual ahora se ejecuta en una GPU de consumo en minutos. Ese desplome en coste y habilidad requerida es la razón completa por la que los deepfakes pasaron de ser una curiosidad académica a una preocupación de seguridad generalizada en menos de una década.

Este artículo cubre, a nivel conceptual y sin las matemáticas subyacentes, cómo funcionan realmente las dos técnicas de generación dominantes, por qué consejos clásicos de detección como «busca parpadeo antinatural» están perdiendo terreno a medida que los modelos mejoran, y la dirección más duradera hacia la que se mueve el campo en su lugar: demostrar de dónde vino el contenido, en lugar de intentar detectar falsificaciones después de los hechos.

Qué cubre realmente el término «deepfake»

La palabra es un término paraguas para varias técnicas distintas, unificadas solo por el hecho de que un modelo, y no una persona, produjo la ilusión:

• Intercambio de rostro (face swap) – sustituir el rostro de una persona por el de otra dentro de un material ya existente, fotograma a fotograma.
• Reanimación facial (puppetry) – dirigir las expresiones, los movimientos de la boca y la postura de la cabeza de un rostro objetivo a partir de una interpretación de origen distinta, sin cambiar la identidad que se muestra.
• Generación totalmente sintética – un rostro o una persona que no corresponde a ningún individuo real concreto, usada a menudo para fabricar una identidad falsa o un «testigo» inventado.
• Clonación de voz – sintetizar audio con la voz de una persona concreta, lo cual es un problema técnico separado de todo lo relacionado con el vídeo y se trata en su propia sección más abajo.

Los deepfakes de vídeo y de voz se mezclan constantemente en la cobertura del tema, pero se resuelven con familias de modelos relacionadas –no idénticas– y tienen implicaciones prácticas notablemente distintas, razón por la cual este artículo los trata por separado.

Cómo se hace realmente el vídeo sintético

Dos familias de modelos explican casi todo el vídeo deepfake en circulación hoy, y entender el cambio entre ellas es la clave para entender por qué la detección se ha vuelto más difícil.

Redes generativas antagónicas (GAN)

Una GAN entrena dos redes neuronales una contra otra. Una generadora produce imágenes sintéticas; una discriminadora intenta distinguir esas imágenes sintéticas de las reales. En cada ronda de entrenamiento, la generadora se vuelve un poco mejor engañando a la discriminadora, y la discriminadora se vuelve un poco mejor detectándolo –un tira y afloja antagónico que, tras suficientes iteraciones, converge en una generadora capaz de producir rostros que a un humano le cuesta distinguir de fotografías. La mayoría de las herramientas de deepfake que primero atrajeron la atención pública a finales de la década de 2010 –software de intercambio de rostro basado en autoencoders, la familia StyleGAN de generadores de rostros– se construyeron de esta manera.

Modelos de difusión

La difusión es el enfoque detrás de la mayoría de los sistemas líderes actuales de generación de imagen, vídeo y audio, y funciona sobre un principio completamente distinto. El modelo se entrena para invertir un proceso de ruido: dada una imagen que se ha corrompido progresivamente con ruido aleatorio hasta quedar en pura estática, aprende a predecir, paso a paso, cómo eliminar ese ruido y recuperar algo coherente. En el momento de la generación, se parte de ruido aleatorio real y se ejecuta hacia delante ese proceso de eliminación de ruido aprendido, guiado por una entrada de condicionamiento –un rostro de origen, una interpretación de referencia, una descripción de texto– hasta que emerge un fotograma terminado a partir de lo que empezó siendo estática.

La consecuencia práctica importa más que el mecanismo: los modelos de difusión se entrenan típicamente con conjuntos de datos mucho más grandes y variados que los procesos anteriores basados en GAN, y tienden a dejar menos de los artefactos visuales delatores –líneas de nacimiento del pelo borrosas, fondos inconsistentes, textura de piel cerosa– sobre los que se construían las heurísticas de detección más antiguas. Ese único cambio es una razón importante por la que la detección basada en artefactos, tratada más abajo, se está volviendo menos fiable con el tiempo, no más.

Deepfakes de vídeo frente a clonación de voz: dos procesos distintos

La clonación de voz no toca en absoluto un modelo de vídeo. Se basa en sistemas neuronales de texto a voz o de conversión de voz entrenados para reproducir el timbre, el tono y los patrones de habla de un objetivo. La diferencia práctica que más importa desde el punto de vista de la seguridad es cuán poco material de origen necesita cada proceso, y cuán cerca puede llegar cada uno del tiempo real:

• La clonación de voz puede producir un parecido convincente a partir de una pequeña cantidad de audio de referencia –en algunas investigaciones publicadas y demostraciones comerciales, bastante menos de un minuto–, y los sistemas modernos pueden funcionar casi en tiempo real, que es exactamente lo que hace viable el fraude por clonación de voz en directo durante una llamada telefónica real, y no solo en clips pregrabados.
• Los deepfakes de vídeo por lo general necesitan más material de origen del objetivo y notablemente más cómputo para producirse de forma convincente, especialmente en directo, durante una videollamada, donde el modelo tiene que rastrear el movimiento de la cabeza, los cambios de iluminación y la oclusión en tiempo real. Existen herramientas de intercambio de rostro en tiempo real para videollamadas y han mejorado rápidamente, pero conseguirlo de forma convincente en una conversación en directo e improvisada sigue siendo técnicamente más difícil que producir de antemano un clip de vídeo pregrabado o semiguionizado.

Esa asimetría es una razón por la que la clonación de voz aparece de forma desproporcionada en estafas dirigidas a particulares –una llamada telefónica que suena angustiada es barata y rápida de falsificar–, mientras que es también la razón por la que el fraude por videollamada deepfake tiende a tener algo más de espectáculo. Cubrimos en detalle la versión centrada en la víctima individual de esto, incluyendo cómo verificar una llamada sospechosa antes de actuar, en Estafa de voz clonada con IA: ¿es real? –el complemento práctico y orientado a la víctima de este artículo.

Detección: el valor decreciente de los artefactos visuales

Durante años, las guías sobre «cómo detectar un deepfake» se centraron en un conjunto bastante consistente de señales visuales, y de verdad eran útiles contra la primera generación de herramientas basadas en GAN:

• Parpadeo antinatural o ausente – los primeros conjuntos de datos de generación de rostros infrarrepresentaban los ojos cerrados, así que los sujetos generados a veces parpadeaban con demasiada poca frecuencia, o nunca.
• Inconsistencias de iluminación y sombras – un rostro sintetizado iluminado de forma distinta al fondo o al resto del cuerpo.
• Bordes borrosos o deformados – especialmente alrededor del pelo, las orejas, las gafas y las joyas, donde la mezcla basada en GAN solía tener dificultades.
• Parpadeo temporal (flicker) – sutiles inconsistencias de fotograma a fotograma en la textura de la piel o la geometría facial, visibles sobre todo a cámara lenta.
• Desincronización entre el audio y los labios – movimientos de la boca que no encajan del todo con el audio, más perceptible en sonidos plosivos.

Estas heurísticas se están volviendo menos fiables, no más, a medida que mejora la calidad de la generación: y esa tendencia importa más que cualquier señal individual. Los generadores basados en difusión, entrenados con conjuntos de datos más grandes y variados e iterados constantemente por una gran comunidad abierta, han ido cerrando progresivamente los huecos que hacían visibles las señales anteriores. La investigación en detección ha respondido de forma equivalente, con sus propios clasificadores de aprendizaje automático entrenados para detectar huellas estadísticas –patrones invisibles al ojo– que dejan atrás procesos de generación concretos. Pero eso convierte la detección en una carrera armamentista: cada mejora en los generadores erosiona los detectores entrenados contra la generación anterior, y no hay garantía de que la detección mantenga el ritmo, ni siquiera de que se quede cerca. Tratar «normalmente lo noto» como una defensa personal duradera es apostar contra una tendencia que lleva años moviéndose en una sola dirección.

El enfoque más duradero: la procedencia del contenido

Como el análisis de píxeles a posteriori está estructuralmente en el lado perdedor de una carrera armamentista, una estrategia distinta ha ganado tracción real: en lugar de preguntar «¿esto parece falso?», adjuntar información verificable sobre de dónde vino realmente un contenido, en el momento en que se crea. Ese es el objetivo de C2PA: la Coalition for Content Provenance and Authenticity–, un estándar técnico, respaldado por una amplia coalición que incluye a Adobe, Microsoft y la BBC entre otros a través de la Content Authenticity Initiative, para adjuntar a los medios metadatos firmados criptográficamente y a prueba de manipulaciones en el momento de la captura o la edición. Content Credentials es la etiqueta e icono orientados al usuario final pensados para mostrar esos datos a un espectador corriente.

Los metadatos que puede llevar un archivo compatible con C2PA incluyen qué dispositivo o software lo capturó o modificó, qué ediciones se aplicaron y cuándo, y una cadena de custodia firmada que enlaza esos eventos entre sí. Manipular el archivo después de los hechos –recortarlo, recodificarlo o insertar contenido generado– o bien rompe la firma criptográfica, o queda registrado como una nueva entrada en el historial de ediciones, en lugar de desaparecer silenciosamente.

La distinción conceptual importante es que esto no es un detector de deepfakes. No analiza píxeles ni formas de onda para dar como resultado una probabilidad de que algo fue generado. En cambio, permite que un espectador verifique una afirmación positiva –«este archivo fue capturado por esta cámara en este momento» o «este software concreto hizo esta edición»– en lugar de depender de una conjetura negativa a posteriori. Precisamente por eso se considera la dirección más duradera: una carrera armamentista entre generadores y detectores de artefactos favorece a quien tenga más cómputo en un momento dado, mientras que un registro de procedencia firmado criptográficamente no se degrada solo porque los modelos de generación mejoren.

No es una solución completa, y vale la pena ser honesto sobre el hueco que queda. La adopción sigue siendo parcial: la mayoría de cámaras, teléfonos y plataformas sociales todavía no adjuntan ni conservan de forma universal y de extremo a extremo los metadatos de C2PA. Las credenciales se pueden eliminar con una captura de pantalla o una recodificación ingenua. Y la procedencia no hace nada por el enorme volumen de contenido, tanto real como falso, que nunca se firmó con credenciales en primer lugar. Es infraestructura que se está construyendo para la próxima década del problema, no un interruptor que resuelva el actual.

Por qué esto importa para la seguridad

Fraude. La voz y el vídeo sintéticos son ahora herramientas genuinamente útiles para la ingeniería social, porque atacan exactamente el canal que la gente históricamente ha confiado que era difícil de falsificar: oír o ver a alguien que conocen. Una categoría de incidentes bien documentada y ampliamente reportada desde 2024 implica a atacantes que usan vídeo y voz sintéticos para suplantar a un alto ejecutivo en una videollamada, o en una serie de llamadas y mensajes, instruyendo al personal de finanzas para que autorice una transferencia urgente –explotando la autoridad y la urgencia de la misma forma que lo hace una estafa clásica de compromiso de correo empresarial, pero con un canal visual y vocal añadido que antes hacía que la gente confiara más en que una solicitud era real, no menos. La técnica, no ningún incidente concreto, es la lección duradera: la confianza extra que solía proporcionar una videollamada es exactamente el canal que ahora también se está falsificando.

Desinformación. Las declaraciones fabricadas atribuidas a figuras públicas –antes de elecciones, durante eventos de última hora, o dirigidas contra el precio de las acciones de una empresa– son el caso de uso más discutido, pero existe un efecto de segundo orden más sutil conocido como el «dividendo del mentiroso»: una vez que se sabe ampliamente que existen los deepfakes, cualquier material genuino y sin alterar puede descartarse como «probablemente falso» por cualquiera motivado a negarlo. Esa erosión de la confianza en la evidencia real es un problema de seguridad e integridad de la información independiente de si realmente se usó algún deepfake en un caso concreto.

Suplantación. A nivel individual, las mismas técnicas permiten imágenes sintéticas no consentidas, acoso dirigido y fraude contra gente corriente, no solo contra empresas –incluida la estafa telefónica del «familiar en apuros» cubierta en nuestra guía complementaria sobre estafas de voz clonada con IA, donde se usa una voz clonada para simular a un familiar en una emergencia y presionar un pago rápido y con pánico.

Qué ayuda de verdad

Dado que la detección visual se está volviendo más difícil y la infraestructura de procedencia todavía está madurando, las defensas que mejor aguantan ahora mismo son procedimentales, no perceptivas:

• Verificación fuera de banda. Ante cualquier solicitud que implique movimiento de dinero, cambios de credenciales o acceso, verifica a través de un canal separado y ya conocido de antemano –una llamada de vuelta a un número que ya tenías registrado, no a uno proporcionado en el mensaje o la llamada sospechosos–, sin importar lo convincente que sonara el vídeo o la voz.
• Frases de verificación pactadas de antemano. Una simple palabra clave compartida, acordada por adelantado entre familiares o entre el personal de finanzas y los ejecutivos, es barata de establecer y derrota la suplantación sin importar lo buenos que lleguen a ser los medios sintéticos.
• Aprobación de varias personas para acciones de alto riesgo. Exigir un segundo aprobador independiente para transferencias grandes o cambios sensibles elimina el punto único de fallo que una suplantación convincente está diseñada para explotar.
• Trata la urgencia y el secretismo como la verdadera señal de alarma. Casi todos los patrones de fraude por deepfake reportados se apoyan en la presión para actuar de inmediato y en silencio. Esa combinación es una señal mucho más fiable que intentar detectar personalmente artefactos de generación en tiempo real durante una llamada.

Nada de esto requiere convertirte en un detector personal de deepfakes, lo cual es bueno, porque esa es una apuesta cada vez más perdedora. Requiere incorporar pasos de verificación en los momentos que de verdad importan –dinero, credenciales, acceso– de modo que incluso una falsificación perfecta choque con un proceso al que no pueda hablarle para sortearlo.

Preguntas frecuentes