Seguro que te ha pasado: ves un vídeo en redes sociales de algún famoso diciendo una barbaridad o un político en una situación comprometida y, aunque te suena raro, la imagen es tan convincente que por un momento te lo crees. Pues bien, bienvenido al mundo de los deepfakes o falsedades profundas, una tecnología que ha dejado de ser cosa de películas de ciencia ficción para convertirse en un problema real que nos toca a todos.
En esencia, estamos hablando de archivos de audio, imagen o vídeo que han sido manipulados mediante inteligencia artificial para que parezcan auténticos. Lo peligroso es que ya no hace falta ser un experto en informática para crearlos; hoy en día, con un par de clics y las herramientas adecuadas, cualquiera puede intentar engañarnos, lo que pone en jaque nuestra capacidad de confiar en lo que vemos y oímos en internet.
¿Cómo funcionan exactamente estas creaciones sintéticas?
El término viene de la unión de «deep learning» (aprendizaje profundo) y «fake» (falso). Esta tecnología utiliza redes neuronales que imitan el funcionamiento del cerebro humano para analizar miles de imágenes de una persona y aprender cada gesto, cada curva del rostro y cada matiz de la voz. Una vez que el algoritmo ha «estudiado» a la víctima, puede generar contenido nuevo donde esa persona hace o dice cosas que jamás ocurrieron.
Para lograr este nivel de realismo, se suelen utilizar las llamadas Redes Generativas Antagónicas (GAN). Imagina que hay dos inteligencias artificiales peleándose: una se encarga de crear la imagen falsa y la otra intenta detectar si es falsa. Este proceso se repite millones de veces hasta que el creador logra engañar al detector, resultando en un vídeo que parece 100% real.
Tipos de manipulaciones más comunes
No todos los engaños son iguales. Principalmente, nos encontramos con dos grandes categorías que deberíamos conocer para no morder el anzuelo:
- Deepfaces: Se centran en la parte visual. Pueden consistir en sustituir la cara de una persona por otra en un vídeo o crear rostros inexistentes desde cero que parecen personas reales.
- Deepvoices: Aquí el ataque es sonoro. Se clona la voz de alguien utilizando apenas unos segundos de audio real, permitiendo que el atacante suplante la identidad verbal de un jefe, un familiar o un político.
También es importante diferenciar los deepfakes de los shallowfakes. Estos últimos son mucho más sencillos, ya que no usan IA sofisticada, sino que se basan en ediciones básicas como ralentizar un vídeo o hacer cortes malintencionados para cambiar el sentido de una frase. Aunque son menos realistas, siguen siendo peligrosos para difundir desinformación rápidamente.
El peligro en el sector financiero y las identidades sintéticas
Si creías que esto solo servía para hacer bromas o vídeos pornográficos no consentidos, piénsalo dos veces. En el mundo de los negocios, los deepfakes han dado lugar a los fraudes de identidad sintética. Esto ocurre cuando los ciberdelincuentes mezclan datos reales (robados en filtraciones) con datos inventados y material generado por IA para crear un perfil falso pero convincente.
Este método es una pesadilla para los bancos y las fintech, ya que permite superar los controles de onboarding digital. Un atacante puede usar un vídeo manipulado en tiempo real para engañar a la biometría facial y abrir cuentas bancarias o pedir créditos millonarios. De hecho, se han registrado casos estremecedores, como el de un empleado en Hong Kong que transfirió millones de dólares tras mantener una videollamada con personas que creía que eran sus jefes, pero que eran réplicas digitales, lo que resalta el riesgo de la IA agentica y el nuevo paradigma del fraude bancario.
Claves prácticas para detectar un engaño
Aunque la IA mejora cada día, todavía deja algunas huellas que podemos rastrear si nos fijamos bien. No hace falta ser un detective, solo hay que aplicar un poco de sentido común y ojo crítico:
- El parpadeo y la mirada: A los algoritmos todavía les cuesta imitar la frecuencia natural del parpadeo humano. Si ves que alguien apenas parpadea o que sus ojos se mueven de forma extraña, sospecha.
- La zona de la boca: Fíjate en los dientes y la lengua. La IA suele tener problemas para renderizar el interior de la boca con precisión mientras la persona habla.
- Sincronización y audio: A veces hay un ligero desfase entre el movimiento de los labios y el sonido, o la voz suena un poco robótica y carece de matices emocionales naturales.
- Bordes y sombras: Busca zonas borrosas alrededor de la cara o una iluminación que no encaja con el fondo del vídeo. Los cortes bruscos en la imagen suelen ser una señal clara de manipulación.
Además, es vital analizar el contexto. Si recibes un vídeo de una celebridad ofreciendo un producto «gratis» o un jefe pidiéndote una transferencia urgente y confidencial, lo más probable es que estés ante una estafa de ingeniería social potenciada por IA. Actualmente, herramientas como Gemini ahora pueden detectar vídeos creados con IA para combatir estos engaños.
Evolución de la defensa: la orquestación de señales
Como la biometría facial por sí sola ya no es suficiente, las empresas de seguridad están pasando a un modelo de orquestación de señales. En lugar de confiar solo en la cara, analizan múltiples variables al mismo tiempo: el comportamiento del usuario, la geolocalización, la integridad del dispositivo y los patrones de navegación. Si el rostro parece real pero el dispositivo tiene señales de emulación, el sistema lanza una alerta de fraude de identidad.
Impacto social y riesgos globales
Más allá del dinero, el riesgo es democrático y social. Los deepfakes pueden usarse para manipular elecciones creando discursos falsos de candidatos o para destruir la reputación de personas mediante el ciberacoso y la sextorsión. El peligro real es que lleguemos a un punto de desconfianza absoluta, donde ya no creamos en nada de lo que veamos en una pantalla, erosionando el pensamiento crítico de la sociedad.
Para protegernos, la mejor herramienta sigue siendo la educación y la verificación de fuentes. Contrastar la información, buscar el vídeo original y no compartir contenidos alarmistas sin comprobarlos son pasos básicos para no convertirnos en cómplices de la desinformación.
La lucha contra la manipulación digital es una carrera armamentística entre quienes crean la IA y quienes la usan para detectar fraudes. Mientras que los delincuentes aprovechan la accesibilidad de herramientas como Midjourney o ChatGPT para crear engaños más sofisticados, la seguridad digital evoluciona hacia análisis contextuales y multidimensionales. Mantenerse alerta, cuestionar lo inverosímil y adoptar medidas de autenticación robustas es la única forma de navegar seguros en un entorno donde la realidad puede ser sintetizada en cuestión de segundos.
