La inteligencia artificial ha hecho posible crear vídeos y audios falsos con un realismo casi perfecto. Los deepfakes ya no son una curiosidad, sino una herramienta utilizada para el fraude, la extorsión y la desinformación. Su crecimiento es exponencial y está generando una profunda preocupación en todos los sectores.
Mientras tanto, las respuestas se mueven en dos frentes: el legal y el tecnológico. Los países están aprobando leyes para castigar su uso malicioso, y las empresas buscan métodos de protección que van más allá de los sistemas tradicionales de verificación.
Fraude y suplantación: la nueva cara del delito
El uso de deepfakes para engañar a los empleados y robar dinero se ha disparado. Según informes de seguridad y encuestas a especialistas, casi el 80% de los profesionales ha detectado un aumento de estos ataques en los dos últimos años. El phishing y la ingeniería social siguen siendo las vías más habituales, pero ahora con un componente mucho más peligroso: la posibilidad de imitar la voz o la imagen de un directivo.
Las consecuencias son devastadoras. Una sola videollamada falsa puede provocar transferencias millonarias o la filtración de datos confidenciales. A pesar de los avances tecnológicos, la mayoría de las organizaciones aún no se siente preparada para hacer frente a esta amenaza, según una encuesta global a responsables antifraude y expertos en fraude bancario con IA.
La respuesta legislativa avanza en Europa y América Latina
Ante esta realidad, las administraciones están reaccionando. La Unión Europea ha incluido en su reglamento de inteligencia artificial una prohibición específica de los deepfakes sexuales, un paso clave para proteger a las víctimas. En España, el caso de unas menores cuyas imágenes fueron manipuladas para simular desnudos ha marcado un hito judicial y ha impulsado reformas legales.
En América Latina, Chile ha aprobado un proyecto de ley que impone multas de hasta 10.000 UTM (casi 700 millones de pesos chilenos) para quienes generen o difundan deepfakes sin consentimiento. Esta tendencia legislativa refleja una preocupación común: la tecnología avanza más rápido que las normativas, y los gobiernos intentan ponerse al día.
La detección, el gran talón de Aquiles
Uno de los principales desafíos es verificar la autenticidad de los contenidos. Los estudios demuestran que los humanos solo acertamos en el 73% de los intentos de identificar un deepfake, y que el entrenamiento apenas mejora ese porcentaje. Además, las herramientas automáticas de detección no ofrecen resultados concluyentes: a menudo devuelven un mero porcentaje de probabilidad, que puede ser engañoso.
Por eso, los expertos recomiendan recurrir a métodos analógicos y a la verificación fuera de banda, como el uso de llaves de seguridad físicas o la confirmación por canales alternativos. La tecnología no es infalible, y el criterio humano sigue siendo esencial para detectar anomalías, aunque ya existen herramientas como Gemini para detectar vídeos creados con IA, pero deben ser reforzadas con protocolos claros.
En definitiva, los deepfakes han llegado para quedarse y plantean un reto sin precedentes. La combinación de legislación, tecnología y formación es la única vía para minimizar los riesgos. La confianza en lo que vemos y oímos ya no puede ser total; hay que aprender a verificar siempre, en la empresa, en la política y en la vida cotidiana.
