La inteligencia artificial de Google, conocida como Gemini, ha revolucionado la gestión del correo electrónico en Gmail al ofrecer resúmenes automáticos de mensajes extensos, simplificando así la lectura y el procesamiento de información. Sin embargo, este avance también ha abierto la puerta a nuevas amenazas de ciberseguridad, ya que se ha detectado un método sofisticado que permite a los atacantes aprovechar su capacidad para interpretar instrucciones ocultas en los correos, lo que ha encendido las alarmas entre expertos y usuarios.
La función de resumen de Gemini, implementada originalmente para dispositivos móviles y ahora extendida a la versión web de Gmail, aparece cuando los hilos de mensajes son especialmente largos. La herramienta crea tarjetas de resumen automáticas que facilitan la consulta rápida de toda la conversación. Pero detrás de esta utilidad se esconde un fallo que, hasta hace poco, podía ser explotado por ciberdelincuentes para generar mensajes fraudulentos que aparentaban provenir de la propia IA de Google.
La técnica de la inyección de instrucciones ocultas
Investigadores en ciberseguridad han documentado cómo la denominada ‘prompt injection’ permite a los atacantes camuflar órdenes dirigidas a Gemini utilizando HTML y CSS. En concreto, se incrustan mensajes en el cuerpo del correo empleando texto blanco sobre fondo blanco, o reduciendo el tamaño de fuente a cero, de modo que son totalmente invisibles para el destinatario pero sí analizados por la inteligencia artificial. Este texto oculto se convierte en un comando que Gemini ejecuta al generar el resumen, modificando su contenido sin que el usuario lo advierta.
El resultado son mensajes generados aparentemente por la propia IA, como falsas alertas de seguridad o solicitudes de llamada a números de soporte fraudulentos. La peligrosidad de este ataque radica en que no requiere archivos adjuntos ni enlaces sospechosos, dos de los indicadores clásicos de intentos de phishing, lo que complica enormemente su detección tanto por usuarios como por los filtros de Gmail.
Impacto, propagación y dispositivos afectados
La vulnerabilidad ha afectado principalmente a usuarios de Google Workspace (versiones Business y Enterprise, así como cuentas con Gemini Education) y también a particulares que utilizan los servicios inteligentes de Gmail. Esta técnica, identificada y reportada por firmas como Odin y Mozilla, podría haber tenido un impacto mayor, ya que otras aplicaciones de Workspace como Docs o Drive también cuentan con funciones basadas en inteligencia artificial.
Expertos en ciberseguridad destacan que el alcance de este modo de ataque es considerable: basta con que el usuario solicite un resumen de cualquier correo “normal” para que, si contiene instrucciones ocultas, aparezcan mensajes generados por Gemini siguiendo las órdenes del atacante. Entre los ejemplos observados figuran avisos engañosos de contraseñas comprometidas y simulaciones de incidentes de seguridad con teléfonos de soporte falsos, todo diseñado para robar datos personales o credenciales.
Respuesta de Google y medidas adoptadas
Tras la divulgación pública del fallo, Google ha reconocido el problema e implementado actualizaciones de seguridad en su modelo Gemini, reforzando las defensas contra instrucciones ocultas. Según un portavoz de la compañía, “reforzamos constantemente nuestras defensas mediante ejercicios de red-teaming y mejores prácticas para nuestros modelos de IA”. Además, en la versión 1.5.4 de Gemini, lanzada a principios de julio de 2025, se introdujo un parche definitivo que bloquea el vector de ataque principal. El Threat Intelligence Group de Google ha insistido en que los intentos de explotación detectados eran básicos y fueron bloqueados por los sistemas.
Es fundamental que los usuarios sigan prácticas recomendadas, como limpiar el HTML antes de interpretar los mensajes y no confiar ciegamente en los resúmenes automáticos, especialmente cuando solicitan acciones urgentes o inusuales. La empresa también aconseja implementar filtros y controles para detectar estilos “anómalos” en los correos, como texto invisible o fuentes de tamaño sospechosamente diminuto.
Recomendaciones de seguridad y buenas prácticas
Expertos aconsejan aplicar varias medidas para protegerse frente a intentos de phishing basados en IA:
- No fiarse de alertas de seguridad o indicaciones generadas automáticamente por Gemini, especialmente si incluyen números de teléfono o peticiones de cambio de contraseña.
- Seleccionar todo el texto del correo (Ctrl+A) y comprobar si existe contenido oculto antes de solicitar un resumen.
- Actualizar de manera regular las contraseñas y activar la verificación en dos pasos en Gmail y otros servicios de Google.
- Evitar compartir información personal o credenciales por teléfono o correo, incluso si la solicitud parece proceder de Google.
- Utilizar filtros antiphishing y mantener actualizado el software de seguridad en todos los dispositivos.
Se recomienda consultar cualquier alerta de seguridad en la web oficial de Google y desconfiar de indicaciones comunicadas por resúmenes automáticos generados por la IA.
La incorporación de Gemini en Gmail ejemplifica los beneficios y riesgos que conlleva la adopción de la inteligencia artificial en herramientas de uso cotidiano. La rápida intervención de Google ha mitigado el impacto de esta vulnerabilidad, pero pone de manifiesto la constante evolución de los métodos de ataque cibernético y la importancia de la vigilancia y buenas prácticas en el uso de tecnología.