Google detectó y bloqueó por primera vez un exploit de IA de día cero que violaba la autenticación de dos factores

Google descubrió un exploit de día cero creado por IA

*Resumen de los hechos*

Chata y por qué
El Grupo de Inteligencia de Amenazas de Google (GTIG) detectó y bloqueó por primera vez un nuevo exploit de día cero. El autor del exploit fue generado con inteligencia artificial, no escrito manualmente por un humano.

Objetivo del ataque
Interferencia masiva en el sistema de autenticación de dos factores (2FA) de una aplicación web de código abierto para administración de sistemas.

Cómo se reconocieron las huellas de IA
En el código Python había “firmas”: una falsa puntuación CVSS, un formato típico de “aprendizaje” y patrones característicos de grandes modelos lingüísticos (LLM).

Causa de la vulnerabilidad
Error lógico: el desarrollador asumió que cierto componente del sistema siempre era seguro y no lo verificó. A través de este elemento sin comprobar, los atacantes evadieron la 2FA.

Objeto del ataque
Google no revela la aplicación específica.

Rol de Gemini
Según los investigadores, el modelo Gemini no se utilizó para crear el exploit.

Prevención
El ataque fue detenido antes de que pudiera escalarse masivamente.

Lo que más observó GTIG
1. Nuevos métodos de ataque
Los atacantes usan IA no solo para generar código malicioso, sino también para “evadir” la infraestructura de los propios sistemas de IA.

2. Engaño por roles
Los hackers formulan las solicitudes como si fueran expertos en seguridad, haciendo que el modelo se comporte de manera diferente a lo previsto por sus restricciones.

3. Carga de grandes bases de datos
Dentro de los modelos se cargan catálogos completos de vulnerabilidades y luego se emplea la herramienta OpenClaw para depurar malware en un entorno controlado antes del despliegue real.

Conclusión
Google pudo identificar y neutralizar el exploit creado por IA gracias al análisis detallado del código y a la detección de “firmas” de aprendizaje automático. Esto subraya la necesidad de revisar constantemente la lógica de las aplicaciones y reconocer que los atacantes pueden usar la IA tanto como herramienta para crear ataques como para evadir los mecanismos de defensa de los propios sistemas.