La Agencia Española de Protección de Datos (AEPD) ha recibido por primera vez la notificación de una brecha de datos personales en la que un tercero habría usado un agente de IA para ejecutar y controlar distintas fases del ataque. No se conoce la empresa que fue atacada ni qué modelo se utilizó, pero para la Agencia esta es una señal de que la amenaza teórica y potencial de la IA es ahora algo real.
Qué ha pasado. Según la información comunicada por la empresa afectada, el agente de IA comenzó buscando vulnerabilidades en archivos genéricos y logró iniciar sesión (login). Una vez dentro del sistema, continuó buscando vulnerabilidades de forma autónoma. Encontró al menos una que le permitió modificar datos personales y acceder a facturas. Hay un detalla relevante: la AEPD todavía tiene que analizar la información recibida y no explica cómo se consiguieron las credenciales para iniciar la sesión.
Esto perfila un futuro inquietante. Una agente de IA va más allá de un chatbot: no solo responde preguntas, sino que es capaz de recibir una petición para llegar a un objetivo, dividirlo en subtareas, y luego usar herramientas, ejecutar código y consultar información para decidir qué hacer a continuación.
Salto cualitativo. Eso es precisamente lo que le preocupa a la AEPD: la IA no es ya un asistente que ayuda a un ciberatacante humano, sino un atacante virtual autónomo. La agencia habla aquí de un "cambio cualitativo" en el ámbito de la ciberseguridad.
No es un caso aislado. Google advertía hace unos días de que los agentes de IA utilizados por ciberdeincuentes y grupos de espionaje están comenzando a dejar de ser experimentos para convertirse en herramientas potentísimas. Su equipo de inteligencia de amenazas ha desvelado desde grupos que usan modelos de IA para resolver problemas durante una intrusión hasta un proceso completo de robo de credenciales con múltiples agentes.
Miles de datos en seis horas. Dicha operación logró escalar privilegios y comprometer miles de credenciales en apenas seis horas. Esto supone un riesgo importante, porque los agentes pueden automatizar procesos que ya conocemos y ejecutarlos mucho más deprisa.
La IA al ataque. Esa es precisamente la preocupación que destaca la AEPD: un agente de IA puede analizar varios archivos al mismoi tiempo, probar distintas vías de entrada y modificar su estrategia según lo que encuentra. Además, si consigue una cuenta, una clave o un token con demasiados permisos, puede saltar entre servicios antes de que una empresa detecte algo anómalo.
