El incidente, aún pendiente de análisis, permitió modificar datos personales y acceder a facturas tras una cadena de acciones autónomas atribuidas a un agente de inteligencia artificial.
La Agencia Española de Protección de Datos (AEPD) recibió el 14 de septiembre la primera notificación de una brecha de datos personales en la que el incidente habría sido ejecutado mediante un agente de inteligencia artificial, según una publicación de la propia Agencia. La organización afectada no ha sido identificada.
De acuerdo con la información comunicada a la AEPD por la entidad afectada, el agente inició una búsqueda de vulnerabilidades en archivos genéricos y logró iniciar sesión correctamente. Ya dentro del sistema, localizó de forma autónoma fallos en la aplicación, con los que habría podido modificar datos personales y acceder a facturas.
La Agencia advierte de que la información disponible procede de la notificación de la organización y debe ser analizada antes de extraer conclusiones. También precisa que el uso de un modelo de lenguaje concreto no implica que el modelo, ni la infraestructura de su proveedor, hayan sido comprometidos o diseñados para actividades maliciosas.
Según la AEPD, lo relevante desde la perspectiva de la protección de datos es que un tercero habría empleado un agente de IA para encadenar distintas fases del ataque con éxito.
Contexto y consecuencias
La notificación no permite establecer una tendencia estadística, pero la AEPD la considera una señal de que los ataques apoyados en inteligencia artificial han pasado de ser un riesgo teórico a afectar a tratamientos reales de datos personales.
La Agencia señala que estos agentes pueden recibir un objetivo, planificar tareas intermedias, usar herramientas, ejecutar código, interpretar resultados y adaptar su actuación. Esta capacidad puede aumentar la velocidad, la escala y la adaptación de técnicas maliciosas ya conocidas, reduciendo el tiempo para detectar y contener un incidente.
La AEPD sostiene que responsables, encargados y delegados de protección de datos deben incorporar de forma expresa los ataques asistidos o ejecutados mediante IA a sus análisis de riesgos. También apunta a la necesidad de revisar los tiempos de respuesta, limitar permisos de credenciales y reforzar los mecanismos de detección, contención y respuesta.
Qué cambia ahora
El caso deberá ser objeto del análisis correspondiente por parte de la AEPD. Mientras tanto, la Agencia recomienda mantener los fundamentos de seguridad: conocer los tratamientos, minimizar los datos, limitar los accesos, corregir vulnerabilidades, controlar a los proveedores y prepararse para responder ante incidentes.