La inteligencia artificial está transformando la forma en la que las empresas trabajan, automatizan procesos y gestionan información. Pero también está modificando el escenario de la ciberseguridad. La primera notificación recibida por la Agencia Española de Protección de Datos (AEPD) de una brecha de datos personales en la que habría intervenido un agente de inteligencia artificial pone sobre la mesa una cuestión que hasta ahora parecía principalmente teórica: qué ocurre cuando un sistema de IA no se limita a generar respuestas, sino que puede analizar, decidir y ejecutar acciones de forma autónoma.
Según la información comunicada a la AEPD por la organización afectada, el agente de IA inició una búsqueda de vulnerabilidades, consiguió realizar correctamente un inicio de sesión y, una vez dentro del sistema, continuó explorando posibles fallos de la aplicación. El proceso habría terminado permitiendo la modificación de datos personales y el acceso a facturas.
La Agencia ha introducido importantes cautelas sobre el caso. La información procede de la notificación realizada por la entidad afectada y todavía debe ser analizada. Además, el hecho de que se utilizara un determinado modelo de inteligencia artificial no significa que dicho modelo o la infraestructura de su proveedor hubieran sido comprometidos, ni que la herramienta estuviera diseñada para realizar actividades maliciosas.
Del chatbot al agente autónomo
La diferencia es especialmente relevante.
Durante los últimos años, la utilización empresarial de la inteligencia artificial se ha asociado principalmente a sistemas que reciben una instrucción y generan una respuesta. Los denominados agentes de IA introducen una dimensión diferente: pueden recibir un objetivo, analizar el entorno, seleccionar diferentes acciones y ejecutarlas utilizando las herramientas que tienen disponibles.
Desde la perspectiva de la protección de datos, esta evolución obliga a prestar atención no solamente a qué información puede consultar una herramienta de IA, sino también a qué puede hacer con ella y qué permisos tiene para actuar.
Un sistema automatizado con acceso a determinadas aplicaciones, bases de datos, documentos, credenciales o servicios puede convertir un incidente de seguridad en un problema de mayor velocidad y alcance.
La IA cambia el escenario de riesgo
La AEPD señala que este primer caso no permite establecer una tendencia estadística. Sin embargo, sí considera que constituye una señal significativa de que los ataques apoyados en inteligencia artificial han dejado de ser exclusivamente un riesgo teórico y comienzan a materializarse en incidentes que afectan a tratamientos reales de datos personales.
Para las empresas, especialmente para las pequeñas y medianas organizaciones, la cuestión fundamental no debería ser únicamente si utilizan inteligencia artificial, sino cómo la utilizan y qué nivel de acceso le conceden.
Un análisis de riesgos tradicional puede contemplar amenazas como accesos no autorizados, malware, phishing o pérdida de información. El desarrollo de agentes capaces de actuar de manera automatizada hace necesario revisar si esos escenarios siguen reflejando adecuadamente el nivel de exposición de la organización.
La propia AEPD plantea la necesidad de incorporar los ataques asistidos o ejecutados mediante IA dentro de los análisis de riesgos, teniendo en cuenta que la automatización puede modificar la probabilidad, la velocidad y el alcance de una brecha de datos.
El RGPD no cambia porque intervenga una IA
Desde el punto de vista jurídico existe una cuestión especialmente importante: la utilización de inteligencia artificial no modifica las obligaciones establecidas por el Reglamento General de Protección de Datos.
Cuando se produce una brecha de datos personales que pueda suponer un riesgo para los derechos y libertades de las personas, el responsable del tratamiento debe valorar el incidente y, cuando corresponda, notificarlo a la autoridad de control dentro del plazo establecido por el artículo 33 del RGPD, que contempla un máximo de 72 horas desde que se tenga constancia de la brecha.
La tecnología utilizada para provocar el incidente puede cambiar. Las obligaciones de protección de datos, sin embargo, permanecen.
Esto resulta especialmente relevante porque la respuesta ante una brecha no puede depender exclusivamente de identificar cómo se produjo el ataque. La organización debe disponer previamente de procedimientos para detectar, contener, analizar, documentar y, cuando proceda, notificar el incidente.
Una nueva pregunta para las empresas: ¿qué puede hacer nuestra IA?
La llegada de los agentes autónomos introduce una pregunta que debería incorporarse progresivamente a las políticas internas de seguridad y protección de datos:
¿Qué capacidad real de actuación tiene la inteligencia artificial que estamos utilizando?
No es lo mismo emplear una herramienta para redactar un documento que permitirle consultar información interna, acceder a un CRM, utilizar una cuenta corporativa, ejecutar acciones sobre una aplicación o interactuar con diferentes servicios.
Cuantos más permisos tenga un sistema automatizado, mayor debe ser el nivel de control sobre sus accesos, registros, autenticación y capacidad de actuación.
Por ello, las organizaciones deberían revisar aspectos como la gestión de permisos, las credenciales utilizadas por sistemas automatizados, la segmentación de accesos, la trazabilidad de las acciones realizadas por agentes de IA y los mecanismos de detección y respuesta ante comportamientos anómalos.
La protección de datos entra en una nueva fase
La cuestión que plantea este caso va más allá de la inteligencia artificial. Estamos ante una evolución del propio concepto de riesgo tecnológico.
Durante años, las organizaciones han trabajado para impedir que terceros accedieran de manera no autorizada a sus sistemas. Ahora deben prepararse también para escenarios en los que determinadas herramientas automatizadas puedan interactuar con esos sistemas con una velocidad y una capacidad de adaptación muy superiores a las de un operador humano.
Esto no significa que cualquier utilización de IA represente una amenaza. Significa que la implantación de estas tecnologías debe ir acompañada de un análisis proporcional de los riesgos y de las medidas técnicas y organizativas adecuadas.
La primera notificación comunicada por la AEPD constituye, por tanto, un aviso para las organizaciones: la inteligencia artificial ya forma parte del escenario de ciberseguridad y debe formar parte también de los análisis de riesgos en materia de protección de datos.
El reto no consiste en frenar la innovación, sino en asegurarse de que la automatización se desarrolla dentro de un marco de control, seguridad, trazabilidad y responsabilidad.
Porque cuando una IA deja de limitarse a responder y comienza a actuar, la pregunta ya no es únicamente qué puede generar.
La pregunta es hasta dónde puede llegar y quién controla sus acciones.
