Escrito por: Jerónimo Corregido
La Agencia Española de Protección de Datos (AEPD) releva el primer caso de un agente de IA que realiza un ataque autónomo en España. El hecho obliga a tomar nuevas medidas de seguridad, como la incorporación de este tipo de fraude en los análisis de riesgos de las organizaciones.
El caso del agente de IA y el ataque autónomo: primera vez en España.
Un ciberataque con IA autónomo que obliga a ponerse en guardia
El mes pasado, la Agencia Española de Protección de Datos (AEPD) alertó sobre el primer caso de un hackeo independiente llevado a cabo por un agente de IA. El ataque autónomo logró vulnerar partes sensibles de una app y acceder a información confidencial. Habría sido orquestado por una tercera parte.
El modo en el que sucedió es el siguiente: el agente de IA llevó a cabo por su propia cuenta un relevamiento de las posibles brechas de seguridad en los archivos genéricos de la app. A continuación concretó un inicio de sesión satisfactorio, a pesar de que no contaba antes con las credenciales.
Una vez dentro del sistema, comenzó a hurgar en busca de puntos débiles. A través de este relevamiento, el agente consiguió modificar datos personales y controlar facturas. Es un hecho que genera preocupación entre las organizaciones que dependen cada vez más de la IA para sus procesos.
Desde la AEPD señalan que este caso aislado no permite generar una estadística sobre la autonomización del fraude con inteligencia artificial, ni tampoco sirve para censurar el modelo específico que protagonizó el incidente. Los datos presentados por la organización afectada siguen bajo el escrutinio de los expertos para determinar sus motivaciones y causas.
La novedad que presenta el caso es que la IA comienza a ser utilizada para encadenar sucesivas fases de un ciberataque. La AEPD apunta que la tecnología no ha dado lugar a nuevas modalidades de fraude, sino que ha agilizado las ya existentes.
Para los ciberdelincuentes, el uso de la IA representa un salto de calidad, en vista de que los agentes pueden tomar decisiones por su cuenta sin que un humano los comande paso a paso. Esto representa un cambio de escala en las posibilidades de hackeo, que obliga a reconfigurar las políticas de seguridad.
Cómo minimizar los riesgos ante los agentes de IA
La AEPD señala algunas de las medidas que se pueden tomar frente a un agente de IA. El ataque autónomo no es igual que uno coordinado exclusivamente por un humano, sobre todo por la velocidad con la que se desarrolla.
Lo primero que se hace notar es la importancia de incluir el fraude con inteligencia artificial dentro de los análisis de riesgo. Muchas organizaciones aún disponen de referencias genéricas sobre las estafas, que incluyen el phishing y el malware, lo cual resulta insuficiente, dado que la IA tiene particularidades que llaman a su tratamiento individualizado.
Además, este escenario conmina a tener tiempos de respuesta más rápidos. Mientras que los ataques manuales están sujetos a la capacidad del hacker humano, en el caso de la IA automatizada se pueden dar numerosas brechas de seguridad al mismo tiempo, dado que los agentes pueden analizar distintos datos en simultáneo y adaptar su estrategia a medida que avanzan.
Todo esto lleva, por supuesto, a la urgencia por desarrollar credenciales e identidades digitales con mayor nivel de protección. El punto central es que, si un agente de IA consigue claves API o tokens con permisos maestros, puede realizar un daño de difícil reparación.
Desde la AEPD también subrayan la importancia de contar con controles humanos en los procesos de seguridad. Automatizar todo es una idea peligrosa, puesto que todos los sistemas pueden ser intervenidos.
La posibilidad de sufrir ataques con IA pone en guardia a las organizaciones, pero también muestra la fragilidad de los usuarios en un contexto en el que la protección tradicional ha dejado de ser una garantía.
