Escrito por: Jerónimo Corregido
El Instituto Neerlandés para la Divulgación de Vulnerabilidades (DIVD) reportó que un agente de IA autónomo perpetró un ciberataque contra sus sistemas de gestión de tickets y mesa de ayuda. Las ofensivas autónomas de la IA cada vez generan más preocupación, en vista de sus diferencias con los ataques humanos.
El agente de IA autónomo y un ciberataque que deja una huella importante.
Un nuevo hackeo con inteligencia artificial autónoma
¿Quién diría que el siguiente ataque lo iba a recibir justamente la entidad dedicada a prevenir hackeos en internet? Es el caso del Instituto Neerlandés para la Divulgación de Vulnerabilidades (DIVD), que sufrió un hackeo por parte de un agente de IA autónomo. El ciberataque se desarrolló el pasado 21 de septiembre y dejó varias huellas.
Todo empezó con una alerta en Zammad, la plataforma que el instituto usa para sus tickets de entrada y su canal de ayuda. Allí se reportaron dos fallos zero-day, es decir, brechas de seguridad desconocidas por el fabricante. Reciben ese nombre porque no dan tiempo para la reacción, en vista de que no existen parches para solucionar los problemas.
Según el DIVD, que es homólogo al Instituto Nacional de Ciberseguridad (INCIBE) de España, uno de los fallos facilitaba la ejecución de código para apropiarse de las sesiones iniciadas, sin necesidad de tener una cuenta en el sistema. Una vez que secuestraba las sesiones, podía seguir escribiendo código desde ellas. El otro fallo implicaba que cualquier usuario de la plataforma podía cambiar su rol al de administrador total.
La combinación de ambas vulnerabilidades comporta una gravedad calculada en 9,4 sobre 10. Lo más curioso para el equipo de DIVD fue notar que el hackeo con inteligencia artificial no parecía coordinado por humanos, sino llevado a cabo por un agente automatizado bajo sus propias condiciones.
Cómo se percataron de que había un agente de IA autónomo detrás del ciberataque
Los especialistas del DIVD notaron que había elementos extraños en el modo de desarrollar el ataque. El procedimiento fue descripto como “ruidoso” al tiempo que extremadamente veloz. Se trataba de un sistema con capacidad de decidir por sí mismo, con habilidades muy diferentes a las de un humano.
Desde el DIVD advirtieron que ya habían sufrido intentos de hackeos, pero nunca con esta metodología. El principal rasgo que permitió identificar al agente de IA no es solo su velocidad, sino los descuidos y cierta contradicción en su estrategia.
Mientras que un hacker humano planifica su golpe con antelación y se dirige siempre hacia un objetivo concreto, en este caso se percibió un desorden procedimental, como si el atacante fuera descubriendo su camino al andar. No solo eso, sino que se dio algo muy particular: la misma IA intentó interferir su ataque de intermediario con una medida de fuerza bruta.
Una nueva generación de fraude con agentes de IA
Cuando entendieron lo que sucedía, en DIVD bloquearon sus sistemas y contrataron a una empresa neerlandesa de ciberseguridad para recibir soporte, Merlon Security, que ahora está a cargo de la reconstrucción del ataque. Se consiguieron los parches para solucionar las brechas, pero quedaron consecuencias.
Puntualmente, el golpe permitió que la IA robara las credenciales de correo electrónico de voluntarios del DIVD. Esto abriría las puertas para estafas de ingeniería social mediante suplantación de la identidad, ya que el mismo agente podría enviar emails haciéndose pasar por los trabajadores de la entidad neerlandesa.
Sobre todas las cosas, desde la institución señalan que no se trata de un caso aislado, sino de los nuevos peligros que supone la IA. Si un agente es entrenado para detectar vulnerabilidades en software, podrá aplicar sus técnicas contra cualquier sistema, aun cuando sea un instituto de ciberseguridad. Es decir, la IA no tiene nociones éticas a priori, simplemente lleva a cabo los procesos para los que fue configurada.
Este nuevo escenario plantea la disyuntiva de una defensa con más IA o con menos IA. El primer caso supondría mayor autonomía de respuesta, y el segundo más fundamentos y control. Está claro que no hay, todavía, una solución concluyente.
