Escrito por: Jerónimo Corregido
Los deepfakes con IA apuntan cada vez más contra las empresas. El caso de la firma de ingeniería Arup es uno de los más emblemáticas, ya que perdieron US$ 25,6 millones sin romper sus protocolos de seguridad. En este informe, un panorama sobre lo que hace falta tener en cuenta para evitar la trampa.
Los deepfakes con IA son cada vez más difíciles de reconocer.
Deepfakes en empresas: una trampa muy difícil de reconocer
Un alto directivo de la empresa Arup, multinacional del sector de la ingeniería, acaba de realizar una transacción y se dispone a confirmarla por teléfono con su CFO de Londres.
—Sí, aquí de las oficinas de Hong Kong —dice—. Era para avisar que ya realizamos la operación.
—¿La operación? ¿Qué operación? —dice, desde Inglaterra, el CFO.
—¿Cómo qué operación? La que discutimos hace un rato por videollamada…
Pero el CFO no sabrá de qué está hablando, porque no hubo tal videollamada. El pedido de mover dinero, que llegó por correo electrónico, y la reunión de protocolo, que se desarrolló por Zoom, en realidad no existieron. Fueron parte de un deepfake que se cobró US$ 26,5 millones.
El directivo de Hong Kong tendrá trabajo para explicarlo y para entenderlo él mismo. Apenas llegó el correo electrónico, en el que se le pedían 15 transferencias confidenciales, siguió todos los pasos de rigor. Respondió, se asesoró, consultó y pidió una reunión con sus superiores.
Esa reunión es, justamente, el centro de la cuestión. Porque allí vio el rostro de su CFO y oyó su voz, junto con la de otros colegas del área de finanzas. La conversación se dio como cualquier otra: los participantes asentían, aportaban datos, no había nada de qué dudar. ¿Qué fue lo que salió mal?
La inteligencia artificial al servicio del fraude
Los estafadores utilizaron un sistema de IA para sintetizar las imágenes y los tonos de voz de las personas que querían suplantar. En el caso de altos directivos de grandes empresas, estos contenidos suelen ser dominio público. Se puede encontrar sin mucha dificultad a cualquier CFO dando charlas, participando de conferencias, dictando webinars.
Los modelos más recientes de IA pueden imitar a la perfección el acento y la modulación de una persona real con inputs mínimos de audio, de entre 10 y 30 segundos. En cuanto a la imagen, se ha perfeccionado de tal manera que resulta muy complicado descubrir el error.
La manera en la que se suplantan los rostros es construyendo una suerte de máscara sintética. Es decir, del otro lado de la videollamada efectivamente hay alguien, que es el atacante. Cuando la persona sonríe, también lo hace su máscara. Cuando alza sus cejas, su avatar lo imita, pero del modo en el que lo haría el rostro suplantado.
Parece el futuro, pero es la actualidad
El caso de Arup se dio a conocer porque la Policía de Hong Kong lo hizo público. Las autoridades informaron que se había dado un delito con tales características, sin nombrar a la empresa directamente. Ante la presión, la misma firma corroboró los hechos, que tuvieron lugar a comienzos de 2024.
Todo hace pensar que, desde entonces, los deepfakes contra empresas han crecido significativamente. Las estimaciones indican que las pérdidas por esta razón se triplicaron entre 2024 y 2025, al pasar de US$ 360 millones globales a US$1.100 millones.
De la misma manera, se puede deducir que la inmensa mayoría de los casos quedan fuera del dominio público, al ser silenciados por las propias víctimas. Para las empresas, quedar expuestas a ataques significa perder reputación. Implica aceptar que los mecanismos de seguridad no alcanzan. Y esa es la realidad: los mecanismos técnicos no alcanzan para ponerles freno a los fraudes con IA.
La pregunta personal: el factor que salvó a Ferrari
El mismo año que se dio el ataque contra Arup también se produjo un caso similar en Ferrari. Un alto directivo recibió mensajes de WhatsApp de Benedetto Vigna, el conocido CEO de la empresa, en los que le solicitaba el envío discrecional de dinero para cuestiones urgentes.
Como la comunicación le resultó extraña, el funcionario lo llamó por teléfono, al mismo número del que recibía los mensajes. La voz que lo atendió era igual a la de Vigna, con su acento del sur de Italia y sus modulaciones particulares. Confirmaba que, efectivamente, necesitaba la aprobación de unas transacciones.
A continuación, el funcionario dio en la clave. Dio el paso de la esfera profesional a la personal: le hizo un comentario sobre el libro que Vigna le había recomendado algunos días atrás, cara a cara. A eso no hubo ninguna respuesta. Solo un silencio pasmado.
Es que la IA no estaba preparada para sortear ese obstáculo. No tenía información sobre la relación real y humana entre Vigna y el directivo de la empresa. Si Ferrari se salvó, fue por ese límite, cada vez más problemático, que separa la información de la experiencia.
Lo que el empleado de Arup no preguntó y lo que tú puedes preguntar mañana
Los tiempos se han vuelto complicados, en vista de que no es posible fiarse de las imágenes ni de las voces. En efecto, según un estudio realizado en 2024, la tasa humana de detección de deepfakes es del 24,5%. En otras palabras: 3 de cada 4 deepfakes en alta calidad no son advertidos.
El problema no solo afecta a las empresas, sino que escala en todos los niveles de la vida. Un ejemplo demasiado conocido es la manipulación de voz para fingir una emergencia, una estafa que viene desde antes de la IA, y que ahora ha cobrado proporciones nunca vistas. También abundan las campañas que suplantan la imagen de celebridades para promocionar falsas plataformas de inversión, cursillos de éxito con criptomonedas, u otras variantes del fraude financiero.
En todos los casos, ya sea a nivel corporativo o individual, la manera más solvente de detectar un deepfake no es buscando sus errores técnicos, sino apelando al sentido común que mostró el directivo de Ferrari: volver a lo humano. La pregunta personal es invulnerable, no hay sistema técnico que la pueda deducir ni estafador que la sepa adivinar. Es lo que le faltó al funcionario de Arup en Hong Kong.
La pregunta personal como parte del protocolo
Es precisamente lo que se puede proponer a partir de ahora: que todas las transacciones urgentes y los movimientos inusuales estén mediados por una pregunta personal. No como factor de desconfianza, sino como parte del engranaje protocolar.
Es la medida con la que ya se está innovando y que se puede poner a prueba, sin costo, ya mismo en todas las áreas empresariales. Ante la falibilidad de los sistemas más complejos, volver a lo más básico puede representar la solución acertada.
