Ante la oleada de contenidos falsos creados con IA, ya existen agencias que se encargan de borrar deepfakes de famosos. El principal ejemplo es Loti AI, con sede en Los Angeles, que cobra un mínimo de 3.000 euros al mes. Surge un nuevo negocio a la luz de los problemas modernos.

Los deepfakes de famosos se utilizan incluso en campañas políticas de fakenews.
Borrar deepfakes ahora es un servicio del mercado
El desarrollo de la IA ha llevado a una nueva etapa de la realidad digital, en la que cuesta diferenciar cada vez más los contenidos verdaderos de los falsos. En particular, los deepfakes de famosos han cobrado una gran centralidad, ya que su imagen tiene una fuerte tracción en las redes.
Este problema para la reputación ha dado lugar a un negocio floreciente: el de rastrear y borrar los deepfakes que aparecen en línea. Se trata de un servicio encarnado principalmente por la agencia Loti AI, con sede en Los Angeles, pero de rápida expansión en todo el mundo.
Puntualmente, la empresa estadounidense cobra una tarifa mínima de 3.000 euros al mes para eliminar deepfakes. Entre sus clientes, que ya superan los 20.000, no solo hay celebrities, sino también políticos, directivos empresariales y oficiales de las fuerzas armadas. Se trata, en efecto, de una preocupación compartida por varios sectores.
Loti AI tiene apenas dos años de existencia y fue fundada por Luke Arrigoni en respuesta a las campañas de deepfakes con famosos que se hicieron masivas en Estados Unidos. Según se ha dado a conocer, la agencia rastrea unas 600 millones de muestras de contenido por día, que incluyen fotografías, videos y audios.
El tiempo de detección resulta ser uno de los factores determinantes. La empresa indica que, si no se consigue eliminar un deepfake en sus primeros tres días de ruedo, el daño podría ser irreparable. Es que la información vuela a una velocidad nunca vista, y la línea que separa contenidos verdaderos de los falsos es cada vez más delgada…, y menos relevante para los usuarios.
Si bien la iniciativa surgió en Los Angeles, también hay agencias similares en otros países. Por ejemplo, en España existen empresas con servicios similares. La diferencia es que no cobran una tarifa mensual, sino un precio cercano a los 400 euros por pieza eliminada. Y reportan que, entre todas las redes, X es la más complicada para retirar contenidos falsos.
Más allá de los anuncios falsos con famosos
Los deepfakes pueden tener una miríada de utilizaciones. Por ejemplo, en las recientes campañas electorales de medio término de EE.UU., se vio un sinfín de videos falsos en los que los famosos llamaban a votar a uno u otro partido. El hecho de que, posteriormente, una cuenta oficial rectifique la información ya no parece ser suficiente: el daño queda hecho.
Pero además existen estafas que se valen de la voz y la imagen de famosos para convencer a la audiencia. Ejemplos sobran. Cabe recordar que, el año pasado circulaba en España un discurso de Florentino Pérez en el que invitaba a invertir en una plataforma de inversión sin licencia de la Comisión Nacional del Mercado de Valores (CNMV). Claro está, tanto el video como la plataforma eran falsos.
Aun más: según el informe State of the Deepfake del año 2023, el 98% de los casos son de utilización pornográfica. Es decir: apps para desnudar personas, o para cambiarles partes de sus cuerpos. Y el 99% de las víctimas en esos casos son mujeres. Un dato duro que muestra la tendencia de género en la violencia digital.
Cómo detectar un deepfake
Los informes técnicos indican que hay algunas variables que, a ojo descubierto y sin herramientas específicas, permitirían detectar un deepfake. Por ejemplo: un parpadeo irregular en los bordes del rostro, un tono de piel demasiado ceroso, inconsistencias entre el comienzo del cabello y límite de la frente, entre otras. También se llama la atención sobre los reflejos y las sombras, que muchas veces no se condicen con la iluminación del ambiente.
Sin embargo, el avance tecnológico es tan grande que ni siquiera se puede confiar en esas variables. El sentido común serviría como factor diferencial: ¿un video de Leonardo DiCaprio invitándote a votar por un partido político? ¿Elon Musk ofreciéndote dinero en una inversión? Pues ya con enunciar los casos empieza a notarse que están lejos de la realidad.