Escrito por: Jerónimo Corregido
Los nuevos descubrimientos muestran que se pueden manipular los resultados de la IA mediante frases breves en foros o blogs, aun cuando no tengan respaldo. Este proceso de “envenenamiento” de la web tiene el objetivo de influir sobre lo que se visibiliza en los chatbots durante las búsquedas.
El nuevo sistema permite manipular los resultados de la IA con frases cortas.
¿Realmente se pueden manipular los resultados de la IA?
La respuesta concisa es que sí, efectivamente se pueden manipular los resultados de la IA. Así lo indica un reciente estudio realizado por académicos de Cornell Tech (EE.UU.) y reportado en El País. En resumidas cuentas, la confianza que la IA tiene en el contenido de los usuarios sería el punto débil para influir sobre lo que muestra.
El descubrimiento fundamental es que los agentes de investigación profunda, como STORM o Co-STORM, recurren repetidamente a artículos de Reddit o Wikipedia, u otras páginas basadas en contenido de usuarios. Apenas una frase con información relevante sobre algún tema bastaría para manipular una búsqueda con IA.
Se trata de un proceso que los expertos describen como el pasaje del SEO al GEO. El SEO (search engine optimisation) corresponde a la optimización de páginas web para que aparezcan primeras en los resultados de motores de búsqueda. La técnica requiere de colocar links, adecuar el sitio a las expectativas de Google y utilizar palabras clave que faciliten su circulación.
El GEO (generative engine optimisation), en cambio, responde a la adaptación del contenido en función de aparecer en las búsquedas con IA. Es decir: es el intento de que un chatbot releve, compendie y muestre la información de la propia página web. En otras palabras, se trata de seducir o convencer a la IA.
Esta idea de manipulación surge a partir de que las búsquedas de IA fagocitaran los típicos resultados de los motores de búsqueda. Hoy en día, el Modo IA de Google, que se aplica por defecto en el navegador, permite resumir la información sin necesidad de ingresar en ninguna página web. Con esto, los servidores han perdido su tradicional volumen de tráfico.
La legitimación de las reseñas falsas online
El problema que surge a partir del pasaje al GEO es simple de definir. Si las páginas de productos y servicios legales pueden instalarse en las búsquedas de IA a través de comentarios online, el mismo procedimiento puede ser implementado por estafadores y webs clandestinas.
Uno de los ejemplos más claros es el de los brókers falsos. El Modo IA podría sugerir alguna página sin licencia, si recoge comentarios positivos de supuestos usuarios en blogs y foros. La vieja estratagema de la manipulación de reseñas ahora tiene efectos concretos sobre las búsquedas.
Lo mismo sucede con los casinos online falsos, que vienen aplicando distintas tácticas para pasar por legítimos desde hace décadas. Ahora, con el traspaso del SEO al GEO, la manipulación de reseñas podría funcionar para mucho más que como un simple anzuelo para incautos.
De hecho, las búsquedas con IA podrían recomendar casinos sin licencia si encuentran comentarios positivos, redactados de manera clara y concisa. En ese sentido, las reseñas no serían opiniones independientes, sino que corresponderían al efectivo “envenenamiento” de la web.
En semejante escenario, las búsquedas por internet podrían comenzarse a llenar de estafas disimuladas. Los comentarios de usuarios no brindan garantías sobre la identidad de la persona que los redacta, ni sobre la veracidad de la información. Sin embargo, dado que están escritos en tercera persona y brindan contenido detallado, suelen aparecer primeros entre las búsquedas, y por eso cobran relevancia para la IA.
Si en la clásica estructura del SEO era necesario conseguir enlaces hacia el propio sitio web, en la lógica del GEO solo hacen falta menciones. No solo valen aquellas que aparezcan en textos, también se contabilizan las menciones en videos, incluso si son en otras lenguas. Se abre un nuevo paradigma en el marketing digital, signado por la presencia de la IA, y con menos garantías de seguridad que nunca.
