Escrito por: Jerónimo Corregido
Luego de que el CEO de Anthropic anunciara su intención de moderar el ritmo del avance, se ha reavivado la discusión sobre los riesgos de la inteligencia artificial. Según los líderes de la industria, la nueva tecnología trae amenazas a gran escala. Mientras tanto, la IA se sigue utilizando para todo tipo de estafas.
Se abre un nuevo debate en torno a los riesgos de la inteligencia artificial.
Voces de alarma en torno al código rojo de la IA
Durante septiembre se ha vivido una etapa crítica en el sector tecnológico, relacionada con la visibilización de los riesgos de la inteligencia artificial, no en el corto alcance, sino en el largo plazo, con efectos potenciales sobre la vida humana. A esta situación de alarma se le ha dado el nombre de “código rojo de la IA”.
El primer eslabón fue la renuncia a Anthropic del ingeniero Jacob Coxon, quien también había trabajado en OpenAI. Según sus declaraciones en redes sociales, existen serias brechas de seguridad en la IA relacionadas con su capacidad de mejorarse a sí misma por fuera de las instrucciones humanas. Esto llevaría a que las empresas perdieran el control sobre sus creaciones.
Lejos de salir a desmentirlo, el propio CEO de Anthropic, Dario Amodei, publicó una carta abierta sobre la cuestión, en la que no solo le da la razón a Coxon sino que profundiza en los riesgos para la civilización. Si bien indica que no hay nada que temer en un plazo inminente, señala que es necesaria una regulación de la IA para asegurar su desarrollo responsable.
Para tal fin, propone tres etapas. La primera, sobre la que Anthropic ya está avanzando unilateralmente, es la integración de evaluadores de distintos sectores. De esta manera se le brindaría mayor transparencia a la investigación. El segundo paso es la coordinación democrática, entendida como la mancomunión de las empresas líderes del sector. El tercero implica la coordinación mundial de gobiernos.
El CEO de OpenAI, Sam Altman, se encolumnó detrás de las ideas de su competidor, y tomó la decisión de postergar la salida a bolsa de la firma, en vista de los riesgos que representa la autoevolución de los modelos de aprendizaje. Las consignas también tuvieron el apoyo de Demis Hassabis, CEO de Google DeepMind, y de Elon Musk, dueño de la red X y su IA Grok.
Caída de los mercados y resistencia de Trump a la regulación de la IA
Tras la convulsión por el código rojo de la IA, los mercados no tardaron en responder. El Nasdaq 100 experimentó una caída del 1,7% en las horas subsiguientes a la carta de Amodei, que se manifestó principalmente en los desplomes de los fabricantes de chips, tales como Sandisk, AMD o Intel, cuyas bajas llegaron hasta el 7%.
En Asia, el principal accionista de OpenAI, SoftBank, tuvo una caída de más del 10%. Otras marcas que vieron fuertes descensos a causa de las declaraciones fueron Samsung, SK Hynix y Kioxia. Varios índices europeos también tuvieron aperturas en rojo, como el caso del Ibex 35.
Por su parte, el presidente de Estados Unidos, Donald Trump, se manifestó en contra de la desaceleración del desarrollo. Su planteo es que, al proponer una regulación de la IA en los países democráticos, se le estaría entregando la primacía tecnológica a China. Una paradoja del siglo XXI: los dueños de las empresas exigen regulaciones, y el Estado se niega a ejecutarlas.
Riesgos reales: inteligencia artificial y fraude
Mientras los pesos pesados debaten sobre el futuro de la tecnología, existen indicadores para prestar atención en el presente inmediato, y tienen que ver con la relación entre la inteligencia artificial y las estafas. Con el desarrollo que ya existe, los delincuentes han podido perfeccionar sus técnicas hasta niveles nunca sospechados.
Desde deepfakes con video hasta clonación de voz, existen decenas de técnicas que se sirven de la IA para atacar a la ciudadanía. No hay que mirar hacia el futuro para percibir que, quienes quedan más expuestos durante las carreras tecnológicas, son las personas comunes y corrientes.
Las defensas contra estos ataques son bastante rudimentarias pero útiles: desconfiar de comunicaciones extrañas, nunca entregar información confidencial por ningún medio telemático y recelar de los mensajes que llaman a la acción urgente.
