Escrito por: Jerónimo Corregido
Anthropic anunció que aplicará la marca de agua en su IA para ajustarse al Código de Buenas Prácticas de la UE. Se trata de una firma estadística en las elecciones de palabras de Claude, que se vale de una clave criptográfica. No se ve a simple vista y no añade caracteres.
La marca de agua en la IA busca generar más transparencia en los textos.
Marca de agua en la IA: un paso rumbo a la transparencia
El mes pasado Anthropic anunció que crearía una marca de agua en su IA, Claude, con el fin de garantizar las pruebas sobre el origen de los textos. No se trata de una marca visible, sino que su naturaleza es criptográfica. Solo se puede detectar con una clave API, que la empresa todavía no ha hecho pública.
La medida se encuadra en el Código de buenas prácticas sobre transparencia de los contenidos generados por IA de la Unión Europea, que fue firmado por Anthropic, OpenAI, Meta y Microsoft, junto con otras 190 organizaciones. Entre sus implicancias, se cuenta la necesidad de que el contenido generado por IA tenga garantías de trazabilidad.
Si bien la normativa es para la UE, Anthropic usará la misma política en todos sus mercados. La empresa decidió implementar la marca de agua sin opt-out, es decir que los usuarios no podrán elegir su omisión. Es una función que está activada por defecto. No afectará la calidad de los contenidos ni tendrá costos para la empresa.
La marca de agua en la IA se diferencia notablemente de otras, como por ejemplo la de Canva, que es visible y marca la propiedad del trabajo. En el caso de Claude, es completamente informática. Representa una firma estadística en las elecciones de palabras, que permite evaluar la probabilidad de que los textos los haya redactado Claude.
Este proceso de detección de texto generado por IA no posibilita la identificación del usuario o la organización, ni tampoco brinda acceso a la conversación de origen. Se supone que, para los usuarios de la herramienta, la marca de agua de Claude no conlleva ningún cambio significativo.
Lo que sí cambiará es que quienes tengan la clave API podrán dirimir cuál es el verdadero autor de un texto. Esto quiere decir que universidades y otras instituciones podrán rastrear la transparencia de los contenidos.
Más sobre el Código de Transparencia de la UE
La nueva normativa de la UE se apoya en el artículo 50 de la Ley de IA, que está vigente desde el pasado 2 de agosto. Allí se establecen cuatro tipos de transparencia:
- Contenido sintético: es lo que atañe a la marca de agua de la IA, que permitirá rastrear cualquier tipo de contenido, sea texto, audio o video.
- Chatbots: los agentes de IA tendrán la obligación de indicarle al usuario que no son una persona real.
- Deepfakes: los videos con suplantaciones deberán contener un aviso visible que indique que fueron realizados con IA.
- Reconocimiento de emociones: si la IA utiliza un sistema de reconocimiento biométrico para detectar el estado emocional del usuario, deberá hacérselo saber de antemano.
Con este tipo de medidas, la UE busca ser pionera en la regulación para la IA. Se trata de una industria que aún no cuenta con normativas claras en ningún lugar, y sus límites se están definiendo día a día.
Brecha de género en la IA desde la adolescencia
En tanto que se avanza en el contexto legal para el funcionamiento de las nuevas tecnologías, se está descubriendo que existe una brecha de género más marcada de lo que hubiera podido suponerse. Un reciente estudio del Centro de Jóvenes Científicos de la Universidad de Qatar encontró que las adolescentes obtienen peores resultados en cursos de IA que sus pares varones.
Esto parece deberse a cierta falta de confianza que afecta el rendimiento. Uno de los motivos apuntados es la falta de referentes mujeres en el mundo de la tecnología. También se indica que las niñas llegan a la IA con menos experiencia previa en entornos digitales que los varones.
