OpenAI anunció este lunes que comenzará a añadir una marca de agua invisible al texto generado por ChatGPT y Codex en la Unión Europea (UE) para cumplir con la Ley de IA de ese conjunto de países. Las normas de transparencia de la Ley de IA de la UE , que entraron en vigor el pasado 2 de agosto, exigen que las empresas de IA marquen el contenido generado por IA de forma que otros sistemas puedan identificarlo.
Las marcas de agua que conocemos son textos o imágenes que se insertan en ciertos contenidos para identificar su provenencia, pero que no impiden percibir claramente el contenido principal. En el caso de la marca de agua usada por OpenAI, no se trata de un símbolo especial, sino que funciona modificando sutilmente la selección de palabras del modelo, dejando un patrón invisible para el lector, pero detectable por un detector.
En el blog de OpenAI se explica que su método, denominado textGrain, usa una clave secreta para ordenar las predicciones de la siguiente palabra y completar la oración. Al combinar cientos de estas sugerencias, el detector puede identificar contenido generado por IA utilizando únicamente el texto y la clave.
OpenAI usará textGrain solo en la Unión Europea a modo de prueba en condiciones reales, y es posible qie su uso se extienda posteriormente a otras regiones. No obstante, cualquier cliente que use la API de OpenAI puede activar esta huella estadística, sin importar dónde esté.
