OpenAI implementará marcas de agua invisibles en ChatGPT y Codex en la UE

OpenAI anunció que insertará marcas de agua invisibles en los textos generados por ChatGPT y Codex para usuarios de la Unión Europea, en respuesta a las reglas de transparencia del Reglamento de IA de la UE. La medida se aplicará en las próximas semanas a todos los planes del chatbot en la región.

Cómo funciona la marca invisible

La tecnología se llama textGrain y añade una señal estadística imperceptible en la elección de palabras que hace el modelo al redactar un texto. Un detector propio de OpenAI puede luego analizar un fragmento y estimar si fue generado con sus sistemas. El acceso al detector permanece desactivado por defecto y queda a criterio de cada desarrollador.

Por qué importa

El Artículo 50 del Reglamento de IA de la UE exige que los resultados sean identificables por máquinas. Esa obligación de transparencia empezó a regir el 2 de agosto de 2024. OpenAI no es la primera en responder a esa norma; Anthropic había introducido marcas de agua invisibles para Claude menos de dos meses antes, y optó por aplicarlas en todo el mundo desde el lanzamiento.

Qué puedes hacer

Los clientes que usan la interfaz de programación (API) en cualquier país del mundo pueden activar esa marca de manera opcional para determinados modelos. OpenAI abrió una convocatoria para que investigadores y organizaciones especializadas soliciten permiso de uso, en línea con el Código de Prácticas de la Unión Europea sobre transparencia de contenido generado con inteligencia artificial, que la compañía firmó en junio.

Detalles técnicos

Un informe técnico publicado el mismo día, firmado por investigadores de OpenAI junto a académicos de la Universidad de Pensilvania y la Universidad de Yale, detalla el método matemático detrás de textGrain y sus resultados de laboratorio. Con una tasa de falsos positivos fijada en apenas 1%, el detector identificó la marca en alrededor del 80% de los fragmentos de 200 palabras evaluados y en cerca del 95% de los fragmentos de 400 palabras, usando como prueba textos de divulgación general.

El propio informe admite que la marca se degrada rápido si el texto se edita. Al reemplazar el 10% de las palabras de un fragmento por sinónimos, la detección bajó de cerca de 92% a 66%; al reemplazar el 25%, cayó a apenas 17%. OpenAI aclaró además que una marca detectada no permite identificar a qué usuario, cuenta o conversación pertenece el texto.

La compañía dijo que no observó diferencias relevantes de calidad en las respuestas de su modelo más reciente, Astra, al comparar las versiones con y sin la marca activada, de acuerdo con las pruebas internas que usa habitualmente para evaluarlo.

OpenAI adelantó que planea publicar más detalles técnicos y eventualmente liberar textGrain como herramienta de código abierto. La compañía ya ofrecía verificación pública de procedencia para imágenes y audio a través de su sitio openai.com/verify y de una interfaz de programación dedicada, herramientas que según la empresa seguirán disponibles sin cambios.

Con información de infobae, MuyComputer y BleepingComputer.