Una obligación legal se vuelve producto
OpenAI confirmó, en un comunicado oficial publicado este lunes, que va a insertar una marca de agua invisible en los textos generados por ChatGPT y Codex dentro de la Unión Europea. La medida responde a una exigencia directa de la Ley de IA del bloque europeo, que obliga a los proveedores de inteligencia artificial generativa a hacer identificable, de forma legible por sistemas automáticos, el texto generado por máquina. En las próximas semanas, los usuarios europeos de los planes pagos y gratuitos de ChatGPT, además de quienes usan Codex, el asistente de programación de la empresa, generarán textos con esa señal incorporada sin notar ningún cambio en la experiencia.
Qué es exactamente el textGrain
La tecnología se llama textGrain y funciona insertando una señal estadística en las elecciones de palabras del modelo: pequeñas preferencias léxicas, invisibles a simple vista, pero detectables por un clasificador de la propia OpenAI. Según la empresa, el textGrain igualó o superó el desempeño de SynthID para texto, la marca de agua de Google DeepMind, en pruebas internas, sin pérdida perceptible de calidad en las respuestas de Astra, su modelo más reciente. OpenAI también afirmó que abrirá el código de la tecnología, un movimiento que podría acelerar su adopción por otros laboratorios y sacar la procedencia de texto del terreno propietario.
Fuera de la Unión Europea, la función es opcional
La parte más relevante para quien usa la API fuera de Europa es que la marca de agua llega apagada por defecto y solo se activa por elección del cliente, en modelos seleccionados. Eso convierte una obligación regulatoria europea en una herramienta de transparencia que desarrolladores de cualquier parte del mundo pueden activar si quieren demostrar el origen del texto que entregan a sus propios usuarios. OpenAI también abrió la convocatoria para que investigadores y organizaciones especializadas accedan al detector, pero dejó claro que el acceso comienza restringido y se evalúa caso por caso, justamente por los riesgos de interpretar mal el resultado.
Los números que la propia OpenAI expone
El comunicado es inusual por admitir, con datos, cuánto falla todavía la tecnología. En textos de 200 tokens, unidades de procesamiento que equivalen aproximadamente a fragmentos de palabras, la tasa de detección ronda el 80%. En textos de 400 tokens sube al 95%, pero cae bastante en contenidos técnicos como matemáticas, donde hay menos libertad para elegir palabras. La edición también destruye la señal rápido: cambiar el 10% de las palabras por sinónimos hace caer la detección del 92% al 66%, y cambiar el 25% la reduce al 17%. La empresa resume el mensaje de forma directa: la ausencia de marca de agua detectada no prueba autoría humana, y su presencia no identifica quién escribió el texto, no demuestra su propiedad ni dice si el contenido es verdadero.
La lectura de MaxAssistant
El texto es el material más difícil de rastrear en toda la producción de IA generativa porque puede reescribirse, traducirse y editarse sin perder sentido, a diferencia de la imagen y el audio, donde los metadatos y las marcas de agua resisten mejor. OpenAI reconoce esa fragilidad al limitar el lanzamiento obligatorio a Europa y mantener al resto del mundo en modo de prueba opcional. Es un movimiento de cumplimiento regulatorio cuidadosamente recortado, no una cruzada voluntaria por la transparencia: la empresa ya tenía otras herramientas de procedencia para imagen y audio desde hace meses, y recién ahora aborda el texto, el frente más difícil y el más presionado por la ley europea.
Fuentes
OpenAI: nuestro enfoque sobre la procedencia de texto en la UE.