OpenAI anunció hoy cómo cumplirá con la ley de inteligencia artificial de la UE, que exige a los proveedores de sistemas de inteligencia artificial generativa etiquetar de manera identificable el texto generado por inteligencia artificial. A continuación se presentan los detalles específicos.
En cuanto al contexto, hace unos meses, Anthropic generó controversia al anunciar que, para cumplir con la ley de inteligencia artificial de la Unión Europea, Claude comenzaría a marcar textos mediante ligeros ajustes en su redacción. En resumen, Claude a veces elige entre palabras de significado similar según un patrón oculto; Anthropic afirma que esto no tiene un impacto sustancial en el significado, la calidad o la legibilidad de sus respuestas. Anthropic también ha desarrollado un detector que puede buscar este patrón en los textos y determinar si el texto podría provenir de Claude.
El detector no puede utilizarse para determinar si el texto proviene de OpenAI u otros competidores, ya que la marca de agua de Claude se genera utilizando una clave secreta exclusiva del sistema de Anthropic.
En medio de la polémica, Anthropic destacó que Claude no está solo, señalando que otros importantes proveedores de inteligencia artificial también están implementando sistemas de etiquetado para cumplir con los requisitos de la Unión Europea. Hoy, OpenAI anunció su propia solución, aunque utiliza un enfoque similar, su alcance y escala son relativamente limitados.
OpenAI añadirá marcas de agua a ChatGPT y Codex en las próximas semanas
Según OpenAI, "los clientes de API en todo el mundo podrán optar por habilitar marcas de agua de texto para modelos seleccionados", y la compañía "agregará marcas de agua invisibles a las salidas de texto de ChatGPT y Codex elegibles en las próximas semanas", lo que significa que actualmente la marca de agua de texto en la API sigue desactivada por defecto, y en cuanto a ChatGPT y Codex, inicialmente estará limitada a los usuarios elegibles de la Unión Europea.
OpenAI también ha abierto la solicitud de acceso a su detector de marcas de agua en texto, inicialmente limitado a investigadores y organizaciones profesionales aprobadas, a medida que la empresa evalúa y mejora la tecnología. En cuanto a la precisión, OpenAI ha dejado claro que la tecnología de detección aún presenta limitaciones significativas, pudiendo generar falsos negativos y falsos positivos, especialmente en textos más cortos o en contenidos de campos específicos, "por ejemplo, matemáticas, debido a la menor flexibilidad en la elección de palabras."
OpenAI mencionó su tecnología de marca de agua de texto textGrain, que añade una señal estadística invisible a las palabras del modelo. Los detectores buscan esta señal para evaluar si un texto contiene la marca de agua de OpenAI. Más detalles sobre cómo funciona textGrain se pueden encontrar en nuestro informe técnico, que se actualizará en las próximas semanas con más información. También planeamos hacer que esta tecnología sea de código abierto, para que otros puedan desarrollar sobre ella.
La compañía también señaló que, además de ser más difícil de detectar en párrafos más cortos, la edición puede debilitar significativamente las marcas de agua: al evaluar 400 párrafos marcados, sustituir el 10% de las palabras por sinónimos hizo que la tasa de detección cayera del 92% al 66%. Y tras reemplazar el 25% de las palabras, la tasa de detección se redujo al 17%. Curiosamente, la comparación de OpenAI entre textos con y sin marca de agua mostró que la salida con marca de agua en varias pruebas de referencia en realidad obtuvo puntuaciones ligeramente más altas, aunque la compañía indicó que no se encontraron diferencias significativas en el rendimiento general.
Referencia Texto sin marca de agua (Astra, max) Texto con marca de agua (Astra, max) Índice de inteligencia artificial analítica 49.57 puntos 49.76 puntos Referencia de automatización 34.09% 34.86% DeepSWE v1.1 72.80% 71.68% Referencia de terminal 4.0 53.90% 56.06% Ciencia de referencia de terminal 0.1 56.90% 60.00% BrowseComp 87.92% 87.35%
OpenAI también enfatizó que, además de las deficiencias de falsos positivos y falsos negativos, la marca de agua "no mide la contribución humana", "no establece propiedad o responsabilidad", "no identifica a los usuarios" y "no verifica la precisión". OpenAI añadió que "la falta de detección de la marca de agua no prueba que sea creación humana". Finalmente, la empresa declaró que, a medida que la tecnología, los estándares y las evidencias evolucionen, espera revisar su enfoque, mientras continúa investigando si la marca de agua puede sobrevivir mejor en la edición y la traducción, así como si puede diferenciar de manera más significativa entre la asistencia de inteligencia artificial y la creación de inteligencia artificial.
Leer el artículo original en techritual.com (chino tradicional) →
The TechRitual editorial desk in Hong Kong. Articles on TechRitual World are translated from the Traditional Chinese originals on techritual.com.