CHINA EXIGE ETIQUETA OBLIGATORIA EN TODOS LOS CONTENIDOS GENERADOS POR IA (INCLUIDAS LAS EMPRESAS EXTRANJERAS)

Publicado en Il Sole 24 Ore

La etiqueta de certificación de IA es obligatoria porque Beijing exige por ley que se indique los productos generados por inteligencia artificial. 

Parece una paradoja, pero la medida de China desplaza otras legislaciones globales, arriesgándose a allanar el camino para la regulación global desde una perspectiva antifraude y para proteger los derechos de propiedad intelectual.

Geoffrey Hinton, el padre de la IA, puede haber tenido razón una vez más al profetizar que China manejará los efectos impredecibles de la inteligencia artificial. Mientras las armas mejoradas con IA desfilaban en Tiananmen, Beijing, en un movimiento que fue inquietante para otras legislaciones, incluida la Ley Europea de IA que lo prevé solo para deepfakes, acababa de introducir hace unas horas con una ley muy sucinta la obligación generalizada de marcar los productos de inteligencia artificial con una etiqueta específica.

Una obligación generalizada

De hecho, esta novedad se aplica a todos los contenidos generados por IA en todas las plataformas en funcionamiento para combatir la desinformación, el fraude y las violaciones de la propiedad intelectual independientemente -y este es el punto- del nivel de peligro.

Una obligación que se aplica a todos, incluidas las empresas extranjeras activas en territorio chino gracias a la cláusula de extraterritorialidad, que Beijing ahora introduce por defecto cuando se aprueba cada nueva ley. Las multinacionales que interactúan de alguna manera con China no tienen márgenes, Meta, Google tienen que adaptarse, lo que creará problemas de costos y reglas del juego global.

El papel del CAC

La Administración del Ciberespacio de China (CAC) y la base de la síntesis profunda de 2023 (conocida como Deep Synthesis rules) tiene como objetivo frenar el fraude, las noticias falsas y las violaciones de la propiedad intelectual en la era de la inteligencia artificial generativa.

Porque los efectos secundarios de la IA también preocupan al gobierno chino que, sin embargo, se ha movido rápidamente a su manera. China también teme a la IA y no a partir de hoy, la elección no surge de la nada, sino que se basa en la última legislación china que la posiciona como una fuerza impulsora en la gobernanza de la inteligencia artificial, lo que podría influir en los estándares globales. Las directivas del CAC profundizan la supervisión del gobierno, lo que refleja las preocupaciones sobre el papel de la IA en la piratería en línea y la manipulación social. Por lo tanto, la necesidad de control se convierte en un instrumento para la protección del sistema.

Cómo funcionan los controles

Las nueve reglas establecen que los creadores de contenido y las plataformas deben aplicar etiquetas visibles, como marcas de agua o mensajes de texto, en lugares destacados, junto con metadatos ocultos. Los generadores de contenido de IA, los proveedores de servicios, las plataformas y los usuarios son responsables del etiquetado.

Deben verificar las etiquetas antes de publicar y marcar el contenido de IA sin etiquetar. Una norma nacional que acompaña a las medidas describe los métodos técnicos para incorporar metadatos, garantizando la interoperabilidad entre varios sistemas.

Los marcadores explícitos e implícitos para texto, imágenes, audio, video y escenas virtuales servirán para combatir la desinformación y mejorar la transparencia digital.

Los inevitables problemas críticos

Dicho y hecho, Weibo y Douyin (TikTok chino) han actualizado rápidamente sus sistemas para hacer cumplir estas reglas, y el incumplimiento corre el riesgo de multas o la eliminación de contenido. Lo mismo ocurre con Tencent y ByteDance.
Douyin implementó algoritmos de detección de IA para escanear cargas, marcando posibles violaciones en tiempo real.

Esta ola de cumplimiento se extiende más allá de las redes sociales a los sitios de noticias y comercio electrónico, donde las imágenes o artículos de productos generados por IA ahora deben contener descargos de responsabilidad. Entonces, si bien la Ley de IA de la UE requiere la divulgación solo para deepfakes, el enfoque chino es general.

Obviamente, el riesgo de un mayor control estatal sobre el flujo de información, ya presente desde hace tiempo, podría aumentar especialmente porque los controles se confían a la propia CAC.

Sin embargo, el modelo chino ya está ahí y podría inspirar leyes similares en otros lugares, en nombre de la lucha contra la desinformación de la IA. La transparencia para los chinos ya no es opcional, sino que está incorporada al sistema.