Los diálogos con la inteligencia artificial comienzan por la mañana en Pekín. Aquí, un altavoz conversacional: "Xiaodu, ¿puedes decirme qué tiempo hace hoy?”. Respuesta: "Hace un poco menos de frío que ayer, con lluvia ligera y 30 grados en el termómetro". Nuestro estilo de vida hiperconectado, con acceso al transporte, a nuestros hogares y a los pagos electrónicos, significa que la inteligencia artificial está produciendo montañas de datos en China, tanto imágenes como sonidos.
Sonría, ¡lo están escuchando! RFI estuvo en Security China 2023, la exposición internacional para profesionales chinos de la seguridad pública. Una empresa nos habló de los micrófonos de vigilancia en lugares públicos.
"De hecho, funciona por palabras clave e identificación de voz. Si el sistema oye que alguien se cae al suelo o que alguien llama a la policía en medio de una multitud, transmite inmediatamente la información al centro de control. Lo mismo ocurre si oye ‘ladrón’, por ejemplo. De momento, el sistema sólo funciona con conversaciones en mandarín”, explica el representante de la compañía a RFI.
Seguimiento de individuos perdidos entre la multitud
El representante de ventas de este fabricante de herramientas de vigilancia no nos habló de otras palabras clave, términos sensibles que pueden añadirse para una vigilancia más política. La inteligencia artificial integrada en las cámaras de reconocimiento facial, los controles y la nube del aparato de seguridad pública permite rastrear a individuos incrustados en la masa. Es el llamado sistema "una persona, un archivo", desarrollado desde 2016 por decenas de empresas chinas presentes en la feria de seguridad y que colaboran estrechamente con el Gobierno.
La inteligencia artificial también puede utilizarse para mejorar la higiene, afirma otro expositor. "Este dispositivo está pensado sobre todo para vigilar colegios y residencias de ancianos. Primero se captan imágenes con cámaras y luego se utilizan algoritmos para identificar situaciones anómalas. Ya está. ¡Esa persona en la cocina no se ha cubierto el pelo! Hay alguien fumando en la esquina. Y por aquí pasa un gato, un perro o una rata".
La inteligencia artificial está en alerta, saltan las alarmas o, por el contrario, ante ciertas preguntas, los robots callan. "¿Qué pasó el 4 de junio de 1989?” [matanza de la plaza de Tiananmen de Pekín]. Dice que no lo sabe. La amnesia de los robots conversadores chinos sigue los contornos de la censura oficial. Pero eso no se aplica a ChatGPT, cuya extrema libertad preocupa a las autoridades chinas. Yu Yang es profesor adjunto del departamento de Inteligencia Artificial de la prestigiosa Universidad de Tsinghua.
"Personalmente, soy partidario de no dejar entrar a ChatGPT en China, porque sería un problema para la seguridad de los datos nacionales. En términos más generales, todos los algoritmos de inteligencia artificial deberían auditarse antes de su uso comercial. Hay que comprobar siempre su impacto social. Así que necesitamos auditorías para todas las formas de inteligencia artificial utilizadas en empresas públicas, pero también para el sector privado, en particular el de servicios”.
Esta auditoría sistemática se menciona en un proyecto de ley revelado el mes pasado. Las herramientas de inteligencia artificial deben reflejar los "valores socialistas fundamentales", afirmó el presidente chino, al tiempo que pedía un mayor control del Estado chino sobre la IA. "Debemos prepararnos para lo peor (...) para poder resistir vientos fuertes, aguas agitadas y tormentas peligrosas", dijo Xi Jinping citado por la agencia China News.
El anuncio de controles más estrictos también tiene un efecto disuasorio. Los chinos no saben si están siendo vigilados, y la incertidumbre les hace más obedientes, creen los diseñadores del sistema.
Corresponsales de Radio Francia Internacional (RFI) en Pekín