Woodrow Wilson Bledsoe (1921-1995) fue un brillante informático, educador y matemático norteamericano, que dedicó mucho de su tiempo a la detección de patrones con las herramientas de la inteligencia artificial. En 1960 hizo las primeras pruebas de reconocimiento facial. He querido recordar este dato para señalar a los lectores que los métodos de identificación biométricos no son tan recientes como podría pensarse.
Casi seis décadas más tarde se ha alcanzado un punto en que las tecnologías del reconocimiento facial se utilizan para acceder a edificios y despachos, desbloquear el ordenador o el móvil, pedir una pizza, cuantificar la asistencia al trabajo, retirar dinero de un cajero, gestionar un crédito o pagar la mensualidad de la hipoteca. Con la ayuda de cámaras igualmente sofisticadas, es posible, por ejemplo, contar el número de pequeños lunares que una persona tiene en su rostro o medir la densidad de su cabellera. Huelga decirlo: estas tecnologías tienen, además, usos que la inmensa mayoría de los ciudadanos celebran: permiten la identificación de terroristas, pederastas y otros delincuentes.
Un factor que apenas se considera es el aporte gratuito de información que los usuarios hacen constantemente a los sistemas de identificación facial: cada 24 horas, más de 350 millones de fotografías etiquetadas son compartidas en las redes sociales. En reportajes publicados sobre la materia se añade este dato fundamental: Facebook y Google han generado logaritmos con una capacidad de identificación que sobrepasa la tasa de 95% de éxito.
Ahora mismo los esfuerzos están dirigidos a lograr que los usos de la inteligencia artificial alcancen capacidades predictivas. Microcámaras instaladas en la cabina de los vehículos pueden advertir al conductor sobre su cansancio o sobre su falta de concentración en la vía. Están en camino proyectos de empresas reclutadoras para producir tecnología que contribuya a cribar entre mejores y peores prospectos –hay ONG que se han declarado en contra de estos anuncios–. Lo mismo en el campo de la medicina: se está avanzando en detectores que, a partir de un retrato, puedan establecer un primer diagnóstico del paciente. Aunque parezca un cuento de ciencia ficción, una empresa israelí ha anunciado que tiene en desarrollo una tecnología de análisis facial que permite detectar a pederastas y terroristas.
Normalmente las personas solo facilitamos nuestros retratos para fines de identificación, a las autoridades. Pero no somos conscientes de que las tecnologías de reconocimiento facial pueden tener otros peligrosos usos, tal como está ocurriendo en China, donde se utilizan para monitorear las conductas, incluso las conductas políticas, de los ciudadanos.
Un software que lleva el elocuente nombre de Face++ se ha convertido en el instrumento con que el gobierno está avanzando hacia el control absoluto de la sociedad china. Más de 1.000 millones de rostros, del total aproximado de 1.400 millones que conforman la población de China, ya han sido registrados. Para reunir semejante cantidad de datos no solo han contado con el sorprendente número de 20 millones de cámaras desplegadas en ciudades, pueblos y vías del territorio, sino que han sumado los datos aportados por 8 grandes empresas –entre ellas Sesame Credit, que pertenece a Alibaba, el rival de Amazon–, que en ese país registran a sus clientes no con la huella digital o el iris, sino con un escaneo del rostro. Existen cámaras digitales, para uso en las calles, que tienen la asombrosa capacidad de registrar e identificar a 120 personas por segundos.
El gobierno ha creado un sistema de puntaje de la confiabilidad de los ciudadanos que sintetizará en calificaciones las conductas familiares, comunitarias, académicas, laborales, políticas, legales y otras. En Rongcheng, ciudad portuaria que está ubicada al borde del mar Amarillo, cuya población supera los 670.000 habitantes, está en curso una prueba piloto. Las personas arrancan con una calificación de 1.000 puntos. Ese puntaje puede ir bajando como consecuencia de las infracciones de tránsito, comentarios críticos al poder en las redes sociales, quejarse de la situación del país en lugares públicos, retrasarse en el pago de un crédito, incumplir con las obligaciones familiares o cometer cualquier tipo de delito.
Quienes pierdan puntos de forma recurrente pronto comenzarán a pagar las consecuencias: perderán oportunidad de conseguir un empleo, de lograr el acceso de los hijos a las escuelas, se les impedirá conseguir un crédito o cualquier otro apoyo del Estado. Estos castigos creados por el Partido Comunista de China no se limitarán a la persona, sino que se extenderán a hijos y nietos. En otras palabras, la vigilancia digital tendrá como consecuencia la estigmatización individual y familiar. Con el argumento –la excusa– de reducir o evitar la acción de la delincuencia, el objetivo es alcanzar este extremo: que toda acción, movimiento, encuentro, compra y diligencia quede registrado, es decir, bajo la vigilancia y el control del Partido Comunista. La reputación, desde la perspectiva del poder totalitario, se actualizará en tiempo real. Quien quiera mejorar los puntos perdidos tendrá que someterse a unas penitencias o castigos que les serán impuestos. La vida se transformará en una lucha por mantenerse dentro de un puntaje.
Pero este no es el único inminente peligro que se cierne sobre la sociedad china. En la Región Autónoma de Uigur de Sinkiang –Xingiang en la lengua mandarín–, que tiene fronteras exteriores con siete países, y donde la etnia uigur supera el 45% de la población, las autoridades obligan a la totalidad de los propietarios de teléfonos inteligentes a instalar una aplicación de nombre Jinwang, que permite a las autoridades revisar la lista de contactos, los chats, las búsquedas en Internet, las fotografías y videos almacenados y cualquier otra información contenida en el aparato. En otras palabras: a través de Jinwang, el Estado se apropia de los móviles de sus propietarios. Quien se niegue a instalar la aplicación es encarcelado. Periodistas expertos en la política china han señalado que la operación es producto del crecimiento que están experimentando en la región las posiciones y movimientos separatistas.
Con las herramientas de la vigilancia digital –que ahora mismo están viviendo un acelerado proceso de expansión– China lidera la más ambiciosa operación de control social del planeta. Derechos democráticos fundamentales como el derecho a la privacidad, al libre movimiento, a proteger la reputación, al trabajo, a la educación y otros serán reducidos o negados, con el recurso descomunal de las tecnologías digitales. La pesadilla anticipada por Orwell está en proceso con los instrumentos creados por la inteligencia artificial.
El que esta operación esté ocurriendo debe encender las alarmas de los demócratas del mundo. En muy poco tiempo estas tecnologías pueden implantarse en otros países. Así como son generadoras de inmensos e indiscutibles beneficios, las nuevas tecnologías en manos de poderes que aspiran al control total e ilimitado de los ciudadanos constituyen un riesgo indiscutible para el futuro próximo de las democracias. A los demócratas del planeta corresponde poner en movimiento un nuevo campo de lucha: vigilar a los promotores de la vigilancia digital.