Regulando al Gran Hermano

La Comisión Europea quiere limitar el uso de las cámaras de reconocimiento facial en espacios públicos como los que se emplean ya de manera habitual en China. Allí, el Gobierno de Xi Jinping​ lleva años instalando por las principales ciudades del país un extenso y sofisticado sistema de video vigilancia enlazado con un ordenador central que, mediante la monitorización continua de la calle, reparte premios y castigos entre la población. Al régimen chino el sistema también le sirve para identificar manifestantes y proceder luego a su detención. En las protestas que se produjeron en Hong Kong el año pasado los manifestantes iban embozados o cubiertos con paraguas con la intención de dificultar el trabajo de las cámaras que son ubicuas en la ciudad y tras las que no necesariamente siempre hay un ser humano. Las cámaras con reconocimiento facial han avanzado mucho en los últimos años. Hoy es común que desbloqueemos nuestro teléfono tan solo con mirarlo. Eso, que puede ser muy cómodo porque nos evita tener que introducir una contraseña, tiene grandes riesgos si esas mismas cámaras se colocan en la calle y, una vez conectadas entre ellas, se procesan sus datos con intención de controlar el comportamiento de los transeúntes individualizados.

Algo distópico que hasta hace no mucho tiempo veíamos sólo en las películas de ciencia ficción, pero que con la tecnología actual es posible poner en práctica

Muchos son los que temen que después del chino otros gobiernos del mundo se inspiren en el sistema y lo implementen a su manera. De ser así nos encontraríamos ante la dictadura perfecta. Tendríamos un policía en cada esquina vigilando todos nuestros movimientos, un policía robótico que sabría si hemos arrojado una colilla al suelo o si hemos cruzado una calle por donde no debíamos y nos podría multar en el acto o, como sucede en China, quitarnos puntos de una suerte de carné de ciudadano. Algo distópico que hasta hace no mucho tiempo veíamos sólo en las películas de ciencia ficción, pero que con la tecnología actual es posible poner en práctica a un coste asumible por casi cualquier Estado.

Eso mismo es lo que quiere evitar la Comisión Europea y ya de paso convertir su regulación en algo que se aplique en todo el mundo. A lo largo de la última década la Unión Europea se ha convertido en el principal impulsor de nuevas regulaciones destinadas a limar los excesos de las grandes empresas tecnológicas y frenar los peligros potenciales de las nuevas tecnologías. Ahí tenemos el famoso RGPD (Reglamento General de Protección de Datos) europeo que entró en vigor en 2018 y que en sólo tres años se ha convertido en el estándar que de una manera oficiosa se aplica en todo el mundo.

Inteligencia artificial

Tiene lógica que así sea. Las grandes corporaciones tratan de ahorrarse trabajo. Presentan sus productos y servicios cumpliendo la normativa más exigente, que suele ser la europea y cubren así todos los mercados. Es lo que se ha dado en llamar “efecto Bruselas” que muchos temen y otros esperan como agua de mayo. Eso mismo es lo que ha sucedido con la regulación sobre inteligencia artificial, algo que se venía anunciando desde hace tiempo pero que la Comisión no se animaba a presentar. Lo hizo la semana pasada con gran expectación ya que delimitará el sendero por el que discurra la emergente industria de la inteligencia artificial durante los próximos años.

Los sistemas de inteligencia artificial son algo realmente novedoso a pesar de lo resbaladizo e impreciso del término. En cierto modo son algo así como el poste móvil de una portería. Nuestros teléfonos hacen cosas que se hubieran considerado inteligencia artificial hace solo veinte años. La capacidad y la velocidad de proceso de las computadoras se ha disparado. Pueden ir aprendiendo sobre la marcha mediante algoritmos, es decir, que no se limitan a seguir una rutina previamente establecida por el programador. Esto pone sobre la mesa una serie de cuestiones éticas. ¿Qué pasaría si esos algoritmos terminan discriminando a ciertos grupos de personas o si tratan de manipular nuestro comportamiento mediante imágenes o recomendaciones de voz? El asunto, como vemos, no es para tomárselo a broma. No aceptaríamos, por ejemplo, que un vigilante que nos pide la documentación al entrar en un edificio cruzase datos y supiese en el acto no ya quiénes somos, sino todo lo que hemos hecho, donde hemos estado y con quién a lo largo de los últimos años.

Como todo es tan nuevo no hay legislación previa en la que basarse. La Comisión ha tenido que empezar desde abajo. Un grupo de 52 expertos en la materia consultó a las empresas que se dedican al desarrollo de sistemas de inteligencia artificial y publicó un libro blanco que se colgó en la red para recibir comentarios de gente interesada en el tema. Así es como ha nacido la propuesta. El resultado es un documento largo, de más de cien páginas con 85 artículos y nueve anexos que trata, por un lado, de mitigar el daño que puede ocasionar el uso de la inteligencia artificial y, por otro maximizar las oportunidades que se presentan en torno a ella.

El reconocimiento facial y la calificación crediticia al estilo chino se consideran de “alto riesgo” y, por lo tanto, estarían sujetos a reglas muy estrictas en cuanto a transparencia de datos

En lugar de regular todas las aplicaciones de la inteligencia artificial, que pueden contarse por millares, la regulación comunitaria se concentra en las más arriesgadas. Algunos usos, a los que se ha denominado como de “riesgo inaceptable”, quedarían completamente prohibidos. Es el caso de los servicios que se valen de técnicas subliminales para manipular nuestro comportamiento y llevar, por ejemplo, a que nos autolesionemos. Otros como el reconocimiento facial y la calificación crediticia al estilo chino se consideran de “alto riesgo” y, por lo tanto, estarían sujetos a reglas muy estrictas en cuanto a transparencia de datos. Al igual que con la RGPD, las sanciones serían muy duras: hasta 30 millones de euros o el 6% de la facturación mundial, lo que a una empresa del tamaño de Facebook le supondría una multa de unos 5.000 millones de dólares.

Pero el diablo está en los detalles. El reconocimiento facial con el propósito de hacer cumplir la ley en lugares públicos está prohibido, pero solo si se hace en tiempo real y siempre que no medie el "interés público" como encontrar niños desaparecidos, prevenir una amenaza terrorista inminente o, en palabras de la propia Comisión “para detectar, localizar, identificar o enjuiciar a un perpetrador o sospechoso de un delito grave”. Como vemos se guardan un as en la manga porque el Gobierno decidirá cuándo se dan esos supuestos excepcionales. ¿Se consideraría, por ejemplo, de “interés público” identificar y multar a quienes no llevan mascarilla o están en la calle durante el toque de queda nocturno? Eso queda a la entera discreción de los gobiernos, que pueden utilizar esta excepción en su beneficio cuando crean conveniente.

Extorsionadores y ciberdelincuentes

Pero, aunque los gobiernos no hiciesen uso de las prerrogativas excepcionales que les confiere la normativa, el peligro seguiría estando ahí. ¿Qué pasaría si alguien se apodera del sistema de cámaras con reconocimiento facial mediante un ciberataque y recaba datos de personas en la calle para luego extorsionarles? Estaríamos poniendo a disposición de los ciberdelincuentes una infraestructura mucho más atractiva que atracar un banco. Esta es la cuestión fundamental. La videovigilancia puede estar justificada en ciertos supuestos y lugares como los aeropuertos, las estaciones de tren o cualquier edificio que quiera incrementar sus medidas de seguridad y dejar un registro de acceso, pero siempre supervisada por seres humanos.

Podría pensarse que en otras partes del mundo como la propia China esto no se va a detener y seguirán investigando y desarrollando esta tecnología, lo cual es cierto, pero lo hacen a costa de sus propias libertades, no de las nuestras. La misión del legislador en un país libre es que esos derechos y libertades no se vean violentados. La Comisión Europea no debería olvidar algo tan elemental. Si tanto le preocupa que se respete nuestra privacidad en la red y para ello crearon una normativa draconiana como la RGPD, no tiene mucho sentido que la calle se convierta en una especie de show de Truman gobernado no por un realizador de televisión, sino por complejos algoritmos que pueden ser empleados para fines encomiables como encontrar a un niño extraviado, pero también para someternos a un asfixiante control como el que padecen los chinos. Las cámaras de reconocimiento facial en la vía pública deberían estar simplemente prohibidas porque son equivalentes a tener a alguien grabándonos en vídeo a todas horas y cotejando en tiempo real ese vídeo con nuestro documento de identidad y un sinnúmero de datos personales y privados como nuestra geolocalización, nuestra cuenta bancaria o si estamos o no al día con Hacienda. Ese es el riesgo al que nos enfrentamos. Los buenos usos que se puede dar a esa tecnología son muy limitados, los malos, en cambio, son prácticamente infinitos.