Podemos quiere crear una Agencia del Algoritmo para evitar otro 'caso Cifuentes'

La inteligencia artificial, el Big Data y las tecnologías de vigilancia masiva han permitido que el Gobierno chino utilice la tecnología para puntuar a los buenos y malos ciudadanos, de tal forma que aquel que tira al suelo un papel recibirá peor puntuación que el que lo tira a la basura, con posteriores consecuencias punitivas. España está lejos, todavía, de ese escenario, pero a menor escala, los datos y la información también se utilizan y se han utilizado con fines torticeros o indecorosos.

El ejemplo paradigmático es el de las cremas de Cristina Cifuentes. La expresidenta de la Comunidad de Madrid dimitió después de que se filtrase un vídeo de hace siete años en el que aparecía robando cremas en un supermercado. Pues bien, ahora un partido político en sus antípodas ideológicas, Unidas Podemos, quiere poner en marcha una Agencia Estatal de Control de Algoritmos para evitar otro 'caso Cifuentes'.

Así lo afirma a Vozpópuli el diputado Ismael Cortés, de En Comú Podem, que lidera la Proposición No de Ley (PNL) que se debate hoy en la Comisión de Interior del Congreso de los Diputados. Cortés explica que, hoy en día, las empresas privadas pueden acceder a más datos que los servicios secretos de un país. "Pueden conseguir una cantidad masiva de datos geométricos y geoposicionales de altísimo valor. Un servicio secreto nacional no tiene tanta capacidad de vigilancia como la de una compañía telefónica", asevera.

Un servicio secreto nacional no tiene tanta capacidad de vigilancia como la de una compañía telefónicaIsmael Cortés, diputado de En Comú Podem

Tanta información en manos privadas, "para ser empleada, en principio, con fines comerciales o de seguridad", puede terminar siendo utilizada "con fines políticos. Como el caso Cifuentes". "Las cámaras de un centro comercial recogen datos de una cantidad enorme de ciudadanos. Puede ocurrir como lo que le pasó a la expresidenta de la Comunidad de Madrid, Cristina Cifuentes. ¿Cómo es posible que aquellas imágenes permanecieran 7 años almacenadas? Desde luego, por fines de seguridad no era necesario mantenerlas", subraya el diputado de la formación morada.

Cortés explica que aquel caso resulta paradigmático de lo que se puede hacer si una Agencia Estatal no vigila y monitoriza de qué manera se utilizan los datos que se consiguen por medios de vigilancia masiva. Hoy en día, todos esos datos "no se destruyen, quedan guardados y pueden acabar en manos de un partido político y, a continuación, de un medio de comunicación para hacer daño. En el caso del que estamos hablando se utilizaron para hacer caer caer a la presidenta de una comunidad autónoma". Esta Agencia Estatal del Algoritmo serviría, según el diputado, para impedir que se traspasen ciertas líneas.

Vacío legal

Al margen de la creación de este organismo, Podemos pide en la PNL que se establezcan "garantías de que los sistemas de IA empleados con fines de vigilancia de la ciudadanía sean suficientemente sólidos y seguros para evitar potenciales usos discriminatorios, con observancia del principio de precaución en todas las aplicaciones de IA en el contexto policial".

La propuesta de En Comú Podem también marcha en la dirección de establecer estructuras legales que determinen la responsabilidad jurídica de las "posibles consecuencias adversas derivadas de estas tecnologías digitales avanzadas, garantizando la transparencia acerca de las empresas que producen y gestionan sistemas de IA destinados a fines de vigilancia de la ciudadanía o de las tecnologías que valoran a las conductas individuales o colectivas de forma predictiva".

Vigilancia masiva en Rusia, China y EEUU

Los sistemas de vigilancia masiva están poco instalados en Europa, lo cual no quiere decir que no se disponga de tecnología lo suficientemente avanzada para su implementación y ya haya países que recurran alegremente a ella. Ahora mismo es posible capturar de forma masiva datos biométricos y geoposicionales, almacenarlos y que un sistema de inteligencia artificial cruce esta información con bases de datos públicas y privadas para identificar sujetos en segundos.

Un ejemplo internacional es el metro de Moscú, tal como manifiesta Unidas Podemos en la exposición de motivos de su PNL. El metro de Moscú ha sido el primero del mundo en introducir el conocido como pago a través de la cara., sin necesidad de abono ni tarjeta de débito. Los más de 12 millones de moscovitas ya pueden cruzar los tornos de sus más de 240 estaciones gracias a un sistema de 206.000 cámaras. Un edil ya solicitó utilizar este sistema para vigilar y multar a quien no lleve mascarilla en el metro.

En China ya se ha mencionado el uso que se hace de la vigilancia masiva para penalizar conductas "desviadas" y recomendar las que defienda el ente público. Su principal rival, Estados Unidos, también hace uso de estos sistemas con fines judiciales o para facilitar la tarea de sus cuerpos de seguridad.