El gran desafío de la década

“Si Kindle se actualiza con reconocimiento facial y sensores biométricos, puede saber qué te hizo reír, qué te entristeció y qué te enojó. Pronto, los libros te leerán mientras los lees.” Yuval N. Harari

Arrancamos la tercera década oficial del siglo XXI con la tecnología a punto de vencer a la mayor amenaza biológica de nuestra generación. Las vacunas contra el SARS-CoV-2 están ya haciendo su trabajo, y hemos visto su desarrollo casi en tiempo real y, sin duda, en un tiempo récord. Tendremos problemas de suministro y de distribución, sobre todo en las primeras semanas, y la ansiedad se apoderará de muchos. Pasaremos momentos muy difíciles durante los meses de enero y febrero, muy parecidos, cuando no peores, a los que sucedieron en marzo de 2020. Pero no me cabe duda de que superaremos las dificultades, gracias a nuestra disciplina y a los avances científicos y tecnológicos, los unos de la mano de los otros.

Esta década que estrenamos será la que hará de China la primera potencia mundial. Y no sólo lo será en lo económico, lo que no supondría, a priori, ningún problema en un sistema de competencia leal. En términos nominales, el PIB de China superará al de los EE.UU. antes del final de la década, de acuerdo con el Centro para la Investigación Económica de Japón, algo que ya logró, hace siete años, en términos de paridad de poder adquisitivo. El problema, como digo, no proviene de la sustitución de un imperio por otro; eso ha sucedido muchas veces en la historia, desde la antigua Grecia hasta aquella España en la que no se ponía el sol.

En el siglo XX, especialmente después de la guerra y tal y como pudimos comprobar en Europa, el país dominante añadió, a su control militar y del comercio, sistemas políticos cada vez más aperturistas, con garantías crecientes para sus ciudadanos y una mayor calidad democrática, de la que nos hemos aprovechado todos. Durante el siglo pasado, la población mundial que vive en una democracia real ha crecido desde un 15% hasta por encima del 50%. Jamás en la historia tanta gente disfrutó de la grandeza y la responsabilidad de la libertad. Pero esta situación no parece destinada a permanecer y mejorar en el tiempo. El riesgo de retroceso se aproxima al de los albores de la Segunda Guerra Mundial, cuando la combinación del nazismo, el comunismo y el feudalismo nipón estuvieron a punto de extender la sombra de la dictadura en la que España estuvo sumergida durante cuatro décadas. Esta vez no será necesaria la sangre para inclinar la balanza a un lado o a otro; será la ética la que dirima la batalla.

Como señalo en Alquimia, el problema de la toma de decisiones basada en algoritmos plantea cuatro marcos de actuación que se solapan en mayor o menor grado. Qué se puede hacer con un algoritmo (marco exterior, pues sus capacidades son enormes, y crecientes), cuál es el límite legal (definido actualmente por el Reglamento General de Protección de Datos, en vigor desde mayo de 2018, aun siendo sólo de obligado cumplimiento en la Unión Europea), qué quiere hacer la empresa u organización (voluntad tanto autoimpuesta como limitada siempre por los dos marcos anteriores) y cuál es el límite ético.

Este 2020 debería haberse cerrado, de acuerdo con las previsiones, con todos los ciudadanos chinos clasificados de acuerdo con un “crédito social” que asigna una puntuación a cada uno en virtud de sus cualidades como buenos ciudadanos

Este suele ser el más restrictivo de los cuatro, pero, evidentemente, puede ser muy volátil en virtud de las circunstancias sociales y culturales. Debemos ser conscientes de que no en todas partes la consideración ética es prioritaria, y que eso conllevará diferencias sustanciales con los países que no respeten, o, al menos, no lo contemplen como lo hacemos en occidente. China es uno de los grandes impulsores de la inteligencia artificial. El pasado 2020 debería haberse cerrado, de acuerdo con las previsiones, con todos sus ciudadanos clasificados de acuerdo con un “crédito social” que asigna una puntuación a cada uno de ellos en virtud de sus cualidades como buenos ciudadanos. Esa puntuación conllevará la posibilidad de premios y de penalizaciones de acuerdo con las decisiones administrativas. Se vigila que los ciudadanos paguen a tiempo sus facturas, y que no gasten el dinero en productos considerados frívolos, o que no difundan (conscientemente o no) noticias falsas por las redes sociales. Aquellos con deudas disponen de un tono de llamada entrante exclusivo, independiente de su voluntad y del smartphone del que dispongan, que alerta a los demás de la presencia del deudor.

Controles horarios

El control de las autoridades mediante sistemas de inteligencia artificial se ha extendido a la persecución de minorías como la uigur, formada por unos 21 millones de personas que, mayoritariamente, profesan el islam. El New York Times denunció, ya en 2019, que el Gobierno chino habría procedido a la detención y concentración de más de un millón de ellos tras la aplicación de algoritmos de reconocimiento facial, integrados en las cámaras de vigilancia diseminadas por todo el territorio. En la ciudad de Sanmenxia, por ejemplo, con más de 2,25 millones de habitantes según el censo de 2010, se habrían controlado más de medio millón de caras sólo durante un mes. La empresa china CloudWalk anuncia sus capacidades de reconocer grupos “sensibles” de personas, como “uigures, tibetanos u otros”. Así, la propia empresa publicita, entre sus habilidades, la de alerta automática: si en un cierto barrio vive un determinado grupo étnico, el sistema permite controlar los horarios de salida y entrada; y si, al cabo de un tiempo, un cierto número de personas de la misma etnia se establece en el barrio, el sistema alerta a las autoridades, de forma que la policía pueda intervenir.

Ahora sabemos que el gigante Alibaba también habría desarrollado comercialmente la tecnología para reconocer a los uigures por sus rasgos, creando el tétrico mercado del Uyghur-Detection-as-a-Service, UDaaS, de acuerdo con la información de IPVM de la que se han hecho eco los principales medios del mundo. Quizá puedan preguntar al simpático Jack Ma acerca de la cuestión en su próxima cita de Davos, a la que tan asiduo es. Y también, quizá, deberíamos plantearnos que, cada vez que hacemos una compra a través de su web, estamos financiando la tecnología de control que acabará con nuestra democracia. Los principios de la democracia liberal, los checks and balances y la libertad de prensa impiden tal flagrante desposesión de la propia intimidad. Es precisamente esa falta de ética la que choca frontalmente con occidente y permite a China progresar en una situación de ventaja competitiva impropia, planteando el mayor desafío de esta década.