Black Mirror

Sonríe, tu pizzería está reconociendo tus emociones (sin que lo sepas)

Un error informático en una pizzería de Oslo deja al descubierto un software de reconocimiento facial utilizado para identificar caras, hacer un seguimiento y reconocer las emociones de sus clientes. El sistema parece legal pero levanta muchas dudas sobre la integridad de la privacidad de los consumidores. ¿Dejarías que se analizaran tus emociones sin permiso? 

Anuncio revela reconocimiento facial en una pizzería
Anuncio revela reconocimiento facial en una pizzería Twitter

Entras en una pizzería y pides tu plato favorito. Con el primer bocado levantas la cabeza, entornas los ojos y suspiras hacia el techo satisfecho por el sabor ofrecido. Sin saberlo, una cámara oculta lo está grabando todo mientras un ordenador procesa en tiempo real tus gestos de aprobación, tu edad, tu sexo y, en menos de unos milisegundos, los guarda en una base de datos de clientes VIPs asociado a un código. El sistema sabe que volverás y puede prepararse para ello.

-------------

No es un episodio de 'Black Mirror', acaba de pasar en un restaurante de Oslo de la cadena Peppes Pizza. Las capturas de uno de sus terminales bloqueados por un error del sistema y publicadas en Twitter desvelan la utilización de un software de reconocimiento facial para vigilar a sus clientes. El sistema se llama Kairos y permite, a través de una API, mandar capturas de las cámaras de tu negocio para que te identifiquen las caras y sus emociones.

Cuando la captura se ha viralizado en las redes el CEO de la compañía responsable del software ha identificado su aplicación de reconocimiento y ha respondido algunas dudas sobre sus implicaciones en la privacidad de los consumidores.

-------------

Algunas de las respuestas han generado más inquietud y desasosiego que tranquilidad entre los consumidores. El sistema recibe las capturas y encuentra caras por color, distingue razas, sexo e incluso la edad. Según el CEO el SDK de Peppe's pizza trabaja solo ins-situ [no manda datos] y no identifica, solo reconoce; pero utiliza este reconocimiento para detectar emociones. Si esto funciona en una cadena de comida rápida donde se supone la inversión en tecnología no es muy grande ¿Qué pasará en un banco, una multinacional o incluso un ayuntamiento?

-------------

Según Brian Brackeen los datos no se comparten entre clientes de la aplicación pero reconoce que pueden utilizarse en diferentes centros del mismo cliente y en la web del software se explica que: "Kairos puede identificar su lista de clientes VIP y configurar las alertas correspondientes", esto solo se puede hacer aplicando algo más que la detección de caras: el reconocimiento facial. Tu cara se captura en un comercio, viaja por servidores de no se sabe quién y sirve para traficar con tus emociones.

Tu cara se captura en un comercio cualquiera, viaja por servidores de no se sabe quién y sirve para traficar con tus emociones

Las dudas sobre la seguridad jurídica del sistema son más que razonables. Si no hay obligación de anunciar su uso ¿Qué sistemas de control nos permiten tener garantías de que no trafican con nuestras emociones? No existe ninguna transparencia, ni forma de optar a no participar en este tráfico de metadatos, solo errores de este tipo nos permiten descubrir que somos utilizados por las compañías para hacer más dinero. Y esto es muy sospechoso.

Con la nueva Ley Orgánica de Protección de Datos en la mano podría interpretarse que hay un tratamiento de datos personales aunque no se produzcan capturas ni grabaciones, como nos aclara David Maeztu, abogado en 451.legal y especialista en derecho aplicado a la tecnología:

"[...] Si no se almacena ni relaciona con ningún otro dato puede considerarse lo que se define en el propio artículo 4 del RGPD como seudonimización: 'el tratamiento de datos personales de manera tal que ya no puedan atribuirse a un interesado sin utilizar información adicional.'

Es decir, hay tratamiento pero con esa técnica se puede no estar sometido a todo el RGPD. Ello no evita que, por ejemplo, si esos datos míos sirven para ofrecerme un precio o una pizza diferente, si hay un tratamiento que me afecta.

En ese caso [el de Oslo], parece razonable que ello no permite eludir la aplicación, al menos, del deber de informar sobre lo que se está haciendo y para que se toma y analiza la imagen de la persona."

No es el único sistema que nos graba sin consentimiento para mejorar la experiencia publicitaria sin aviso previo. Un usuario denuncia en el mismo hilo como la empresa Orbscreen ha llenado Dublín de pantallas publicitarias con cámaras que analizan los movimientos de los transeúntes sin pedir ningún tipo de permiso. Sabiendo tu edad, tu sexo o incluso tu ropa te bombardean con el correspondiente anuncio... pero no hay ninguna forma de consultar cómo tratan esos datos. ¿Basta el compromiso de una empresa para que nos fiemos del tratamiento que hacen de nuestros datos? Facebook nos ha demostrado varias veces que no.

No solo eso, por aquí ya hemos hablado cómo tu teléfono puede hacer un seguimiento de tu ubicación mediante el intercambio de información con unos dispositivos o balizas distribuidas por toda la ciudad. Centenares de comercios, negocios y ayuntamientos de toda España están llenando sus tiendas o espacios de estos faros bluetooth para luego venderte servicios, información o publicidad. A veces con prácticas muy poco transparentes. 

El problema no es que una pizzería o un escaparate analice nuestras emociones, es la cantidad de posibilidades y el escaso control del marco legal sobre toda esa tecnología se utilice respetando nuestro derecho a la privacidad.



Comentar | Comentarios 0

Tienes que estar registrado para poder escribir comentarios.

Puedes registrarte gratis aquí.

  • Comentarios…

Más comentarios

  • Mejores comentarios…
Volver arriba