Quantcast

Tecnología

Google inventa una red de Inteligencia Artificial con la capacidad de mentir

El engaño ha sido -y es- una de las prácticas más utilizadas por el hombre para la consecución de un fin. Durante la Segunda Guerra Mundial los alemanes estuvieron años utilizando un sistema, llamado Enigma, que encriptaba las conversaciones del alto mando alemán para que los aliados no supiesen las intenciones del Reich.

Google Brain, el proyecto de desarrollo de Inteligencia Artificial, ha llevado a cabo un experimento que ha demostrado que redes neuronales artificiales -sistemas de computación basados en neuronas artificiales- pueden engañarse entre sí.

Lo que Google quería saber es si este tipo de redes pueden aprender a utilizar claves secretas para engañar y proteger la información de otros sistemas de inteligencia artificial.

Básicamente se crearon tres redes neuronales artificiales, a las que se bautizó como Alice, Bob y Eve. El objetivo de Alice consistía en enviarle un mensaje a Bob. Bob, por su parte, debía recibir el mensaje de Alice y decodificarlo, entenderlo. La función de Eve no era otra que espiar el mensaje a escondidas.

Para asegurarse de que el mensaje permaneciera en secreto, Alice comenzó a cifrar mensajes para que Eve no pudiese escucharlos, pero Bob sí.

Al principio eran mensajes muy pobres desde el punto de vista criptogáfico, pero a medida que se iba incrementando el ritmo de las conversaciones, Alice comenzó a desarrollar una estrategia de cifrado más compleja, y Bob comenzó a aprender en paralelo a desencriptarla.

Después de 15.000 mensajes, Eve quedó fuera de las 'conversaciones'. Sólo podía descifrar 8 de los 16 bits de cada mensaje

Después de 15.000 mensajes, Eve quedó fuera de las 'conversaciones'. Sólo podía descifrar 8 de los 16 bits de cada mensaje.

Es cierto que Eve partía con desventaja, ya que tanto Alice como Bob comenzaron con un conjunto preconfigurado de números al que Eve no tenía acceso, pero consiguieron su objetivo, 'inventarse' un lenguaje para engañar a Eve, que quedó fuera de sus 'conversaciones'.

Los investigadores que han desarrollado el proyecto, Martín Abadi y David Andersen, han demostrado de esta forma que las redes neuronales pueden resolver cómo usar una técnica de cifrado simple. Alice y Bob fueron capaces de crear un sistema propio de encriptación usando el aprendizaje automático, sin que se les enseñara algoritmos criptográficos específicos.

Lo que no se ha podido desentrañar es cómo funciona el método de cifrado. Es decir, se ha conseguido un lenguaje encriptado pero no hay forma de saber cómo Alice y Bob han sido capaces de desarrollarlo.

Ya no se pueden votar ni publicar comentarios en este artículo.