Empleados de OpenAI advirtieron sobre una nueva IA que puede suponer una amenaza "para la humanidad"

La empresa de inteligencia artificial OpenAI alcanzó un principio de acuerdo para la vuelta de Sam Altman como consejero delegado, con una nueva junta directiva. Este jueves, Reuters y al medio 'The Information' recogen que, antes de los cuatro días de exilio del CEO, varios investigadores escribieron una carta a la junta directiva advirtiendo sobre un poderoso descubrimiento de inteligencia artificial que, según afirmaron, podría amenazar a la humanidad.

La carta habla sobre la existencia de una especie de inteligencia artificial general (AGI) que se acerca a la idea de una IA que pueda razonar y entender el mundo de igual manera que un ser humano. Con este desarrollo, se produciría una nueva era en la historia de la humanidad.

Según recoge Reuters, que afirma no haber visto la carta, el desarrollo de esta tecnología, que habría ocultado el CEO a la junta directiva, sería tan seria que podría haber sido el punto clave del despido de Atlman.

Altman, por su parte, ha decidido someter su gestión a una investigación interna, una gestión que ya estaba siendo cuestionada por un consejo que había avisado de la introducción muy rápida de nuevas versiones de GPT sin tener en cuenta los posibles impactos en la sociedad.

Que la 'máquina' logre 'pensar' como un ser humano está disparando todas las alarmas, y la presunta carta sería una muestra fehaciente de ello.

Ambos medios recogen que el nombre interno del proyecto es Q* (pronunciado Q-Star en inglés, Q-estrella en español). La diferencia entre las formas de inteligencia artificial empeladas a día de hoy y Q* es que las primeras, los modelos para componer textos e imágenes no pueden comprender conceptos abstractos como los seres humanos. El segundo, sería capaz de emplear el raciocinio a un nivel comparable al de las personas.

Se disparan las alarmas: ¿la IA puede 'pensar'?

Q* parece tener la habilidad para resolver problemas matemáticos razonando como una persona por primera vez. Actualmente, las mismas fuentes de Reuters afirman que la herramienta funciona ('razona') a un nivel parecido al de estudiantes de Educación Primaria.

Que la 'máquina' logre 'pensar' como un ser humano está disparando todas las alarmas, y la presunta carta sería una muestra fehaciente de ello, en concreto, demostraría la preocupación de los propios científicos de OpenAI.

El temor por la alarmante declaración de que podría amenazar a la humanidad recae en que dicha inteligencia podría actuar de forma independiente y, sin control ni seguridad, el ser humano no podría tener dominio sobre la 'máquina'.