Una de las noticias de la semana es la declaración de un numeroso grupo –con el ubicuo y narcisista Elon Musk a la cabeza- solicitando una moratoria para el desarrollo de la Inteligencia Artificial o IA. La razón es el peligro que representaría el desarrollo descontrolado de esta tecnología, que puede competir directamente en campos hasta ahora exclusivamente humanos. Eso hace el famoso ChatGPT-4, y muchas aplicaciones con efectos en finanzas y economía, por no hablar de la creación de imágenes, voz y noticias falsas (que no son nuevas, sólo más impresionantes y virales). Pero la moratoria también invoca el fantasma de la rebelión de los robots, una de las pesadillas favoritas de la ciencia ficción distópica, como en la serie de películas Terminator y muchas otras.
Una imagen del sistema cultural que no nos gusta
Como pasa con todos los fenómenos complejos, en esta alarma se mezclan muchas cosas, desde temores muy razonables a alarmismo apocalíptico e intereses empresariales poco confesables, pues una moratoria no significa lo mismo para una pequeña empresa emergente de IA que para Google, Facebook o Amazon.
Veamos el caso del ChatGPT. Su principal habilidad es imitar muy bien la conversación y producción de textos académicos o profesionales, tanto que algunas universidades lo han prohibido, aunque fracasarán en el empeño; me acaba de entrar un correo de un estudiante que ha recurrido a esta IA para aclarar una duda y me lo cuenta. Italia y otros países lo han prohibido o se plantean hacerlo por un asunto muy diferente: el chat recopila datos personales y accede a cuentas personales, cosa prohibida por la legislación de protección de datos pero que, en realidad, hacen de un modo u otro todas las aplicaciones gratuitas de chats, como WhatsApp (¿o alguien cree que el uso gratuito no obtiene a cambio compensaciones?) Sin embargo, las dos noticias juntas dan la impresión de que ChatGPT es muy peligroso porque puede acabar con la educación, el esfuerzo, la evaluación y la privacidad.
En realidad, ChatGPT nos hace un doble favor: muestra lo absurdo de rutinas académicas de evaluación incapaces de distinguir un trabajo personal de uno artificial y renueva la célebre distinción platónica entre cosas e imitación de las cosas, que no son lo mismo. En efecto, esa IA imita muy bien pero no es creativa: si le pides que escriba sobre algo de lo que no tenga un modelo disponible, no puede. O da respuestas absurdas a preguntas bien formuladas que no comprende. En fin, que sabe imitar pero no crea algo realmente nuevo.
Puesto que sabe copiar, no hay mucho problema en que la IA haga normativas administrativas o los programas políticos e incluso leyes y decretos que, en general, se limitan a copiar los peores modelos
La prevalencia de la imitación es un efecto del turbio negocio de las revistas científicas y de la muy negativa insistencia en exigir mucho paper para hacer carrera científica y académica en vez de pocos y buenos (fomentando así ingeniosos plagios y fraudes). Aquí el ChatGPT se limita a devolvernos una imagen del sistema de aprobación de textos académicos y políticos que es realista pero antipática. En efecto, y puesto que sabe copiar, no hay mucho problema en que la IA haga normativas administrativas o los programas políticos e incluso leyes y decretos que, en general, se limitan a copiar los peores modelos; el chat lo haría mejor, o al menos nunca tan mal como Irene Montero, Jone Belarra, José Luis Escrivá y compañía.
Respecto a la acusación de que la IA confunde verdad y mentira deambula entre la hipocresía y la ignorancia pues no la necesitamos para confundirlas, como ya presumió Felipe González.
La tecnología evoluciona como la vida que la produce
La verdad es que no hay tecnología libre del mal uso: un martillo sirve para clavar clavos, pero también para romper cabezas; la lista de ejemplos análogos es interminable. Si fuera por el peligro del mal uso, deberíamos renunciar a toda tecnología y volver a los árboles, como nuestros remotos antepasados primates. Siempre hay riesgos, descontrol y azar, y es irracional intentar eliminarlos por completo para controlarlo todo (salvo si se pertenece a la burocracia europea y su fábrica de normas, por supuesto).
La otra verdad empírica a considerar es que no podemos parar el desarrollo de ninguna tecnología realmente útil. La lógica de la evolución siempre se abre paso. Es cierto que algunas comunidades perdieron tecnologías que tuvieron en su día, como la navegación olvidada por los nativos de Australia y las islas Canarias, pero eso no significa que la navegación como tal desapareciera del mundo. Y el intento de cierre a la innovación occidental de China y Japón fue, como sabemos, un rotundo fracaso. Las prohibiciones de ideas y técnicas son tan peligrosas como improductivas.
El verdadero miedo a la IA surge también de la repentina conciencia de que no solo puede sustituir empleos poco atractivos, sino asumir muchos muy cualificados, poderosos y bien pagados
El caso más elocuente del fracaso ineludible de la prohibición preventiva es el de la tecnología nuclear: los mismos científicos que la desarrollaron pidieron luego limitarla y prohibir usos militares, con Albert Einstein a la cabeza. Tampoco fue posible, porque si un país con potencial nuclear renunciaba a desarrollarla, sus rivales o enemigos no. Pues bien, con la IA pasa lo mismo: si una empresa tecnológica decide parar su I+D+i puede estar segura de que una empresa rival seguirá investigando y produciendo innovaciones, ocupando su espacio y quizás echándola del mercado. Por otra parte, nuestro mundo cotidiano ya está lleno de pequeñas IA activas que nos hacen infinidad de trabajos, desde el corrector de mi editor de texto a las apps de internet, de los móviles inteligentes y muchos artefactos. ¿Y vamos a prescindir de sus pequeñas o grandes ventajas?: pues no.
El verdadero miedo a la IA surge también de la repentina conciencia de que no solo puede sustituir empleos poco atractivos, sino asumir muchos muy cualificados, poderosos y bien pagados (y sin cobrar un sueldo ni pagar impuestos, y haciendo lo que se les pide). Por ejemplo, empleos de alta y mediana dirección innecesarios y casi toda la administración pública y de empresas. ¿A quién molestaría que una IA adecuada gestionara y resolviera las interminables gestiones administrativas, ahora paralizadas, en la Seguridad Social, DNI y Pasaporte, Extranjería o Sepe? A mí no, desde luego. No me importa cómo se llama ni de qué está hecho quien sea capaz de solucionar un problema con eficacia, objetividad y probidad, ni si tiene una conciencia como la mía o es capaz de pensamiento creativo. Como pasa siempre, la IA causará problemas inesperados, pero a cambio desarrollará inesperados beneficios. Librarnos en parte de la ineptocracia, la arbitrariedad y la incompetencia burocrática o ejecutiva no sería el menor de ellos.
Ya no se pueden votar ni publicar comentarios en este artículo.
Inteligencia artificial?, otra tontería, aquí no hay más que más y mejores lineas de código
Quizás lo más conveniente sería aclarar el significado y el valor de inteligencia. Hace tiempo que se ha devaluado.
Somos muy arrogantes pensando que somos unicos y el maximo exponente de la creacion.
Ninsiquiera sabemos que es el pensamiento, la conciencia, la inteligencia ni como funciona el cerebro.
Poco a poco eso si vamos desmontando tabues.
Algunos pensamos que la inteligencia, la consciencia y el pensamiento son probablemente fenomenos autoinducidos. Un bucle eterno y gracil que llamaba Hofstadter en su Gödel, Escher Bach.
Quiza cuando la cantidad de conexiones sea la suficiente habremos llegado a replicarnos en lo principal y tengamos miedo a lo nuevo y superior a nosotros.
Ese miedo atabico aparece en la famosa carta y no es Skynet.
Es el Terror a ser segundos en esa escala que artificalmente hemos creado para colocar a todos los seres y ponernos Nosotros arriba..
Totalmente de acuerdo con el autor. Muy especialmente con los directivos medios absolutamente superfluos (como se comprobó dolorosamente en el confinamiento) y sobre todo la infame administración pública. Sería maravilloso. Funcionarios rápidos y eficientes, sin desayunos de dos horas ni moscosos ni caras de vinagre para el ciudadano.
Pero lo mejor de todo: el gobierno y el parlamento.
VOTA SKYNET!!
Los temas académicos de exámenes y demás zarandajas son solo una cuestión menor y sin importancia. Y a la IA se la resbala. No van por ahí los tiros. Ahora mismo yo puedo crearle un programa en C con ChatGPT que le comprime todos los datos de su ordenador, robarlos y destruirlos. No se lo voy a hacer, claro, pero los crearán y el peligro está en las nucleares, redes eléctricas etc etc. Hay que pararlo y dejarla solo para que profesores y estudiantes jueguen al escondite. Elon tiene razón, esto lleva camino de impedir los vuelos espaciales o destruirlos. La universidad que no sea sobre AI es un juguete roto para AI y la menor de las preocupaciones de los científicos. No sean tan simples.bEl tema es muy serio
Pero no yo por saber programar ,no. chapGPT , es decir la AI actual en pañales,bien dirigida es la que crearía tal programa, cuyas directrices ya circulan entre programadores . No me imagino lo que corre a nivel científico para causar alarma en personas como Musk al que, seguro, le llegan inputs que ni siquiera podemos imaginar
En realidad, todo parte de una carta abierta lanzada por una entidad sin ánimo de lucro, pero que está constituida como un instituto de fines no muy claros. Es esa carta, en ingles aquí https://futureoflife.org/open-letter/pause-giant-ai-experiments/ a la que se han ido adhiriendo públicamente personas físicas, algunas de renombre, aunque quizá no tantos de manera voluntaria, puesto que se han localizado firmas falsificadas. Se llegaron a leer titulares sobre la firma de hasta 30. 000 personas, incluidos por ejemplo alguna tan relevante como la del presidente de China, que luego se han demostrado que no eran correctas, y que llevaron a rebaje las legítimas a poco más de 1.800. Hoy, en el enlace, aparecen pocos más de 16.000, pero como para fiarse...
Pero, para el caso, lo relevante, el trasfondo de la cuestión puede no ser tanto la moratoria temporal propuesta cuanto la intervención (gubernativa) solicitada para realizar esta moratoria. Volvemos al eterno problema de quién debe dominar lo nuevo, esta nueva tecnología. Dominio a nivel glibal, con la regulación como excusa. Volvemos a ver a algunas personas poderosas que están posicionándose sobre algo que afecta a detentar el poder sobre algo. Tal cual.
Después de la segunda guerra mundial, científicos pidieron que no se siguiese investigando y desarrollando la energía nuclear. No se hizo porque alguien dijo: si no lo hacemos nosotros lo harán otros y quedaremos en desventaja.
Le recomiendo al autor que vea la película Yo robot.
En esta película hay una escena en la que un policía (Will Smith) interroga a un robot sospechoso de asesinato. En el interrogatorio, el policía le dice al robot, que nunca podrá escribir una sinfonía ni hacer de un lienzo en blanco una obra de arte. El robot le responde a la gallega: ¿usted, puede?
Me parece a mi que el autor de este artículo,tras cientos de palabras no entiende nada,pero nada,el problema que se nos echa encima.No le da ninguna importancia a los millones de puestos de trabajo humanos que desaparecerán y dejarán en la calle y sin medios a millones de personas,personas que se cabrearan tanto,que lo de París parecerá una pelea de guardería.
La Naturaleza nos dice que solo sobreviven los que más rápido se adaptan a la nueva situación.
La Naturaleza no existe como tal. Es un concepto que vive en el pensamiento de las personas.
Así que no dice nada.
No hay nada que temer. La IA nunca podrá sustituir ni crear a un ser tan brillante, inteligente y admirable, y a la vez tan estúpido y arrogante como el ser Humano.
Hablas del Felón, claro.
De momento, la llamada IA no es una inteligencia. No hace preguntas, solo da respuestas. No crea interrogantes, ni cuestiona, ni comprende. Tiene memoria y la capacidad de almacenar, recuperar e interpretar información, pero no puede reflexionar, imaginar ni crear significados vinculados con las emociones. Lo que hay que tener en cuenta, y lo que nos debería preocupar, es el sesgo moral y político de los propietarios de la IA que nos da las respuestas. Ese es el peligro: una IA controlada por poderes supremos.
El meollo de la cuestión es si la IA llegará a ser autoconsciente, o sea, saber que existe. El pienso, luego existo, de Descartes.
La mal llamada IA, ni es inteligencia ni es consciente, en absoluto ni de lejos. Son procesadores clásicos de enorme capacidad de memoria y cálculo, muy, pero que muy lejos de la Inteligencia, manejados por algoritmos variables según el contenido de memoria. O sea, NADA DE NADA.
Otra cosa es que como es ciertamente dificil descubrirla, nos la quieran pasar por buena y condicionar nuestra forma de pensar a lo que les convenga a quiénes lo manejen.
He trabajado con la llamada IA y les aseguro que en cuanto tiene que manejar estructuras de tercer nivel (o servo-razonamientos), falla como escopeta de feria en cosas que ni mi niña de 3 años fallaría.
Debo reconocer que manejando lenguaje en temas de un solo nivel lo hace muy bien, por ejemplo informes, redacciones, incluso poesías, cosa que hasta hace poco resultaban muy rupestres.