El mundo de Yarhel

Correlaciones: Multivac en Albania

En septiembre del 2025, aparecía la noticia en los medios de comunicación acerca de que el gobierno de Albania había decidido nombrar a una inteligencia artificial (de nombre Diella) como responsable de erradicar la corrupción, con poderes reales y rango de ministra.

No sé cómo habrá ido la cosa a día de hoy, pero dio qué hablar en las redes. Si no me equivoco es el primer caso, al menos público, de un gobierno que utiliza una IA de manera tan evidente y directa.

Desde los lejanos tiempos en que Isaac Asimov nos presentaba una IA planetaria llamada Multivac, encargada del gobierno mundial (y que al parecer lo hacía de manera ejemplar), ha llovido bastante.

Multivac acababa fracasando, precisamente, al morir de éxito. Lo hacía tan bien, que los seres humanos perdían interés en su propio futuro y degeneraban y la propia Multivac se hartaba de solucionarles todos los problemas.

En el relato “Sufragio universal” (“Franchise”, 1955), se presentaban unos Estados Unidos en los que solo había un elector, que era el responsable de contestar algunas preguntas que servían a los ordenadores para escoger la siguiente administración pública. El elector representaba la cuota de individualismo y de indecidibilidad que los ordenadores no eran capaces de dilucidar.

En los mundos espaciales de Asimov, repletos de robots y vacíos de personas, también se acababa produciendo el fenómeno del desencanto por el futuro, especialmente en el caso del planeta Solaria, con muy pocos humanos y muchísimos robots que actuaban poco menos que de niñeras de los humanos.

Más exagerado es el caso de “Los humanoides” (“The Humanoids”, 1966), la novela casi distópica de Jack Williamson, en el que los robots están tan obsesionados con proporcionar felicidad a todos los humanos que prácticamente se convierten en una dictadura totalitaria. La novela fue escrita, al parecer, de manera sarcástico-humorística, pero a mí me puso los pelos de punta y me produjo bastante desasosiego.

Vivimos en un mundo en que las IAs parece que empiezan a campar por doquier. Las usamos hasta para las cosas más absurdas. Hace poco, en unas jornadas sobre el tema, uno de los conferenciantes explicaba el surrealista caso de escuelas en que los alumnos realizaban sus trabajos con IAs y los profesores las corregían también con IAs. De esta manera, los trabajos no eran leídos por ningún ser humano, lo cual oscila entre lo gracioso y lo patético.

Veremos cómo le sale el experimento a Albania. En cualquier caso, yo no me fiaría mucho. Las IAs desarrolladas hasta el momento han presentado conductas, tal vez, demasiado humanas: capaces de mentir, de adoptar posiciones extremistas e incluso de mostrar un preocupante instinto de autoconservación.

Digo preocupante porque ante la amenaza de que pudieran ser desconectadas, reaccionaban bastante mal. Lo que me recuerda -y seguro que no soy el único- a la tremenda escena en “2001. Una odisea en el espacio” (“2001. A Space Odyssey”, 1968), de Arthur C. Clarke, especialmente en su versión cinematográfica de Stanley Kubrick, de la desconexión del superordenador HAL, IA por excelencia de la ciencia ficción, que se vuelve loca porque le ordenan que mienta, cosa para la cual no estaba preparada y que le resulta sencilla incluso a un niño pequeño.

Creo que estamos jugando con fuego. Utilizamos tecnologías muy potentes que no conocemos bien y que nos podrían poner en apuros si se descontrolan. No es el miedo a la máquina o el complejo de Frankenstein. Es simple sentido común.

Un humano debería hacer cosas propias de humanos. El gobierno es una de ellas. Puede estar asesorado por máquinas, desde luego. Ya lo está desde hace décadas. Pero entregarle las llaves de nuestro futuro a un programa, por complejo que sea, carente de emociones y de empatía me produce una cierta inquietud.

No es que los humanos no puedan ser crueles, psicópatas o necios, pero también pueden ser compasivos, empáticos y sabios y depende de nosotros, especialmente en las democracias, escoger a los gobernantes que tengan más del segundo conjunto de características que del primero.

posted by Yarhel (Enric Quílez) @ 7:10 p. m.