01 octubre 2019

Robots asesinos


El presidente de Microsoft, Brad Smith, ha pedido frenar la proliferación de robots “asesinos” (con usos militares, dotados de inteligencia artificial) mediante una nueva Convención de Ginebra.

Se veía venir. Si somos capaces de hacer algo malo, acabamos haciéndolo. Y si una nueva tecnología puede tener aplicaciones militares, tranquilos que las acabará desarrollando.

Tanto la ciencia ficción escrita como muy particularmente el cine, nos ha mostrado hasta la saciedad la existencia de robots militares o policiales, desde la serie de Star Wars, pasando por Robocop y un largo etcétera.

El robot es el perfecto soldado: se puede programar a voluntad, no tiene ética, no tiene escrúpulos, no se cansa, si es destruido nadie lo llorará, es relativamente más barato de mantener que una persona, es mucho más resistente, puede tener una vida útil muy longeva, puede reprogramarse y destinarse a otros menesteres, obedece ciegamente… ¿sigo?

Isaac Asimov ideó una solución para que los seres humanos pudiesen convivir pacífica y fructíferamente con robots: las famosas 3 leyes de la robótica que dicen, básicamente, que un robot no puee dañar a un ser humano (1ª ley), que un robot debe obedecer a un humano, excepto cuando entre en contradicción con la 1ª ley (2ª ley) y que un robot debe autoconservarse (excepto cuando ello entre en conflicto con la 1ª o 2ª ley) (3ª ley).

Esto debía eliminar los resquemores de que los robots fuesen utilizados contra los seres humanos o que estos quedasen fuera de control. Es evidente que los actuales robots militares no están dotados de las 3 leyes de la robótica ni de nada que se les parezca. Al menos, no están dotados de la 1ª ley, porque lo de la obediencia y lo de la autoconservación sí que puede representar un gran interés para los militares.

A nadie le molesta que un robot haga trabajos repetitivos en una cadena de montaje de coches o trabajos peligrosos desactivando explosivos o de mantenimiento en un reactor nuclear.

La cosa se pone más fea cuando el robot sustituye lugares de trabajo más creativos, más propios de un ser humano. Y se vuelve intolerable cuando el robot se utiliza para matar, por ejemplo, seres humanos o para causar algún otro tipo de daño o destrucción.

Incluso están los microrobots espías, que con el internet de las cosas, pueden acabar convirtiéndose en una verdadera pesadilla para la Humanidad si no se regulan adecuadamente.

Así que, leyes de la robótica asimovianas o convenciones de Ginebra, algo habrá que hacer para limitar el potencial destructivo de los robots o me temo que lo acabaremos pagando todos muy caro en un futuro no muy lejano.