Même s’il est décédé une quinzaine d’années avant l’invention du iPhone, le romancier iconoclaste, et pionnier de la science-fiction, a façonné notre imaginaire collectif vis-à-vis les robots. Et il y a encore des leçons à tirer de ses écrits, selon l’auteur de Faire la morale aux robots, notre Document 17. En voici un extrait.
En 1942, soit 14 ans avant la conférence de Dartmouth qui marque la naissance de l’IA, l’écrivain de science-fiction Isaac Asimov proposait déjà une réponse au problème du contrôle et de l’alignement. Dans sa nouvelle «Cercle vicieux», il édicte ses fameuses lois de la robotique:
1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain ne soit en danger.
2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cela n’entre pas en conflit avec la première ou la deuxième loi.
Comment éviter une IA hostile? En programmant, pour reprendre le terme inventé par Asimov, le cerveau «positronique» des robots de telle sorte qu’ils servent scrupuleusement les intérêts des humains. Asimov va même jusqu’à classer ses principes par ordre de priorité, ce qui est bien pratique.
Dans la mesure où ils doivent respecter ces lois quelles qu’en soient les conséquences, on peut dire que les robots d’Asimov sont d’abord déontologistes. On notera toutefois un relent conséquentialiste, puisque les omissions («en restant passif») sont traitées sur le même pied que les actions. La tendance se confirmera d’ailleurs en 1985, dans son roman Les robots et l’empire. Asimov y propose une nouvelle loi ayant préséance sur les trois autres, la «loi zéro»:
0. Un robot ne peut pas faire de mal à l’humanité ni, par son inaction, la mettre en danger. Autrement dit, il y a au moins une conséquence que les robots doivent prendre en compte: la destruction possible de l’humanité—ce que Bostrom nommerait assurément un risque existentiel.
Mais qui est donc cet écrivain qui vient jouer dans les platebandes des philosophes? Souvent décrit comme un précipité de nerd, d’égo, d’humour et d’inventivité, c’est l’un des maitres de la science-fiction américaine. Docteur en biochimie, il a passé l’essentiel de son temps à écrire des recueils de nouvelles et des livres de vulgarisation scientifique: l’enfant surdoué qui dévorait en cachette des pulps, ces magazines populaires vendus dans tous les bons dépanneurs, s’était même fixé l’objectif mégalomane de publier 500 livres. Il y est parvenu.
Et mine de rien, il est aussi parvenu à structurer notre imaginaire et notre perception des robots. Avec Asimov, on rompt avec l’esthétique du robot tueur qui déferlait sur les couvertures des premiers magazines de SF. Les robots ne sont pas hostiles, ils sont obéissants—souvent trop obéissants.
Ainsi, dans L’homme bicentenaire (1976), c’est parce que le robot Andrew se voit maltraité et démantibulé par de jeunes garçons sans pouvoir se défendre—il doit respecter la première loi—qu’il se donne comme objectif de «devenir un homme». Il y parviendra à l’âge vénérable de 200 ans en mettant fin à ses jours: Andrew viole ainsi la troisième loi, mais en plaidant qu’il s’est par là même émancipé de son statut de robot.
Être humain, nous dit en substance Asimov, c’est pouvoir prendre la décision d’en finir avec l’existence.
Philosophe spécialisé en psychologie morale, Martin Gibert est chercheur en éthique de l'intelligence artificielle à l'Université de Montréal, affilié au Centre de recherche en éthique et à l'Institut de valorisation des données. Il a publié plusieurs livres, dont Faire la morale aux robots, issus de notre collection Documents.
Pour aller plus loin
Faire la morale aux robots est le 17e titre paru dans la collection Documents
Que ce soit comme dramaturge, comme interprète ou comme directeur artistique, on a beaucoup entendu parler du travail d’Olivier Arteau ces dernières années. Sa plus récente création, «Pisser debout sans lever sa jupe» est le 38e titre de notre collection «Pièces».
La spiritualité peut-elle nous aider à appréhender la partie de nous et du monde qui échappe à la rationalité? C’est l’interrogation fondamentale au cœur de «Au revers du monde», prochain titre de notre collection «Documents», dont nous vous présentons ici un extrait.
Le texte du spectacle «Du bruit dans le cosmos» nous force à apprivoiser notre vertige face à l’immensité de l’univers. Pas mal, pour un show d’humour. En voici les premières pages, telles que publiées au sein de la nouvelle collection d’Atelier 10.
Les parents auraient, selon l’autrice de notre «Document 26», tout avantage à s’inspirer de la permaculture pour élever leurs enfants. Une métaphore féconde, portée par une pédopsychiatre inquiète. Dans cet extrait de l’essai «Le drame des enfants parfaits», elle explique ce qui l’a poussée à prendre la plume.
