Même s’il est décédé une quinzaine d’années avant l’invention du iPhone, le romancier iconoclaste, et pionnier de la science-fiction, a façonné notre imaginaire collectif vis-à-vis les robots. Et il y a encore des leçons à tirer de ses écrits, selon l’auteur de Faire la morale aux robots, notre Document 17. En voici un extrait.
En 1942, soit 14 ans avant la conférence de Dartmouth qui marque la naissance de l’IA, l’écrivain de science-fiction Isaac Asimov proposait déjà une réponse au problème du contrôle et de l’alignement. Dans sa nouvelle «Cercle vicieux», il édicte ses fameuses lois de la robotique:
1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain ne soit en danger.
2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cela n’entre pas en conflit avec la première ou la deuxième loi.
Comment éviter une IA hostile? En programmant, pour reprendre le terme inventé par Asimov, le cerveau «positronique» des robots de telle sorte qu’ils servent scrupuleusement les intérêts des humains. Asimov va même jusqu’à classer ses principes par ordre de priorité, ce qui est bien pratique.
Dans la mesure où ils doivent respecter ces lois quelles qu’en soient les conséquences, on peut dire que les robots d’Asimov sont d’abord déontologistes. On notera toutefois un relent conséquentialiste, puisque les omissions («en restant passif») sont traitées sur le même pied que les actions. La tendance se confirmera d’ailleurs en 1985, dans son roman Les robots et l’empire. Asimov y propose une nouvelle loi ayant préséance sur les trois autres, la «loi zéro»:
0. Un robot ne peut pas faire de mal à l’humanité ni, par son inaction, la mettre en danger. Autrement dit, il y a au moins une conséquence que les robots doivent prendre en compte: la destruction possible de l’humanité—ce que Bostrom nommerait assurément un risque existentiel.
Mais qui est donc cet écrivain qui vient jouer dans les platebandes des philosophes? Souvent décrit comme un précipité de nerd, d’égo, d’humour et d’inventivité, c’est l’un des maitres de la science-fiction américaine. Docteur en biochimie, il a passé l’essentiel de son temps à écrire des recueils de nouvelles et des livres de vulgarisation scientifique: l’enfant surdoué qui dévorait en cachette des pulps, ces magazines populaires vendus dans tous les bons dépanneurs, s’était même fixé l’objectif mégalomane de publier 500 livres. Il y est parvenu.
Et mine de rien, il est aussi parvenu à structurer notre imaginaire et notre perception des robots. Avec Asimov, on rompt avec l’esthétique du robot tueur qui déferlait sur les couvertures des premiers magazines de SF. Les robots ne sont pas hostiles, ils sont obéissants—souvent trop obéissants.
Ainsi, dans L’homme bicentenaire (1976), c’est parce que le robot Andrew se voit maltraité et démantibulé par de jeunes garçons sans pouvoir se défendre—il doit respecter la première loi—qu’il se donne comme objectif de «devenir un homme». Il y parviendra à l’âge vénérable de 200 ans en mettant fin à ses jours: Andrew viole ainsi la troisième loi, mais en plaidant qu’il s’est par là même émancipé de son statut de robot.
Être humain, nous dit en substance Asimov, c’est pouvoir prendre la décision d’en finir avec l’existence.
Philosophe spécialisé en psychologie morale, Martin Gibert est chercheur en éthique de l'intelligence artificielle à l'Université de Montréal, affilié au Centre de recherche en éthique et à l'Institut de valorisation des données. Il a publié plusieurs livres, dont Faire la morale aux robots, issus de notre collection Documents.
Pour aller plus loin
Faire la morale aux robots est le 17e titre paru dans la collection Documents
Près de dix ans après avoir parcouru les réserves autochtones du Québec, Philippe Ducros a fait de sa pièce «La cartomancie du territoire» un film, qui sera projeté pour la première fois dans le cadre du Festival de Cinéma de la Ville de Québec. À cette occasion, voici la première scène du texte original, publié dans notre collection «Pièces».
Une histoire familiale multiculturelle, un réseau stimulant et des talents variés: la créativité du jeune comédien et auteur de «Chevtchenko», prochaine pièce à paraitre chez Atelier 10, s’abreuve à de nombreuses sources et promet le meilleur pour l’avenir.
Debbie Lynch-White se réapproprie les insultes qui ont été proférées à son endroit dans ce texte qui place un projecteur sur l’horreur de la violence verbale. Des mots écrits en guise de contrepoint pour «Pisser debout sans lever sa jupe» d’Olivier Arteau, notre «Pièce 38».
Les gens qui ont voyagé le savent: s’il y a bien quelque chose d’universel, en ce bas monde, c’est la laideur des chemins qui mènent des aéroports aux centres des villes. Dans «La vie habitable», notre «Document 06», la femme de théâtre Véronique Côté s’intéresse au morne décor des banlieues.
