Les choses que Isaac Asimov peut encore nous apprendre

Martin Gibert
 credit: Photo: Rochester Institute of Technology
Photo: Rochester Institute of Technology
Publié le :
Ailleurs à Atelier 10

Les choses que Isaac Asimov peut encore nous apprendre

Même s’il est décédé une quinzaine d’années avant l’invention du iPhone, le romancier iconoclaste, et pionnier de la science-fiction, a façonné notre imaginaire collectif vis-à-vis les robots. Et il y a encore des leçons à tirer de ses écrits, selon l’auteur de Faire la morale aux robots, notre Document 17. En voici un extrait.

En 1942, soit 14 ans avant la conférence de Dartmouth qui marque la naissance de l’IA, l’écrivain de science-fiction Isaac Asimov proposait déjà une réponse au problème du contrôle et de l’alignement. Dans sa nouvelle «Cercle vicieux», il édicte ses fameuses lois de la robotique:

1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain ne soit en danger.

2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.

3. Un robot doit protéger son existence tant que cela n’entre pas en conflit avec la première ou la deuxième loi.

Comment éviter une IA hostile? En programmant, pour reprendre le terme inventé par Asimov, le cerveau «positronique» des robots de telle sorte qu’ils servent scrupuleusement les intérêts des humains. Asimov va même jusqu’à classer ses principes par ordre de priorité, ce qui est bien pratique.

Dans la mesure où ils doivent respecter ces lois quelles qu’en soient les conséquences, on peut dire que les robots d’Asimov sont d’abord déontologistes. On notera toutefois un relent conséquentialiste, puisque les omissions («en restant passif») sont traitées sur le même pied que les actions. La tendance se confirmera d’ailleurs en 1985, dans son roman Les robots et l’empire. Asimov y propose une nouvelle loi ayant préséance sur les trois autres, la «loi zéro»:

0. Un robot ne peut pas faire de mal à l’humanité ni, par son inaction, la mettre en danger. Autrement dit, il y a au moins une conséquence que les robots doivent prendre en compte: la destruction possible de l’humanité—ce que Bostrom nommerait assurément un risque existentiel.


Mais qui est donc cet écrivain qui vient jouer dans les ­platebandes des philosophes? Souvent décrit comme un précipité de nerd, d’égo, d’humour et d’inventivité, c’est l’un des maitres de la science-fiction américaine. Docteur en biochimie, il a passé l’essentiel de son temps à écrire des recueils de nouvelles et des livres de vulgarisation scientifique: l’enfant surdoué qui dévorait en cachette des pulps, ces magazines populaires vendus dans tous les bons dépanneurs, s’était même fixé l’objectif mégalomane de publier 500 livres. Il y est parvenu.

Et mine de rien, il est aussi parvenu à structurer notre imaginaire et notre perception des robots. Avec Asimov, on rompt avec l’esthétique du robot tueur qui déferlait sur les couvertures des premiers magazines de SF. Les robots ne sont pas hostiles, ils sont obéissants—souvent trop obéissants.

Ainsi, dans L’homme bicentenaire (1976), c’est parce que le robot Andrew se voit maltraité et démantibulé par de jeunes garçons sans pouvoir se défendre—il doit respecter la première loi—qu’il se donne comme objectif de «devenir un homme». Il y parviendra à l’âge vénérable de 200 ans en mettant fin à ses jours: Andrew viole ainsi la troisième loi, mais en plaidant qu’il s’est par là même émancipé de son statut de robot. 

Être humain, nous dit en substance Asimov, c’est pouvoir prendre la décision d’en finir avec l’existence.


Philosophe spécialisé en psychologie morale, Martin Gibert est chercheur en éthique de l'intelligence artificielle à l'Université de Montréal, affilié au Centre de recherche en éthique et à l'Institut de valorisation des données. Il a publié plusieurs livres, dont Faire la morale aux robots, issus de notre collection Documents.


Pour aller plus loin

Faire la morale aux robots est le 17e titre paru dans la collection Documents

Continuez sur ce sujet

  •  credit: Illustration (recadrée): Sandrine Corbeil
    Société

    Comment j’ai décidé de faire ma part

    Les parents auraient, selon l’autrice de notre «Document 26», tout avantage à s’inspirer de la permaculture pour élever leurs enfants. Une métaphore féconde, portée par une pédopsychiatre inquiète. Dans cet extrait de l’essai «Le drame des enfants parfaits», elle explique ce qui l’a poussée à prendre la plume.

  • Société

    Martin PM: le bédéiste au secours de la biodiversité

    Malgré le énième avertissement émis par les experts de la COP15, le grignotage des milieux naturels se poursuit à un rythme effréné dans la province. Biologiste, ancien employé du ministère de l’Environnement et bédéiste de talent, Martin PM a enquêté sur les modalités d’autorisation de ces chantiers qui empiètent petit à petit sur la nature québécoise.

  •  credit: Photo: Yves Renaud
    Société

    «On a construit un pont, pis on l’a j’té à terre»

    «Projet Polytechnique», notre Pièce 37, s’interroge sur le chemin parcouru depuis le drame de 1989, et notamment sur le rapport des Québécois·es aux armes à feu. Nathalie Provost, survivante de la tuerie, n’a cessé de se battre pour un plus grand contrôle des armes au Canada. Elle est un des personnages de la pièce.

  •  credit: Photo: Natalia Vaitkevich
    Culture

    Huis clos carcéral

    Chaque semaine, Amaryllis visite Anthony au pénitencier. Deux êtres que tout oppose n’auront d’autre choix que de s’apprivoiser, avec les mots comme seul terrain de rencontre. Extrait du 36e titre de la collection «Pièces», vainqueur du prix Gratien-Gélinas 2022 pour la relève en écriture dramatique.

Atelier 10 dans votre boite courriel
S'abonner à nos infolettres