Les choses que Isaac Asimov peut encore nous apprendre

Martin Gibert
Photo: Rochester Institute of Technology
Publié le :
Ailleurs à Atelier 10

Les choses que Isaac Asimov peut encore nous apprendre

Même s’il est décédé une quinzaine d’années avant l’invention du iPhone, le romancier iconoclaste, et pionnier de la science-fiction, a façonné notre imaginaire collectif vis-à-vis les robots. Et il y a encore des leçons à tirer de ses écrits, selon l’auteur de Faire la morale aux robots, notre Document 17. En voici un extrait.

En 1942, soit 14 ans avant la conférence de Dartmouth qui marque la naissance de l’IA, l’écrivain de science-fiction Isaac Asimov proposait déjà une réponse au problème du contrôle et de l’alignement. Dans sa nouvelle «Cercle vicieux», il édicte ses fameuses lois de la robotique:

1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain ne soit en danger.

2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.

3. Un robot doit protéger son existence tant que cela n’entre pas en conflit avec la première ou la deuxième loi.

Comment éviter une IA hostile? En programmant, pour reprendre le terme inventé par Asimov, le cerveau «positronique» des robots de telle sorte qu’ils servent scrupuleusement les intérêts des humains. Asimov va même jusqu’à classer ses principes par ordre de priorité, ce qui est bien pratique.

Dans la mesure où ils doivent respecter ces lois quelles qu’en soient les conséquences, on peut dire que les robots d’Asimov sont d’abord déontologistes. On notera toutefois un relent conséquentialiste, puisque les omissions («en restant passif») sont traitées sur le même pied que les actions. La tendance se confirmera d’ailleurs en 1985, dans son roman Les robots et l’empire. Asimov y propose une nouvelle loi ayant préséance sur les trois autres, la «loi zéro»:

0. Un robot ne peut pas faire de mal à l’humanité ni, par son inaction, la mettre en danger. Autrement dit, il y a au moins une conséquence que les robots doivent prendre en compte: la destruction possible de l’humanité—ce que Bostrom nommerait assurément un risque existentiel.


Mais qui est donc cet écrivain qui vient jouer dans les ­platebandes des philosophes? Souvent décrit comme un précipité de nerd, d’égo, d’humour et d’inventivité, c’est l’un des maitres de la science-fiction américaine. Docteur en biochimie, il a passé l’essentiel de son temps à écrire des recueils de nouvelles et des livres de vulgarisation scientifique: l’enfant surdoué qui dévorait en cachette des pulps, ces magazines populaires vendus dans tous les bons dépanneurs, s’était même fixé l’objectif mégalomane de publier 500 livres. Il y est parvenu.

Et mine de rien, il est aussi parvenu à structurer notre imaginaire et notre perception des robots. Avec Asimov, on rompt avec l’esthétique du robot tueur qui déferlait sur les couvertures des premiers magazines de SF. Les robots ne sont pas hostiles, ils sont obéissants—souvent trop obéissants.

Ainsi, dans L’homme bicentenaire (1976), c’est parce que le robot Andrew se voit maltraité et démantibulé par de jeunes garçons sans pouvoir se défendre—il doit respecter la première loi—qu’il se donne comme objectif de «devenir un homme». Il y parviendra à l’âge vénérable de 200 ans en mettant fin à ses jours: Andrew viole ainsi la troisième loi, mais en plaidant qu’il s’est par là même émancipé de son statut de robot. 

Être humain, nous dit en substance Asimov, c’est pouvoir prendre la décision d’en finir avec l’existence.


Philosophe spécialisé en psychologie morale, Martin Gibert est chercheur en éthique de l'intelligence artificielle à l'Université de Montréal, affilié au Centre de recherche en éthique et à l'Institut de valorisation des données. Il a publié plusieurs livres, dont Faire la morale aux robots, issus de notre collection Documents.


Pour aller plus loin

Faire la morale aux robots est le 17e titre paru dans la collection Documents

Continuez sur ce sujet

  • Art de vivre

    La solastalgie

    Marqué par une quête de beauté, l’essai «Les paysages intérieurs» dit le deuil des paysages disparus ou transformés à travers le concept de solastalgie. Voici un extrait du dernier titre de notre collection «Documents».

  • Art de vivre

    Les arts comme point de départ

    À l’intersection de la vie en société et de l’expérience individuelle des arts, il est possible de trouver une solution au sentiment d’impuissance qui nous habite souvent. Voici un extrait de «Territoires d’engagement», le deuxième titre de notre collection «Le temps debout».

  • Culture

    Saint Brassard, comédien et martyr

    C’est André Brassard qui a donné envie à Robert Lepage de choisir le métier de metteur en scène. Le contrepoint de notre Pièce 35 («La dernière cassette» d’Olivier Choinière) raconte la rencontre entre ces deux géants du théâtre québécois.

  • Société

    «Qu’est-ce tu connais à misère, toé?»

    Ponctuée des témoignages de jeunes adultes ayant récemment quitté le système de la DPJ, la dernière pièce des Créations Unuknu emprunte les voies de la fiction pour donner à voir toute la complexité des parcours qui se croisent en protection de la jeunesse. Extrait de «Monstres», prochain titre à paraitre dans notre collection «Pièces».

Atelier 10 dans votre boite courriel
S'abonner à nos infolettres