Denis Côté: le cinéaste affranchi
Le réalisateur de Curling et Répertoire des villes disparues revient de loin, et c’est précisément ce qu’il raconte dans son essai à paraitre dans «Nouveau Projet 28.» En voici un avant-gout.
Même s’il est décédé une quinzaine d’années avant l’invention du iPhone, le romancier iconoclaste, et pionnier de la science-fiction, a façonné notre imaginaire collectif vis-à-vis les robots. Et il y a encore des leçons à tirer de ses écrits, selon l’auteur de Faire la morale aux robots, notre Document 17. En voici un extrait.
En 1942, soit 14 ans avant la conférence de Dartmouth qui marque la naissance de l’IA, l’écrivain de science-fiction Isaac Asimov proposait déjà une réponse au problème du contrôle et de l’alignement. Dans sa nouvelle «Cercle vicieux», il édicte ses fameuses lois de la robotique:
1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain ne soit en danger.
2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cela n’entre pas en conflit avec la première ou la deuxième loi.
Comment éviter une IA hostile? En programmant, pour reprendre le terme inventé par Asimov, le cerveau «positronique» des robots de telle sorte qu’ils servent scrupuleusement les intérêts des humains. Asimov va même jusqu’à classer ses principes par ordre de priorité, ce qui est bien pratique.
Dans la mesure où ils doivent respecter ces lois quelles qu’en soient les conséquences, on peut dire que les robots d’Asimov sont d’abord déontologistes. On notera toutefois un relent conséquentialiste, puisque les omissions («en restant passif») sont traitées sur le même pied que les actions. La tendance se confirmera d’ailleurs en 1985, dans son roman Les robots et l’empire. Asimov y propose une nouvelle loi ayant préséance sur les trois autres, la «loi zéro»:
0. Un robot ne peut pas faire de mal à l’humanité ni, par son inaction, la mettre en danger. Autrement dit, il y a au moins une conséquence que les robots doivent prendre en compte: la destruction possible de l’humanité—ce que Bostrom nommerait assurément un risque existentiel.
Mais qui est donc cet écrivain qui vient jouer dans les platebandes des philosophes? Souvent décrit comme un précipité de nerd, d’égo, d’humour et d’inventivité, c’est l’un des maitres de la science-fiction américaine. Docteur en biochimie, il a passé l’essentiel de son temps à écrire des recueils de nouvelles et des livres de vulgarisation scientifique: l’enfant surdoué qui dévorait en cachette des pulps, ces magazines populaires vendus dans tous les bons dépanneurs, s’était même fixé l’objectif mégalomane de publier 500 livres. Il y est parvenu.
Et mine de rien, il est aussi parvenu à structurer notre imaginaire et notre perception des robots. Avec Asimov, on rompt avec l’esthétique du robot tueur qui déferlait sur les couvertures des premiers magazines de SF. Les robots ne sont pas hostiles, ils sont obéissants—souvent trop obéissants.
Ainsi, dans L’homme bicentenaire (1976), c’est parce que le robot Andrew se voit maltraité et démantibulé par de jeunes garçons sans pouvoir se défendre—il doit respecter la première loi—qu’il se donne comme objectif de «devenir un homme». Il y parviendra à l’âge vénérable de 200 ans en mettant fin à ses jours: Andrew viole ainsi la troisième loi, mais en plaidant qu’il s’est par là même émancipé de son statut de robot.
Être humain, nous dit en substance Asimov, c’est pouvoir prendre la décision d’en finir avec l’existence.
Philosophe spécialisé en psychologie morale, Martin Gibert est chercheur en éthique de l'intelligence artificielle à l'Université de Montréal, affilié au Centre de recherche en éthique et à l'Institut de valorisation des données. Il a publié plusieurs livres, dont Faire la morale aux robots, issus de notre collection Documents.
Pour aller plus loin
Faire la morale aux robots est le 17e titre paru dans la collection Documents
Le réalisateur de Curling et Répertoire des villes disparues revient de loin, et c’est précisément ce qu’il raconte dans son essai à paraitre dans «Nouveau Projet 28.» En voici un avant-gout.
Avec un humour mordant et une grande liberté de ton, Camille Giguère-Côté nous invite à lutter contre les mille nuances de beige qui envahissent notre existence. Extrait du «Show beige», prochain titre à paraitre dans notre collection «Pièces».
À Montréal, c’est à Cité-des-Prairies que sont exécutées les peines les plus sévères prévues par la Loi sur le système de justice pénale pour les adolescents. Avec la complicité de l’illustratrice Alexandra Dion-Fortin, le sociologue Nicolas Sallée dévoile l’équilibre fragile d’un lieu dont la structure carcérale contredit constamment les visées de réhabilitation.
Dans «Personne ne s’excusera», Aurélie Lanctôt aborde de front une contradiction profonde dans notre conception de la justice: que pour prévenir la violence, nous acceptions de l’exercer à notre tour par l’intermédiaire du système pénal de l’État, et d’ainsi participer à sa reproduction dans notre société.