Nomades
À l’heure de la crise du logement, le nomadisme est-il une forme d’itinérance cachée ou un choix de vie délibéré? Ce texte a remporté la deuxième place au concours d’essais organisé par Nouveau Projet.
L’intelligence superficielle
Pour illustrer ce texte, nous avons demandé à une intelligence artificielle (mage.space) de nous offrir un autoportrait.
Illustration: mage.space
Illustration: mage.space
Publié le :
- Publié dans : Nouveau Projet 24
Concours d’essais
L’intelligence superficielle
Certes, la dernière génération de robots conversationnels affiche d’étonnantes compétences pour produire du texte. Mais écrire, c’est autre chose.
Nous vous présentons ici le texte gagnant de notre concours d’essais 2023.
Considéré dans ce texte
ChatGPT. La peur de voir l’humain remplacé par la machine. La plume de Michel Tremblay. La nécessité de repenser l’épreuve uniforme de français. Les promesses d’Elon Musk.
À la fin de l’année passée, quelques jours avant les congés des Fêtes, le milieu universitaire sonnait à nouveau le tocsin: après la menace woke, c’est désormais celle que représentait la puissante et terrible machine de notre temps, l’intelligence artificielle, qui faisait les manchettes. Un programme venait d’apparaitre, capable de rédiger des textes sur commande, de produire à l’infini des dissertations, essais et articles, sans fautes d’orthographe en prime. Comment, en de telles circonstances, espérer que les élèves résistent à la douce loi du moindre effort et se soumettent à la discipline du crayon ou du clavier? Comment les plier au dur labeur d’enchainer les mots, les uns après les autres, d’accorder les participes passés et de varier (de grâce!) l’emploi des subordonnants?
Ne cédant pas à la panique, j’ai voulu savoir ce que ladite machine avait dans le ventre et je lui ai servi quelques questions de mon cru. Je lui ai soumis en guise d’échauffement des sujets platement scolaires sur Maria Chapdelaine et Voyage au bout de la nuit, puis des exercices à la Pierre Bayard («Écrivez un texte sur le conflit qui oppose Don Juan à la société française des Années folles»). Elle ne s’est pas trop mal tirée d’affaire, je dois l’admettre. Je l’ai ensuite mise à l’épreuve dans des langues plus rares: ce furent des notices en latin sur Cicéron (je n’ai pas fait mes études classiques pour rien!) et, plus difficile, sur Donald Trump. C’est ici que les failles ont commencé à apparaitre, le programme ne sachant que faire de climate change dans la langue de César, de Charles Aznavour en grec ancien (il ne connait de grec que le moderne, tenez-vous-le pour dit), de François 1er en vieux norrois (ce dont je ne peux pas vraiment juger, mais l’abondance des lettres h, g, k et r laisse présager qu’il est au moins compétent à produire des deep fakes médiévaux). Polyglotte, certes, mais piètre oulipien, il ne m’a pas pondu le texte sans la lettre e que j’espérais, s’étant contenté de caviarder la lettre interdite dans un conte de fées de son invention. Je lui ai ensuite commandé des entretiens. Celui avec Michel Houellebecq m’a fait périr d’ennui: le domaine de l’intelligence artificielle ne va visiblement pas jusqu’à saisir l’essence du dandysme posthistorique. Je n’ai pas eu plus de chance en entrevue avec Platon. À ma grande déception et à celle des spécialistes de la philosophie, le script s’est interrompu à la question «Quels sont vos projets futurs en tant que philosophe?».
Cet éventail de demi-réussites a soulagé certaines de mes craintes, mais la somme des fantasmes projetés sur la machine m’interroge toujours. Une inquiétude mêlée de fascination semble nous saisir collectivement chaque fois que la technologie empiète sur des prérogatives jusque-là exclusivement humaines. Et les réponses apportées ici ou là aux questions qu’elle soulève nous satisfont rarement, trop souvent formulées sur le ton d’«on n’arrête pas le progrès».
La nouvelle bibliothèque de Babel?
Là où ChatGPT impressionne davantage, même s’il s’agit de l’effet le plus attendu de toute technologie informatique, c’est qu’il nous permet, dans le confort de notre canapé, de vivre une expérience de l’infini. La profusion de textes disponibles en quelques secondes sur n’importe quel sujet a quelque chose d’enivrant, où se mêlent l’excitation et la peur d’avoir franchi une autre étape vers l’obsolescence de nos capacités humaines, trop humaines. ChatGPT suscite tellement de discussions (bien davantage que le générateur d’images Craiyon, dont les résultats restent approximatifs, ou SAM-Bach, celui qui ne fait que des chorals à la manière du Kantor de Leipzig) parce qu’en s’aventurant soudainement sur le terrain de la littérature, il nous expose à une avancée technologique majeure.
Revenons d’abord quelques années en arrière, quand «sérendipité» (serendipity, en anglais) est devenue la nouvelle expression à la mode. C’était cela, le mot qui définissait l’innovation: grâce à leurs moteurs de recherche, Google et consorts offraient l’expérience d’un vieux sentiment oublié, la satisfaction soudaine de trébucher sur une nouvelle découverte. Comme Archimède dans son bain, Newton à l’ombre du pommier ou Rousseau faisant la sieste sous les murs de Vincennes, nous serions, sans le savoir, toujours sur le point de découvrir quelque chose. Les réseaux de données que la machine tisse à partir de nos requêtes seraient riches d’affinités inédites entre les choses, laissant à l’imagination humaine le pouvoir d’en trouver le sens caché. Or, peu soucieuse de ces considérations idéalistes, l’intelligence artificielle effectue maintenant le travail de sérendipité à notre place. C’est elle qui produit le texte ou l’image, amenuisant encore plus la part d’initiative dans le processus. Mais est-il si certain que les résultats, pour être plus rapides à obtenir, demeurent de quelque pertinence?
À cet effet, je dois dire, ChatGPT laisse franchement à désirer. Nous sommes avec lui au cœur de quelque chose qui ressemble à «la Bibliothèque de Babel». Tout le drame des bibliothécaires, dans la nouvelle de Borges, est de ne parvenir qu’au prix d’une vie d’efforts à trouver une suite intelligible de mots dans le labyrinthe constitué de tout ce qui peut s’écrire au moyen de l’alphabet. Nous autres, à peine plus heureux·euses que les personnages de la nouvelle, nous tombons sans cesse sur des écrits intelligibles, mais assez ordinaires; des résumés et des sommaires de choses archiconnues par ailleurs (souvent trouvées sur Wikipédia). Nous sommes dans la même impasse: nous recherchons du sens et ne le trouvons pas, nous n’y trouvons qu’une combinatoire de caractères ou de phrases toutes faites. En un mot, dans le monde de ChatGPT, la sérendipité est le fait de trouver les réponses toutes faites aux questions que nous ne prendrions pas la peine de nous poser.
L’éternel retour du même
Bien sûr, ChatGPT n’est pas responsable de nos angoisses ni de ses demi-réussites. Il demeure un programme informatique (de pro-gramma, «écrit à l’avance») et, à ce titre, il ne fait rien d’autre que d’effectuer des opérations dont le script a été pensé d’avance. Ce n’est pas parce que, grâce au deep learning, il peut enrichir sa base de données d’une quantité inédite de textes que la combinatoire à laquelle il s’adonne est porteuse de créativité. Il ne peut que réécrire ce qui l’a déjà été, ce qui explique notamment pourquoi les différentes entrevues avec Michel Tremblay, Louis-Ferdinand Céline ou Rabelais dont je lui ai passé commande sont aussi répétitives. ChatGPT ne peut produire que d’infinies variations sur des thèmes passablement usés. Toute la littérature du monde, apparemment, est trop encombrée d’essais amateurs, d’articles inutiles, de pages web appliquant les mêmes recettes, de blogues et sites corporatifs sans imagination et, au sens de la machine, chacune des entrevues qui ont été publiées sur cette planète, toutes celles des magazines 7 Jours et Paris Match de ce monde, pèsent le même poids que les échanges d’Usbek et Rica dans Les lettres persanes. C’est sans doute pourquoi l’apprentissage machine ne donne que des écrits assez conventionnels, quoi qu’en aient dit, par ailleurs, certains médias sur la qualité de ses imitations (demandez-le-lui et vous verrez: il ne suffit pas d’écrire toé et de parler du Canadien pour faire un dialogue en joual). En somme, le texte moyen qu’il déduit de toute notre production écrite est un texte médiocre.
S’il y a humiliation, donc, ce n’est pas qu’une autre des prérogatives humaines soit usurpée par la machine, c’est le constat que l’écrit moyen de l’humanité ne vaut pas grand-chose. Créé à notre image, ChatGPT reproduit à l’infini le bruit incessant de l’internet, condamnant de fait l’intelligence artificielle à allonger sans trêve la chaine des textes de remplissage dont nous avons enfilé les premiers maillons. C’est bien l’humanité et sa propension au bavardage qui sont responsables des platitudes de ChatGPT, de ses arguments pour et contre à n’importe quel sujet qui au fond se valent bien. Nous sommes victimes de l’hyperinflation des écrits à laquelle nous avons donné cours et qui promet de prendre de nouvelles dimensions, quand les ChatGPT de l’avenir opèreront à partir de la manne produite par les ChatGPT d’aujourd’hui. Il n’y aura pas de dépassement, pas de moment de «singularité», que l’éternel retour du même texte, de plus en plus fréquent, de plus en plus homogène partout où nous chercherons de quoi lire pour donner un peu de sens au monde que nous habitons.
Le plastique et la plume
Pour répondre plus concrètement aux angoisses des enseignants et enseignantes, mettons certaines choses au clair. Un tour d’essai sur ChatGPT révèle bien vite que sa syntaxe est à l’avenant du Simple English, qui a fait son apparition sur Wikipédia il y a quelques années: la séquence sujet-verbe-complément y est reine, les connecteurs logiques de ses textes soi-disant d’opinion sont toujours les mêmes, disposés suivant le même ordre, les phrases suivent des schémas prévisibles, dans ce qui pourrait s’apparenter à un travail scolaire. Au reste, ChatGPT peut bien évidemment résumer à gros traits certaines idées maitresses d’une œuvre, mais il est de peu de secours lorsqu’il s’agit de faire ressentir la force d’évocation d’une métaphore ou le dilemme intérieur de la princesse de Clèves. Je doute que nous soyons longtemps leurré·e·s par ses ressources intellectuelles et linguistiques qui sont au français ce que le plastique est à la production industrielle: le moyen de fournir en abondance des produits de basse qualité à usage unique.
Finalement, si un texte écrit par ChatGPT passe la barre, c’est sans doute que nous l’avions mise au mauvais endroit. La correction de l’épreuve uniforme de français, où le critère de maitrise de la langue—30 fautes permises—semble être devenu le seul à valeur éliminatoire, devra être revue, tout comme nos exigences dans les autres niveaux d’éducation. Non pas que la correction de la langue ne soit plus un souci: on ne peut pas dissocier l’orthographe des autres apprentissages relatifs au soin de l’écrit, comme la richesse du vocabulaire, la variété de la syntaxe et le ton, qui s’acquièrent par la même discipline. Ce sont justement ces apprentissages-là, solidaires du premier, qui nous permettent d’échapper au formatage dont les textes générés par l’intelligence artificielle sont les plus parfaits exemples.
Ce n’est pas la première fois que nous nous trouvons dans une situation comme celle-ci. À la Renaissance, les humanistes pastichaient déjà la sècheresse et l’absurdité de l’argumentation scolastique—qui se pointait alors à tous propos. Les programmes éducatifs qu’ils ont développés en réponse mettaient l’accent sur le style. Le style qui, contrairement à ce qu’on pourrait penser—et que nous pensons, visiblement, puisqu’il y a belle lurette que nous n’avons pas utilisé de manuels de stylistique à l’école—se cultive et s’affine au moyen de la culture et de la pratique, d’où il peut enfin s’affirmer jusqu’à transmettre l’identité de son auteur·trice. Car écrire n’est pas qu’une manière de transmettre de la matière, ce n’est pas qu’une fonction dans la société: écrire permet à un individu de se distinguer et d’apparaitre dans sa différence aux autres. Paradoxalement, sous la pression de la machine capable de tout lire et de tout écrire à notre place, il faut faire lire et faire écrire davantage. Mais il faut exiger autre chose de la lecture et de l’écriture que la simple transmission de l’information; il faut amener au style si tant est qu’il s’agisse encore d’achever des écrits qui signifient quelque chose, qui portent la marque d’un auteur ou d’une autrice. Pour le dire autrement, des écrits qui soient un point de départ et une destination dans le monde humain, qui révèlent un individu et sa personnalité à la communauté.
Le sens de la marche n’est pas le progrès
Je suis donc revenu de mon expérience avec ChatGPT avec l’assu-rance que nous n’avons pas dit notre dernier mot. Certes, je regarde toujours avec appréhension les vendeur·euse·s de miracles technologiques, les Musk et les Kurzweil de ce monde, mais j’apprends à me moquer gentiment de leurs thuriféraires. Le temps me donnera peut-être tort… Néanmoins, ce qui m’inquiète infiniment plus, c’est la passivité de certaines institutions devant l’irruption des nouvelles technologies. Comme s’il s’agissait de simples signes du progrès, nous ne semblons pas nous rendre suffisamment compte que ces nouveaux outils sont les jalons d’un projet politique que nous n’avons pas choisi et devant lequel nous adoptons souvent une attitude fataliste. Sans tout condamner en bloc, interrogeons les machines pour mieux les comprendre, voyons ce qu’elles font et la manière qu’elles ont de le faire, demandons-nous si cela est bien conforme à nos aspirations et à nos désirs; si cela est à l’image d’une véritable éducation dans le cas qui me concerne. Si, en définitive, nous voulons suivre bêtement le sens de la marche. Sans doute lui délèguerons-nous des tâches cléricales de rédaction, mais souhaitons-nous vraiment que l’intelligence artificielle, formatée et convenue par définition, éduque et écrive à notre place?
L’éducation est chargée de perpétuer un idéal intellectuel et civique. Elle détermine la somme des acquis et des comportements attendus des citoyens et des citoyennes. Les programmes d’éducation correspondent aux sociétés qui les maintiennent tout comme ils forment ces mêmes sociétés en leur permettant de se renouveler. La question centrale n’est pas celle de l’usage de ChatGPT à l’école. La question est celle de l’avenir d’une société qui confie à la machine l’expression et la mise en ordre des idées. S’il s’agit seulement de produire un texte et d’obtenir une note, l’intelligence artificielle fait très bien l’affaire. Qu’on regarde alors le proverbial train passer. Mais pour ce qui est d’écrire, de réfléchir, d’initier les citoyens et citoyennes de demain au travail de la pensée et de l’expression, ChatGPT n’est pas une étape vers le progrès (que personne n’arrête, on l’a compris); ChatGPT est un pas en arrière. Il est un recul aussi bien pour l’éducation à la pensée autonome que pour la liberté, individuelle et collective, qui en dépend.
Jean-Nicolas Mailloux est conseiller politique à -l’Assemblée nationale du Québec. Il a auparavant enseigné la littérature québécoise au Collège André-Grasset et la littérature française des 16e et 17e siècles à l’Université Sorbonne Nouvelle à Paris. Lecteur fervent, il voue un culte aux Essais de Montaigne.
Donnez votre opinion!
