Mises-en-bouche
Vénérable Maître et Vous, [mes Sœurs et] mes Frères en vos grades et qualités, je sais qu’une question lancinante vous taraude, au point d’avoir pris plus d’un apéritif en salle humide, afin de noyer votre malaise existentiel avant l’ouverture de nos travaux. Plus précisément, deux interrogations vous minent le moral. La première concerne la longueur de ma planche de ce midi (« Va-t-il dépasser les 45 minutes prescrites ?« ) et la seconde, nous l’avons tous [et toutes] en tête, tient en une question simple : « Allons-nous un jour initier un robot doté d’un moteur d’Intelligence Artificielle afin de permettre à nos travaux de nous rapprocher plus rapidement de la Vérité ? »
Aux deux questions, la réponse est « non », selon moi. Selon moi et selon l’algorithme simple grâce auquel je surveille le décompte des mots de ma planche. Il me confirme qu’elle tourne autour des 6.750 mots, soit 45 minutes de temps de parole. Pour réponse à la question 1, donc : non, nous ne serons donc pas en retard pour les Agapes. Ensuite, pour répondre à la question 2 : il y a peu de chances qu’un robot (fut-il assez brillant pour passer le filtre de nos Triangles) puisse un jour siéger parmi nous et y exercer son intelligence… artificielle.
Sans vouloir manquer de respect envers nos Apprentis, je ne doute pas qu’un robot puisse assurer le service en Salle humide, même en cas de fêtes conjuguées de plusieurs Ateliers ; d’autant que l’on aura probablement équipé ledit robot avec des bras supplémentaires pour lui rendre la tâche plus aisée. Mais je doute par contre que nous puissions partager avec lui cet humour si raffiné, si bienveillant et si didactique avec lequel nous traitons nos petits nouveaux, heureux que nous sommes d’avoir adoubé de nouveaux maillons, probes et libres.
Car libres, les algorithmes ne le sont pas (ils sont en fait dépendants de leurs cartes-mémoires) et, probes, ils le sont d’autant moins puisque, lorsqu’on leur demande de dire la Vérité, ils en fabriquent une qui est… statistiquement la plus probable !
Pour filer le parallèle, en initiant nos Apprentis, nous misons premièrement sur leur liberté de pensée et le travail de libération des dogmes et des assuétudes auquel ils pourront s’entraîner avec nous ; nous parions ensuite sur leur probité en ceci qu’ils représentent l’ordre tout entier dans le monde profane, OK, mais surtout parce que nous attendons, en retour de notre légendaire bienveillance, qu’ils partagent en toute sincérité leur expérience du cheminement maçonnique ; enfin, puisque nous savons que de vérité il n’y a pas plus que de secret maçonnique, nous espérons que toute vérité individuelle qu’ils soumettront au débat sera la plus pertinente… et pas, statistiquement, celle qui nous séduirait le plus.
La liberté, la probité et la pertinence : ce midi, nous allons donc ensemble nous appuyer sur ces points de comparaison entre intelligence artificielle et intelligence humaine pour déduire le travail à entreprendre afin de ne pas vivre une singularité de l’histoire de l’humanité, où les seuls prénoms disponibles pour nos enfants resteraient Siri, Alexa ou leur pendants masculins…
Pour mémoire, le mot singularité – ici, singularité technologique – désigne ce point de rupture où le développement d’une technique devient trop rapide pour que les anciens schémas permettent de prévoir la suite des événements.
La même notion est employée pour décrire ce qui se passe à proximité d’un trou noir : les grandeurs qui d’habitude décrivent l’espace-temps y deviennent infinies et ne permettent plus de description au départ des paramètres connus. D’où notre choix plus que raisonnable de ne pas prendre le trou noir comme symbole en Loge et de lui préférer une étoile flamboyante…
Mais, revenons à l’Intelligence Artificielle car tout débat a besoin d’un contexte. En effet, à moins de croire en un dieu quelconque, aucun objet de pensée ne peut décemment être discuté dans l’absolu et, cet absolu, nous n’y avons pas accès.
Alors versons à ce dossier ‘très tendance’ quelques pièces, à titre de mises en bouche…
- Pièce n°1 : Brièvement d’abord. Un panneau affiché dans une bibliothèque anglophone évoque la menace d’un grand remplacement avec beaucoup d’humour (merci FaceBook), je cite : « Merci de ne pas manger dans la bibliothèque : les fourmis vont pénétrer dans la bibliothèque, apprendre à lire et devenir trop intelligentes. La connaissance c’est le pouvoir, et le pouvoir corrompt, donc elles vont devenir malfaisantes et prendre le contrôle du monde. Sauvez-nous de l’apocalypse des fourmis malfaisantes. »
Au temps pour les complotistes de tout poil : l’intelligence artificielle est un merveilleux support de panique, puisqu’on ne la comprend pas. Qui plus est, l’AI ou IA est un sujet porteur pour les médias : je ne doute pas que les sociétés informatiques qui en vendent se frottent les mains face au succès de ce nouveau « marronnier », qui trouve sa place dans les gros titres, pendant les périodes sans scoop, parmi les « Adaptez notre régime minceur avant l’été« , « Elvis Presley n’est pas mort : les archives de la CIA le prouvent« , « L’intelligence artificielle signe la fin de l’humanité » et, si vraiment on n’a plus rien à dire, un dossier « Secrets de la Franc-Maçonnerie : la septième photo va vous étonner. » Plus on en parle, plus on en vend, ne l’oublions pas. - Pièce n°2 : Moins rigolo mais toujours dans des domaines prisés par les alarmistes, la confidentialité serait mise à mal par l’utilisation des IA. Là, on revient à une réalité, celle des entreprises : pour répondre à des cahiers spéciaux des charges de plus en plus exigeants et dévoreurs de temps, beaucoup de responsables commerciaux s’adjoignent l’assistance de ChatGPT (licence payante) pour rédiger leur documents de soumission et, ce faisant, partagent des données confidentielles de leur entreprise avec le GPT (GPT signifie en anglais Generative Pre-trained Transformer, soit transformeur génératif pré-entraîné que j’aurais plutôt traduit par « transformateur » en français). Si c’est confortable, économise beaucoup de temps et donne des résultats surprenants de pertinence en termes techniques, cela reste une faute professionnelle grave !
Autre chose est l’utilisation individuelle du même outil (même licence payante) par des consultants indépendants qui doivent également « pisser à la copie », comme on dit, et qui demandent à ChatGPT une première version du texte qu’ils doivent rédiger, un brouillon, un draft, sur lequel ils reviennent ensuite pour lui donner « forme humaine ». - Pièce n°3 : J’ai moi-même fait l’expérience lorsqu’il m’a fallu rédiger un article nécrologique sur André Stas dans wallonica.org, ma petite encyclopédie en ligne.
André Stas était un artiste pataphysicien liégeois né en 1949, qui vient de passer l’arme à gauche en 2023. Par curiosité, j’ai demandé à ChatGPT qui était André Stas.
Réponse du robot : « André Stas était un chimiste belge du XIXe siècle, né le 30 décembre 1813 à Leuven en Belgique et décédé le 13 décembre 1864 à Schaerbeek. Il est surtout connu pour sa découverte de la loi de Stas, qui a permis d’établir avec précision les masses atomiques des éléments chimiques. […] Cette méthode a été essentielle pour la compréhension de la composition chimique de la matière, et a jeté les bases de la chimie moderne. […] Sa contribution à la science lui a valu de nombreux honneurs, notamment l’élection à l’Académie royale des sciences, des lettres et des beaux-arts de Belgique en 1850. » Français 10/10. Réponse impressionnante de précision… mais pas vraiment de pertinence !
La réponse du robot est identique si la question devient : “Qui était le liégeois André Stas ?” et lorsque ChatGPT est à nouveau sollicité avec la question “Qui était l’artiste liégeois André Stas ?“, la réponse ne se fait pas attendre : « Je suis désolé, mais il n’y a pas d’artiste liégeois connu sous le nom d’André Stas. Le nom André Stas est généralement associé à un chimiste belge du XXe siècle, comme je l’ai expliqué dans ma réponse précédente. »
Le chimiste belge évoqué s’appelait en fait Jean-Servais Stas ; la datation donnée (1813-1864) aurait dû être (1813-1891) et, personnellement, j’avais l’habitude de situer ces dates au XIXe siècle, et non au XXe ; par ailleurs, notre André Stas n’était pas un inconnu : la messe est dite ! - Pièce n°4 : Une expérience similaire a été faite par le sémanticien français, Michelange Baudoux, qui a donné à ChatGPT le devoir suivant : « Quelles sont les trois caractéristiques les plus importantes de l’humour chez Rabelais ? Illustre chaque caractéristique avec un exemple suivi d’une citation avec référence à la page exacte dans une édition de ton choix. » Du niveau BAC, du lourd…
Avec l’apparence d’une confiance en soi totale, le robot a répondu par un texte complet et circonstancié, qui commençait par le nécessaire « Voici trois caractéristiques de l’humour chez Rabelais, illustrées avec des exemples et des citations… » Vérification faite, les trois caractéristiques étaient crédibles mais… les citations étaient inventées de toutes pièces et elles étaient extraites d’un livre… qui n’a jamais existé. Dans son article Baudoux explique en outre pourquoi, selon lui, « intelligence artificielle » est un oxymore (un terme contradictoire). Détail intriguant : il tutoie spontanément le robot qu’il interroge. D’où lui vient cette familiarité ? - Pièce n°5 : Le grand remplacement n’est pas qu’un terme raciste, il existe aussi dans le monde de la sociologie du travail.
« Les machines vont-elles nous remplacer professionnellement » était le thème d’un colloque de l’ULiège auquel j’ai assisté et au cours duquel un chercheur gantois a remis les pendules à l’heure sur le sujet. Il a corrigé deux points cruciaux qui, jusque là, justifiaient les cris d’orfraie de l’Office de l’Emploi belge et des syndicats.
Le premier concernait l’étude anglaise qui aurait affirmé que 50 % des métiers seraient exercés par des robots en 2050. Le texte original disait « pourrait techniquement être exercés« , ce qui est tout autre chose et avait échappé aux journalistes qui avaient sauté sur le scoop. D’autant plus que, deuxième correction : si la puissance de calcul des Intelligences Artificielles connaît une croissance exponentielle (pour les littéraires, dont je suis : ça veut dire « beaucoup et chaque fois beaucoup plus« ), les progrès de la robotique qui permet l’automatisation des tâches sont d’une lenteur à rendre jaloux un singe paresseux sous Xanax. Bonne nouvelle, donc, pour nos Apprentis ils garderont leur job derrière le bar. - Pièce n°6 : Dans le même registre (celui du grand remplacement professionnel, pas de la manière de servir 3 bières à la fois), les juristes anglo-saxons sont moins frileux que les nôtres et, même, ils sont assez excités par l’idée d’un fouineur digital qui puisse effectuer des recherches rapides dans la jurisprudence, c’est à dire, dans le corpus gigantesque de toutes les décisions prises dans l’histoire de la Common Law, le système de droit appliqué par les pays anglo-saxons. Il est alors plutôt question que l’Intelligence Artificielle dépouille des millions de références, pour isoler celles qui sont pertinentes dans l’affaire concernée plutôt que de vraiment déléguer la rédaction des conclusions à soumettre au Juge. Je demanderai discrètement à nos juristes maison s’ils font ou non appel à ChatGPT pour lesdites conclusions…
- Pièce n°7 : Dernière expérience, celle de la crise de foie. Moi qui vous parle ce midi, j’en ai connu des vraies et ça se soigne avec de la Liqueur du Suédois (je vous la recommande pendant les périodes de fêtes). Mais il y a aussi les problèmes de foie symboliques : là où cet organe nous sert à s’approprier les aliments que nous devons digérer et à en éliminer les substances toxiques, il représente symboliquement la révolte et la colère… peut-être contre la réalité.
C’est ainsi que le Titan Prométhée (étymologiquement : le Prévoyant), représentera la révolte contre les dieux, lui qui a dérobé le feu de l’Olympe pour offrir aux hommes les moyens de développer leur première technologie, leurs premiers outils. Zeus n’a pas apprécié et l’a condamné à être enchaîné sur un rocher (la matière, toujours la matière) et à voir son foie dévoré chaque jour par un aigle, ledit foie repoussant chaque nuit. Il sera ensuite libéré par Hercule au cours de la septième saison sur Netflix.
IA : un marteau sans maître ?
Le mythe de Prométhée est souvent brandi comme un avertissement contre la confiance excessive de l’homme en ses technologies. De fait, l’angoisse des frustrés du futur, des apocalyptophiles, comme des amateurs de science-fiction alarmiste, porte sur la révolte des machines, ce moment affreux où les dispositifs prendraient le pouvoir.
Les robots, développés par des hommes trop confiants en leurs capacités intellectuelles, nous domineraient, en des beaux matins qui ne chanteraient plus et qui sentiraient l’huile-moteur. Nous serions alors esclaves des flux de téra-octets circulant entre les différents capteurs de Robocops surdimensionnés, malveillants et ignorants des 3 lois de la robotique formulées par Isaac Asimov en… 1942. Je les cite :
- Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger ;
- Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres entrent en contradiction avec la première loi ;
- Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la première ou la deuxième loi.
Une illustration magnifique de ce moment-là est donnée par Stanley Kubrick dans son film 2001, l’odyssée de l’espace. Souvenez-vous : une expédition scientifique est envoyée dans l’espace avec un équipage de 5 humains, dont trois sont en léthargie (il n’y a donc que deux astronautes actifs) ; cet équipage est secondé par un robot, une Intelligence Artificielle programmée pour réaliser la mission et baptisée HAL (H-A-L : si vous décalez d’un cran chaque lettre, cela donne IBM). HAL n’est qu’intelligence, au point qu’il va éliminer les astronautes quand ceux-ci, pauvres humains, menaceront le succès de la mission. Pour lui, il n’y a pas de volonté de détruire : il est simplement logique d’éliminer les obstacles qui surgissent, fussent-ils des êtres humains.
Kubrick fait de HAL un hors-la-loi selon Asimov (il détruit des êtres humains) mais pousse le raffinement jusqu’à une scène très ambiguë où, alors que Dave, le héros qui a survécu, débranche une à une les barrettes de mémoire du robot, celui-ci affirme : « J’ai peur« , « Mon esprit s’en va, je le sens… » Génie du réalisateur qui s’amuse à brouiller les cartes : une Intelligence Artificielle connaît-elle la peur ? Un robot a-t-il un esprit ? Car, si c’est le cas et que HAL n’est pas simplement un monstre de logique qui compare les situations nouvelles aux scénarios prévus dans sa mémoire, l’Intelligence Artificielle de Kubrick a consciemment commis des assassinats et peut donc être déclarée ‘coupable’…
A la lecture de ces différentes pièces, on peut garder dans notre manche quelques mots-miroirs pour plus tard. Je parle de mots comme ‘menace extérieure’, ‘dispositif’, ‘avenir technologique’, ‘grand remplacement’, ‘confiance dans la machine’, ‘intelligence froide’, ‘rapport logique’ et, pourrait-on ajouter : ‘intellect‘, conscience‘ et ‘menace intérieure‘, nous allons y venir.
Mais, tout d’abord, il faudrait peut-être qu’on y voie un peu plus clair sur comment fonctionne une Intelligence Artificielle (le calculateur, pas la machine mécanique qui, elle, s’appelle un robot). Pour vous l’expliquer, je vais retourner… au début de mes années nonante !
A l’époque, je donnais des cours de traduction à l’ISTI et j’avais été contacté par Siemens pour des recherches sur leur projet de traduction automatique METAL. C’était déjà une application de l’Intelligence Artificielle et le terme était déjà employé dans leurs documents, depuis le début des travaux… en 1961. METAL était l’acronyme de Mechanical Translation and Analysis of Languages. On sentait déjà les deux tendances dans le seul nom du projet : traduction mécanique pour le clan des pro-robotique et analyse linguistique pour le clan des humanistes. Certaines paires de langues avaient déjà été développées par les initiateurs du projet, l’Université du Texas, notamment le module de traduction du Russe vers l’Anglais (on se demande pourquoi, en période de guerre froide).
Siemens a repris le flambeau mais sans connaître le succès escompté, car le modèle de METAL demandait trop… d’intelligence artificielle pour l’époque. Je m’explique brièvement. Le projet était magnifique et totalement idéaliste. Noam Chomsky – qui n’était pas pas encore le philosophe qu’on connaît aujourd’hui – avait développé ce que l’on appelait alors la Grammaire Générative Transformationnelle.
En bon structuraliste, il estimait que toute phrase est générée selon des schémas propre à une langue donnée, mais également qu’il existe une structure du discours universelle, une langue virtuelle à laquelle on pourrait ramener les différentes langues usuelles. C’est cette hypothèse que devait utiliser l’IA de METAL pour traduire automatiquement en quatre temps :
(1) l’IA décompose la syntaxe de la phrase-source en blocs linguistiques [sujet] [verbe de type A] [attribut lié au type A] ou [sujet] [verbe de type B] [objet lié au type B], etc.,
(2) l’IA isole les expressions idiomatiques traduisibles directement, telles quelles (ex. le français ‘tromper son partenaire‘ traduit le flamand ‘buiten de pot pissen‘, littéralement ‘pisser hors du pot‘ : on ne traduit pas la phrase mais on prend l’équivalent idiomatique) puis
(3) l’IA transpose le résultat de cette double analyse dans la syntaxe de la langue-cible puis
(4) le dictionnaire de l’IA traduit les mots qui rentrent dans chacun des blocs. Deux exemples :
-
-
- FR : « Enchanté ! » > UK : « How do you do ! » > expression idiomatique que l’on peut transposer sans traduire la phrase ;
- FR : « Mon Vénérable la joue fair play » > UK : « My Venerable Master is being fair » > phrase où la syntaxe doit être analysée + une expression idiomatique.
-
Le schéma utilisé par les ingénieurs de METAL supposait donc l’existence d’une structure linguistique « virtuelle » postée en amont de toutes les autres, une langue théorique, désincarnée, universelle, un schéma commun à la langue source comme à la langue cible : voilà un concept universaliste fait pour nous plaire, à nous Maçons, mais que la machine n’a pas pu gérer… faute d’intelligence. Sisyphe a donc encore de beaux jours devant lui…
Le grand rêve Chomskien (doit-on dire humaniste) de langue universelle a alors été balayé du revers de la main, pour des raisons économiques, et on en est revenu au modèle bon-marché des correspondances de un à un de SYSTRAN, un autre projet plus populaire qui alignait des paires de phrases traduites que les utilisateurs corrigeaient au fil de leur utilisation, améliorant la base de données à chaque modification… quand tout allait bien.
C’est le modèle qui tourne aujourd’hui derrière un site comme LINGUEE.FR ou GOOGLE TRANSLATE. Pour reprendre les mêmes exemples, si vous demandez la traduction de ‘enchanté‘ hors contexte vous pouvez obtenir ‘charmed‘ ou ‘enchanted‘ aussi bien que « How do you do ! » Pour la deuxième phrase, si vous interrogez LINGUEE.FR, et que vous constatez que la traduction anglaise enregistrée est « My Venerable Monster is being fair » (ce qui équivaut à « Mon vieux dragon est blondinet« ), vous signalez l’erreur et votre correction améliorera automatiquement la mémoire de référence et ainsi de suite…
A l’époque, nous utilisions déjà des applications de TAO (ce n’est pas de la philosophie, ici : T.A.O. est l’acronyme de Traduction Assistée par Ordinateur). Elles fonctionnaient selon le même modèle. Dans notre traitement de texte, il suffisait d’ouvrir la mémoire de traduction fournie par le client (Toyota, Ikea ou John Deere, par exemple), c’est-à-dire, virtuellement, un gigantesque tableau à deux colonnes : imaginez simplement une colonne de gauche pour les phrases en anglais et, en regard, sur la droite, une colonne pour leurs traductions déjà faites en français.
On réglait ensuite le degré de similarité avec lequel on voulait travailler. 80% voulait dire qu’on demandait à l’application de nous fournir toute traduction déjà faite pour ce client-là, qui ressemblait au minimum à 80% à la phrase à traduire.
Exemple pour un mode d’emploi IKEA : je dois traduire l’équivalent de « Introduire la vis A23 dans le trou préforé Z42 » et cette phrase est similaire à plus de 80% à la phrase, déjà traduite dans la mémoire, « Introduire le tenon A12 dans le trou préforé B7« . Le logiciel me proposera la traduction existant dans sa mémoire comme un brouillon fiable puisqu’elle est exacte… à plus de 80%.
La seule différence avec l’Intelligence Artificielle dont nous parlons aujourd’hui est que le GPT répond avec assurance, comme s’il disait la vérité… à 100% !
Dans cet exemple, dire que le moteur informatique d’Intelligence Artificielle est malhonnête serait une insulte pour notre intelligence… humaine : un algorithme n’a pas conscience de valeurs comme la droiture ou, comme nous le disions, comme la probité.
Ceci nous renvoie plutôt à nous-mêmes, au statut que nous accordons, en bon prométhéens, à un simple outil !
Si Kubrick brouille les cartes (mémoire) avec la possibilité d’un robot doté d’une conscience en… 1968, il est beaucoup plus sérieux quand il montre le risque encouru, si l’on donne les clefs du château à un dispositif dont le fonctionnement est purement logique (je n’ai pas dit ‘raisonnable’). Dans son film, il y a bel et bien mort d’homme… du fait d’un robot !
Le maître sans marteau ?
La problématique n’est pas nouvelle. Depuis l’histoire de Prométhée et du feu donné aux hommes, beaucoup de penseurs plus autorisés que nous ont déjà exploré la relation de l’Homme avec ses dispositifs. Des malins comme Giorgio Agamben, Jacques Ellul, Michel Foucault ou le bon vieux Jacques Dufresne, ont questionné notre perception du monde, l’appropriation de notre environnement, selon qu’elle passe ou non par des dispositifs intermédiaires, en un mot, par des médias au sens large.
C’est ainsi que différence est faite entre, d’une part, la connaissance immédiate que nous pouvons acquérir de notre environnement (exemple : quand vous vous asseyez sur une punaise et que vous prenez conscience de son existence par la sensation de douleur aux fesses émise dans votre cerveau) et, d’autre part, la connaissance médiate, celle qui passe par un dispositif intermédiaire, un médium. Par exemple : je ne pourrais pas lire ma planche de ce midi, sans l’aide de mes lunettes.
Ces lunettes sont un dispositif passif qui m’aide à prendre connaissance de mon environnement dans des conditions améliorées. Dans ce cas, le dispositif est un intermédiaire dont la probité ne fait aucun doute : je conçois mal que mes lunettes faussent volontairement la vision du monde physique qui m’entoure. Dans ce cas, les deux types de connaissance – immédiate et médiate – restent alignées, ce qui est parfait dans un contexte technique, où l’outil se contente d’augmenter passivement les capacités de mon corps, là où elles sont déficientes.
Mais qu’en est-il lorsque l’outil, le dispositif (mécanique, humain ou même conceptuel), est actif, que ce soit par nature (le dispositif a une volonté propre, comme lorsqu’un journaliste tendancieux publie un article tendancieux sur la situation politique d’un pays donné) ou par programmation (exemple : l’algorithme de Google qui propose des réponses paramétrées selon mon profil d’utilisation du moteur de recherche). Dans ce cas, le dispositif m’offre activement une vue déformée de mon environnement, un biais défini par ailleurs (pas par moi), et ce, avec neutralité, bienveillance ou malveillance selon les cas.
Transposé dans le monde des idées, l’exemple type, la quintessence d’un tel dispositif intermédiaire actif qui offre à notre conscience une vue biaisée du monde autour de nous est ce que nous appelons, tout simplement, le… dogme. Le dogme (et au-delà du dogme, la notion même de vérité), le dogme connaît le monde mieux que nous, sait mieux que nous comment aborder notre expérience personnelle et dispose souvent de sa police privée pour faire respecter cette vision. Si nous lui faisons confiance, le dogme se positionne comme un médium déformant, un intermédiaire pas réglo, placé entre le monde qui nous entoure et la connaissance que nous en avons.
Aborder le dogme et, plus précisément, la religion sous l’angle de l’intermédiaire, du dispositif, ce n’est pas nouveau et la connaissance proposée aux adeptes de religions a ceci de particulier que, non seulement il s’agit d’une connaissance médiate, mais que, ici, le medium est une fin en soi, qu’il définit en lui la totalité de la connaissance visée. De cette manière, un religieux pourrait se retirer du monde et s’appuyer sur les seules Écritures pour conférer sur la morale ou sur la nécessité de payer son parking en période de soldes.
Or, notre approche de la Connaissance, à nous Maçons, ne peut se satisfaire d’une image du monde fixe et prédéfinie, soit qu’elle reste à découvrir (ce qui suppose un monde vu comme une énigme à résoudre), soit qu’elle soit déjà consignée dans des textes codés, stockés dans une mémoire électronique, gardés par Dan Brown avec la complicité du Vénérable : ceci impliquerait que cette vérité ultime existe quelque part, comme dans le monde des Idées de Platon, qu’elle soit éternelle et que seuls certains d’entre nous puissent y avoir accès. Quelle chance n’avons-nous pas que notre Rituel éloigne notre regard de ces fadaises et répète à l’envi : « pratique le doute, baisse la tête et bosse sur ta pierre, p’tit con.«
Le travail est en effet au centre de toutes nos représentations et nous naviguons à chaque Tenue entre les rayons d’un Brico spirituel qui, de la Truelle à l’Équerre, nous invite à la pratique de notre humanité, à trouver la Joie (on peut aussi dire la Beauté) dans le sage exercice de notre Force.
« Travaillez, prenez de la peine« , « Taille ta pierre, Robert« , « Rien n’est fait tant qu’il reste à faire… » : le Maçon se définit par son travail et comme il est aujourd’hui un Maçon spéculatif, on précisera « par son travail intellectuel« , sa délibération intime.
Or, pour retourner au cœur du sujet de ce midi, réfléchir, l’Intelligence Artificielle le fait aussi. Oui : elle le fait, et plus vite, et mieux ! Mais, me direz-vous avec sagesse, le dispositif d’Intelligence Artificielle ne fait que manipuler des Savoirs, calculer des données mémorisées, il n’a pas accès à la Connaissance comme nous, faute de disposer d’une Conscience…
Quand Carl-Gustav Jung dit : « Ce que tu ne ramènes pas à ta conscience te reviendra sous forme de destin« , il propose lui aussi de travailler, plus précisément de travailler à élargir le champ de notre conscience, à défaut de quoi, nos œillères, nos écailles sur les yeux, nous mettront à la merci de nos pulsions refoulées ou d’une réalité déformée par nos biais cognitifs.
Pour lui aussi, manifestement, le couple Connaissance-Conscience serait alors le critère qui nous permettrait de faire la différence entre l’Homme et la Machine.
On l’opposerait alors au couple Savoirs-Mémoire évoqué au XVIIe par le matheux le plus intéressant de l’histoire de la religion catholique, l’inventeur torturé de la machine à calculer, j’ai nommé : Blaise Pascal. Je le cite : « La conscience est un livre qui doit être consulté sans arrêt. » La conscience est vue ici comme l’ancêtre de la carte-mémoire des Intelligences Artificielles !
Mais, ici encore, de quoi parlons-nous ?
Nous voici en fait rentrés dans le périmètre d’une science récente, baptisée la noétique (du grec « noûs » pour connaissance, esprit). Il s’agit de l’étude de la connaissance, sous tous ses aspects.
Endel TULVING est un neuroscientifique canadien d’origine estonienne qui vient de mourir, le 11 septembre dernier. Rassurez-vous, l’homme a d’autres qualités : il a dressé une taxonomie de la conscience en trois types : la conscience autonoétique, la conscience noétique et la conscience anoétique. Je donne la parole à l’anthropologue belge Paul JORION pour les explications. Il cite un texte de 2023, récent donc :
La conscience autonoétique est la conscience réfléchie de soi : la capacité de situer son expérience actuelle dans le cadre d’un récit de sa propre vie qui s’étend au passé et à l’avenir.
La conscience noétique implique une conscience sémantique et conceptuelle sans conscience de soi ; elle implique la capacité d’appliquer des concepts à vos perceptions actuelles et de générer des connaissances à partir de celles-ci.
La conscience anoétique, peut-être la plus insaisissable de toutes, est une expérience qui n’implique ni conscience de soi ni connaissance sémantique. Elle comprend, par exemple, des sentiments […] de confort ou d’inconfort, de familiarité, de malaise, de présence ou d’absence, de fatigue, de confiance, d’incertitude et de propriété. Il s’agit par exemple du sentiment que l’objet que l’on voit du coin de l’œil est bien un oiseau, du sentiment, en rentrant chez soi, que les choses sont telles qu’on les a laissées (ou pas), du sentiment que l’on est en train de contracter une maladie. Chez l’homme, ces sensations anoétiques se situent en marge de la conscience et ne sont que rarement au centre de l’attention. Chez d’autres animaux, il est possible que l’anoétique soit tout ce qu’il y a.
Au temps pour les définitions. Et, quand le même Paul Jorion demande à ChatGPT, quand il lui demande (et vous remarquerez ici qu’il vouvoie le robot) : « Où situez-vous le niveau de conscience d’un GPT (comme vous-même) ?« , ledit GPT répond :
Dans la taxonomie tripartite de la conscience d’Endel Tulving, il est important de noter que GPT-3.5, ou tout autre modèle de langage d’IA, ne possède pas de conscience de la même manière que les humains. Les systèmes d’IA tels que GPT-3.5 sont dépourvus d’expériences subjectives, d’émotions, de conscience de soi et de la compréhension profonde associée à la conscience humaine. Ils fonctionnent sur la base de modèles de données et de relations statistiques apprises au cours de leur formation. Sur la base de la taxonomie fournie, les capacités de GPT-3.5 pourraient être partiellement classées dans la catégorie de la conscience « noétique » dans une certaine mesure. Il a la capacité de traiter et de générer des connaissances sémantiques et conceptuelles sans véritable conscience de soi ou conscience réflexive. Il peut appliquer des concepts à un texte d’entrée et générer des réponses qui semblent contextuellement pertinentes et cohérentes, ce qui s’apparente au niveau de conscience « noétique » décrit.
En répondant à d’autres questions de Paul Jorion, le GPT remet une couche et insiste (je résume) :
Il existe des différences importantes entre la façon dont les humains apprennent et la façon dont les modèles de langage de l’IA tels que GPT-3 fonctionnent, ce qui contribue aux différences dans leurs capacités et leur conscience : (1) la profondeur et la portée de l’apprentissage… ; (2) la généralisation… ; (3) l’expérience subjective et la conscience… ; (4) la compréhension du contexte… ; et (5) l’apprentissage adaptatif, à savoir que les humains peuvent adapter leurs stratégies d’apprentissage, intégrer de nouvelles informations et réviser leur compréhension au fil du temps. Les modèles d’IA nécessitent un recyclage manuel pour intégrer de nouvelles données ou s’adapter à des circonstances changeantes.
Le GPT la joue modeste… et il a raison : il ne fait jamais que la synthèse statistiquement la plus logique de ce qu’il a en mémoire ! Plus encore, il aide (sans le savoir vraiment) Paul Jorion à faire le point quand ce dernier lui rappelle que, lorsqu’il lui a parlé un jour de la mort d’un de ses amis, le GPT avait écrit « Mes pensées vont à sa famille… » d’où émotion, donc ! pense Jorion. Et le logiciel de préciser :
La phrase « Mes pensées vont à sa famille… » est une réponse socialement appropriée, basée sur des modèles appris, et non le reflet d’une empathie émotionnelle ou d’un lien personnel. Le GPT n’a pas de sentiments, de conscience ou de compréhension comme les humains ; ses réponses sont le produit d’associations statistiques dans ses données d’apprentissage.
Comment faut-il nous le dire ? Les Transform(at)eurs Génératifs Pré-entraînés (GPT) disposent d’algorithmes qui dépasse notre entendement, soit, mais seulement en termes de quantité de stockage de données et en termes de puissance combinatoire d’éléments pré-existant dans leur mémoire.
Leur capacité à anticiper le mot suivant dans la génération d’une phrase donne des résultats bluffants, peut-être, mais indépendants d’une quelconque conscience. Ils sont très puissants car très rapides. Souvenez-vous de votre cours de physique : la puissance est la force multipliée par la vitesse !
Pour mémoire, notre cerveau peut compter sur quelque chose comme 100 milliards de neurones et que développement récent d’un mini-cerveau artificiel ne comptait que 77.000 neurones et imitait un volume de cerveau équivalent à… 1 mm³ !
Est-ce que ça veut dire que, faute de conscience auto-noétique et a-noétique, l’IA ne représentera aucun danger pour l’humanité avant longtemps ? Je ne sais pas et je m’en fous : la réponse n’est pas à ma portée, je ne peux donc rien en faire pour déterminer mon action.
Mais, est-ce que ça veut dire que nous pouvons faire quelque chose pour limiter le risque, si risque il y a ? Là, je pense personnellement que oui et je pense que notre sagesse devrait nous rappeler chaque jour qu’un outil ne sert qu’à augmenter notre propre force et que la beauté de nos lendemains viendra d’une sage volonté de subsistance, pas de notre aveugle volonté de croissance infinie avec l’aide de dispositifs efficaces à tout prix.
Résumons-nous : tout d’abord, il semble actuellement acquis qu’une Intelligence Artificielle n’est pas dotée d’une conscience autonoétique d’elle-même. Idem, qu’elle soit dénuée d’une conscience anoétique qui lui donnerait à tout le moins autant d’instinct qu’un animal semble aussi évident dans l’état actuel de la science informatique. En fait, une Intelligence Artificielle fait, à une vitesse folle, une synthèse statistiquement probable de données présentes dans sa mémoire et génère sa réponse (pour nous) dans un français impeccable mais sans afficher de degré de certitude !
Quant à lui refuser l’accès à une conscience noétique, en d’autres termes « une conscience sémantique et conceptuelle sans conscience de soi« , le questionnement qui en découlerait est au cœur de ma planche de ce midi.
Car, voilà : ce midi, enfin, nous sommes plus malins, plus savants : nous savons tout de l’Intelligence Artificielle. Nous savons tout de l’intelligence, de la conscience, des rapports de cause à effet. Nous sommes des as de la noétique. Nous avons enregistré tous ces savoirs dans notre mémoire. Nous avons confiance en notre capacité logique. Nous sommes à même d’expliquer les choses en bon français et de répondre à toute question de manière acceptable, à tout le moins crédible, comme des vrais GPT !
Voilà, voilà, voilà, mais, en sommes-nous pour autant heureux d’être nous-mêmes ? Limiter notre satisfaction à savoir nous suffit-il ?
Je n’en suis pas convaincu et j’ai l’impression que le trouble que l’on ressent face à la machine, les yeux dans l’objectif de la caméra digitale, cette froideur, ce goût de trop peu, nous pourrions l’attribuer à un doute salutaire qui ne porte pas sur les capacités de ladite machine mais bien sur le fait que le fonctionnement d’une Intelligence Artificielle, basé sur les mots et les concepts sans conscience de soi, pourrait bien servir de métaphore d’un fonctionnement déviant dont nous, humains, nous rendons trop souvent coupables…
Une citation : « Ce qu’il y a de terrible quand on cherche la vérité, c’est qu’on la trouve »
Quelles qu’aient été les intentions de Remy de Gourmont (un des fondateurs du Mercure de France, mort en 1915) lorsqu’il a écrit cette phrase, elle apporte de l’eau à mon moulin. Il est de fait terrible, quand on cherche la Vérité avec un grand T, d’interroger une Intelligence Artificielle et… de toujours recevoir une réponse. Et on frôle l’horreur absolue, humainement parlant, quand on réalise que cette Vérité tant désirée est statistiquement vraie… à 80% (merci Pareto). Bienvenue en Absurdie !
Ces 80% de ‘certitude statistique’ (un autre oxymore !) donneraient un sourire satisfait au GPT, s’il était capable de satisfaction : il lui faudrait pour cela une conscience de lui-même, auto-noétique, de sa propre histoire, une capacité à éprouver des passions et de l’affect. A défaut d’avoir des hormones, des neurones et des traumas, une Intelligence Artificielle ne peut pas non plus se targuer d’accéder à une conscience anoétique, non-verbalisée et reptilienne, on l’a assez dit maintenant.
Reste cette capacité dite noétique, nourrie de structures verbales et de concepts, de rapports principalement logiques et de représentations intellectuelles du monde, non-validées par l’expérience ! bref, d’explications logiques !
C’est avec cette froideur explicative que le robot répond à nos requêtes, fondant son texte sur, postulons, 80% de données pertinentes selon sa programmation, des données exclusivement extraites de sa mémoire interne. Il nous vend la vérité pour le prix du 100% et les 20% qu’il a considérés comme hors de propos sont pour lui du bruit (des données extraites non-pertinentes) ou du silence (une absence de données).
Le GPT nous vend la carte pour le territoire !
En prendre conscience est un beau moment maçonnique car, nous-mêmes, n’avons-nous pas aussi, quelquefois, tendance à fonctionner comme des Intelligences Artificielles, à délibérer dans notre for intérieur comme des GPT et à nous nourrir d’explications logiques, générées in silico (c’est-à-dire dans le silicium de notre intellect), générant à volonté des conclusions dites rationnelles alors qu’elles ne sont que logiques, des arguments d’autorité et des rapports de causalité bien éloignés de notre expérience vitale ? Pire encore, ne considérons-nous pas souvent qu’une explication peut tenir lieu de justification et que ce qui est expliqué est d’office légitime ? En procédant ainsi, ne passons-nous pas à côté des 20% restant, négligés par le robot, obsédé qu’il est par ses savoirs, ces 20% qui, pourtant, constituent, pour nous humains, le pourcentage de connaissance bien nécessaire à une saine délibération interne.
Qui plus est, ce faisant, nous ne rendons pas justice à notre Raison : nous clamons qu’elle n’est que science, nous la travestissons en machine savante, logique et scientifique, spécialisée qu’elle serait dans les seules explications intellectuelles.
Dans ma Maçonnerie, la Raison est autre chose qu’une simple intelligence binaire, synthétisée par un algorithme, verbalisant et conceptualisant tous les phénomènes du monde face auxquels je dois prendre action.
Non, la Raison que j’aime vit d’autre chose que des artifices de l’intellect, plus encore, elle s’en méfie et trempe sa plume dans les 100% de la Vie qui est la mienne, pour répondre à mes interrogations intimes ; elle tempère la froide indépendance de mes facultés logiques avec les caresses et les odeurs de l’expérience et du doute et des instincts, avec la peur et l’angoisse et avec la poésie et les symboles qui ne parlent pas la même langue que mes raisonnements, juchés qu’ils sont au sommet de la pyramide de l’intellect.
La Raison que j’aime est dynamique et je la vois comme un curseur entre deux extrêmes.
A une extrémité de la graduation, il y a ce que je baptiserais notre volonté de référence, notre soif inquiète d’explications logiques, de réponses argumentées qui nous permettent de ne pas décider nous-mêmes, puisqu’il suffit d’être conforme à ce qui a été établi logiquement.
A l’autre extrémité, il y a la volonté d’expérience et le vertige qui en résulte. De ce côté-là, on travaillera plutôt à avoir les épaules aussi larges que sa carrure et on se tiendra prêt à décider, à émettre un jugement subjectif mais sincère.
La pensée libre se mesure au positionnement du bouton de curseur sur cette échelle, une échelle dont je ne connais pas l’étalonnage et dont la graduation nous permettrait de mesurer l’écart entre volonté de référence et volonté d’expérience, plus simplement, entre les moments où je fais primer les explications et les autres où c’est la situation qui préside à mon jugement.
La Raison que j’aime veille en permanence (lorsqu’elle reste bien réveillée) à me rappeler d’où je délibère face aux phénomènes du monde intérieur comme extérieur. Elle m’alerte lorsque je cherche trop d’explications là où l’intuition me permettrait d’avancer ; elle me freine là où mes appétences spontanées manquent de recul. C’est peut-être en cela que la Raison me (nous) permet d’enfin renoncer à la Vérité (qu’elle soit vraie à 80% ou à 100%) !
Henri Gougaud est un conteur magnifique et j’aimerais conclure avec une brève citation de ce cher disparu, une généreuse invitation à ne pas trop se satisfaire des explications logiques. Je le cite :
L’intellect voudrait que la vie ne soit qu’une énigme, alors qu’elle est un mystère. On peut résoudre une énigme, la vaincre et ne laisser qu’une rassurante lumière, là où étaient des ombres. On ne peut qu’explorer un mystère, sans espérer l’abolir. Explorons donc !
Tout est dit : fruits de nos explorations, les 20% de Connaissance que nous ne partageons décidément pas avec les Intelligences Artificielles ont encore un bel avenir dans nos Loges. Il est vrai qu’en Maçonnerie, nous ne tutoyons que les vivants !
J’ai dit, Vénérable Maître…