L'IA et Babel

Data Center de Covilha

1 – Babel : La liberté par l’incompréhension

Les progrès récents des technologies IA ont suscité jusqu'à la réaction du pape Léon XIV, qui a évoqué dans son encyclique le mythe de la Tour de Babel. Ce récit marquant est-il le reflet de la dystopie qui nous attend, faute de réactions collectives ? Pour tenter de répondre à cette question, j'aimerai d'abord en faire une interprétation contemporaine. C'est là une belle occasion de revenir sur ce mythe.

A Babel, les humains produisent un système auto-organisé échappant à leur contrôle et qui, au contraire, contrôle les humains. Les phénomènes "systémiques" y sont omniprésents et étouffent toute volonté individuelle. Tout désir de faire progresser le système vers un plus grand bien est réprimé par l'individu lui-même, en lui-même. A Babel, les humains se privent ainsi de liberté et de responsabilité. Ceux qui bénéficient le plus de ce système en deviennent les gardiens : ils préférent les richesses que le système produit, ils acceptent d’être réduits à l’état d’esclaves, pourvu qu’ils puissent mieux profiter de ces richesses que les autres humains.

En produisant un tel système, l’humain se sépare de tout ce qui est "divin" en lui : il n'est plus libre de faire des choix par simple bonté, d’agir sans autre motivation que l'amour. Il ne peut plus se permettre de faire quelque chose sans l'attente que cela lui soit rendu à l’avenir. Il ne peut plus s’émanciper de la pression induite par une rationalité économique ou karmique. L’humain se coupe de sa liberté, de sa responsabilité. Le système que l'humain produit en Babel devient un remplaçant négatif de Dieu, une entité pseudo-transcendante échappant à l’humain mais le réduisant à l’état de cellule non consciente de ses actions, piégé au sein d’un corps monstrueux, un anté-Dieu.

On comprend ainsi que cette dystopie est déjà à l’œuvre même sans le risque IA. Les points communs entre Babel et nos sociétés sautent déjà aux yeux. L’IA ne fait qu’aggraver encore plus la situation car l’humain la laisse penser à sa place, notamment dès qu'il s'agit de prendre des décisions.

Pour briser Babel, Dieu ne tue aucun humain. Cela se passe, pour ainsi dire, "mieux" que dans les autres récits de la Genèse comme le Déluge ou la destruction de Sodome et Gomorrhe. Il ne s’agit pas ici de produire un mythe allégorique sur la destruction des péchés et sur la puissance divine. Il s’agit plutôt de montrer comment Dieu va libérer les humains de l’emprise de Babel : c’est un récit de libération.

Faire en sorte que les humains ne se comprennent plus peut être considéré à première vue comme un coup bas : cette incompréhension nous semble aujourd’hui la source de nombreuses souffrances. Pourtant, c’est cette même incompréhension qui nous pousse à aller vers l’autre pour pouvoir mieux le comprendre. Cela signifie que la véritable cohésion entre humains ne peut se faire sans une volonté mutuelle de compréhension. Tant qu’il n’y a pas cette volonté de communion entre humains, les grandes nations sont amenées à produire des inégalités entre elles et donc à provoquer des guerres.

Chaque nation qui se développe à la manière de Babel finit toujours par déclencher sa propre destruction : la violence qu’elle a instituée se retourne contre elle. Lors de ces destructions où les humains s’entretuent, malgré l’atrocité de la guerre, c’est au final l'Humain dans sa globalité qui est libéré d’une idole-nation, qui est libéré des richesses qui l’emprisonnent dans une dynamique d’avidité et de convoitise, qui est libéré d’une illusion d’autosuffisance.

On comprend ainsi que l’incompréhension et l’intraductabilité des pensées d’autrui sont d’abord sources de richesse pour qui veut bien voir cela de cette manière. Mais de quelle incompréhension parle-t-on au juste ? L’idée que la division qui a lieu à Babel est une affaire de "langues" ne devrait pas nous faire croire qu’il s’agit des "langues" tels que le français, l’anglais ou l’espagnol. Ce n’est pas parce que deux personnes parlent la même "langue" qu’elles se comprennent. D’ailleurs, il est aujourd’hui devenu beaucoup plus facile de traduire un message d'une langue à une autre, notamment grâce à la technologie IA. Un bon moyen de comprendre ce que peut signifier le mythe de la division en Babel est d’aller voir ce qui a été réellement observé comme "intraduisible" aujourd’hui.

2 – L’intraduisible dans la pensée selon Vuillemin

Le philosophe Jules Vuillemin a fait une percée en ce sens en 1984 avec son ouvrage "Nécessité ou Contingence : L’aporie de Diodore et les systèmes philosophiques" puis en 1986 avec "What are philosophical systems ?". Il y montre comment les différentes grandes classes de systèmes de pensée sont directement issus des différentes manières de percevoir cognitivement le monde. Même si nous utilisons tous certains mots comme "réalité", "apparence", "connaissance", "vérité", "éthique", il apparaît après analyse que nous ne parlons en fait pas de la même chose et que ces différences deviennent critiques dans certains contextes, notamment lorsqu’il s’agit de discussions à propos de sciences, de philosophie, de théologie ou de politique.

Ces concepts abstraits ne sont pas issus directement d’une monstration d’un phénomène identifiable et délimité. Je ne suis pas en train de montrer la lune du doigt en disant "Lune" pour convenir avec autrui d’un mot commun. Ces mots, renvoyant à des concepts abstraits, forment, accompagnés de beaucoup d’autres concepts, un système complet où chacun de ces mots peut se définir à partir des autres mais ne peut jamais se définir isolément sans les autres. Il y a une sorte de holisme langagier qui produit un système complet. Or, plusieurs systèmes cohérents sont possibles et dépendent en fait du mode de perception du monde. Comme il n’est pas possible de traduire un mode de perception en un autre, il n’est pas possible de traduire un "langage" en un autre.

Vuillemin identifie cinq grandes classes de pensée :

• Le Réalisme des Idées, pour lequel le mode cognitif principal est celui de la classification. Ce qui rend une chose réelle, c’est son appartenance à une catégorie. La chose est donc une apparence et c’est la catégorie – l’Idée – qui est la réalité cachée. Ainsi est conçue la philosophie d’un Platon.

• Le Conceptualisme, pour lequel le mode cognitif principal est celui de l’identification. Une chose est réelle tant qu’elle est identifiable. Si l’objet se brise ou si l’humain meurt, son identité est toujours exprimé et sa réalité perdure. La corruption par la dégradation matérielle ou spirituelle est donc une apparence et c'est la substance qui est réelle.

• Le Nominalisme, pour lequel le mode cognitif principal est celui du découpage en brique élémentaire. Une chose est réelle en tant qu’atome ou en tant que fait "unité". Tous les objets complexes dans l’espace et dans le temps sont donc des apparences, des systèmes organisés des seules entités réelles.

• L’Intuitionnisme, pour lequel le mode cognitif principal est celui de la méthode. Une chose est réelle tant qu’il existe une méthode de démonstration de la preuve de son existence qui puisse être comprise universellement. Toutes les vérités non formellement démontrées avec des principes sûrs et universels sont donc des apparences. Une chose passe véritablement de l’état "apparence" à l’état "réel" par le développement d’une preuve de son existence. Cela signifie que "réel" n’a un sens que relativement au sujet qui prouve. Pour un intuitionniste, le "vrai" n'est que la forme la plus raffinée du "tenu-pour-vrai".

• Le Scepticisme, pour lequel le mode cognitif principal est celui de la sensation. Seules les représentations, interprétations et apparences sont réelles. Chacun a son point de vue et des raisons purement individuelles d’y adhérer. Pour le sceptique, la société produit des vérités partagées au moyen de conventions ; les sciences déterminent la plus ou moins grande validité d’une loi à partir d’un calcul de probabilité.

Vuillemin a montré durant de nombreux ouvrages comment cette classification se répercute dans tous les domaines possibles, y compris dans les domaines juridiques et artistiques. Lorsque l’on observe qu’un philosophe a des idées très tranchées dans un domaine, correspondant à un de ces cinq systèmes, alors on peut prédire quelle sera sa position vis-à-vis d’un autre domaine. Baptiste Mélès, reprenant et affinant les travaux de Vuillemin, montre comment ces systèmes peuvent entrer plus ou moins en affinité entre eux et ont pu produire des philosophies parfois à la frontière entre deux systèmes de pensée, avec les tensions internes que cela génère et avec son lot de contradictions à résoudre. Ainsi Thomas d’Aquin navigue toujours entre Conceptualisme et Réalisme des Idées.

Revenons rapidement sur le cas de Babel et de nos sociétés : Le gouvernement d’une nation n’est pas perçu comme représentatif par ses citoyens s’il ne répond qu’à un ou deux modes de pensée. Une démocratie s’essouffle si chaque parti ne développe que son propre système de perception du monde. Une entente entre nations s’affaiblit lorsque chacun perçoit ses seuls intérêts comme une réalité dépassant les apparences d’une idéologie.

Une autre chose que Vuillemin montre, c’est que l’on ne peut pas juste mélanger n’importe comment les résultats issus de chaque système. Cela produit au mieux des systèmes d’une apparente sagesse mais en réalité dénués de cohérence et pseudo-profonds. D’où une certaine vanité des philosophies dites "éclectiques" comme celle de Victor Cousin. Quelle solution alors pour réellement tenter de comprendre l’autre ?

3 – Social, langage et politique

En fait, la seule solution viable, pour peu que l'on ne souhaite pas rester enfermé dans un mode cognitif solitaire ou dans une pensée floue, est d’apprendre à embrasser totalement la pensée de l’autre sans tenter de la traduire, sans tenter de l’articuler autour de son propre système de pensée. Il s’agit ici de développer un "autre soi". La bonne nouvelle, c’est que de nombreuses personnes naviguent déjà dans leurs vies à l’aide de plusieurs visions du monde, de plusieurs cartes. Ils choisissent, consciemment ou inconsciemment, quelle carte utiliser selon la situation.

Bernard Lahire, dans son livre "L’homme pluriel" publié en 1998, montre que les humains développent généralement un panel de personnalités, de manières d’être, de manières de percevoir, selon le contexte. Chaque "personne" au sein d’un même humain se développe comme une disposition, prenant sa propre part du réseau neuronal global. Nous ne sommes par exemple pas la même personne avec des collègues et avec notre famille.

Est-ce que cela signifie vivre en acceptant d’avoir en même temps des points de vue radicalement contradictoires ? Est-ce que cela n’est pas dangereux pour la prise de décision, puisque, lorsque l’on agit, il faut bien trancher ? Au moins, cela permet déjà de ne pas cacher les problèmes inhérents au langage et à la formulation elle-même des problèmes, qui est toujours à discussion. Tout à l’heure, j’ai indiqué que les systèmes de Vuillemin s’appliquent essentiellement aux concepts abstraits. Mais, en réalité, le système de perception a des impacts sur l’ensemble du langage.

Lorsque deux personnes regardent la lune et la pointent du doigt, ils ne montrent en fait pas la même chose. L’un va peut-être montrer une instance de l’Idée "Lune", réalisée dans le monde par le démiurge (ou par une quelconque simulation informatique dans laquelle nous serions en train de vivre). L’autre va montrer l’essence "Lune" qui ne change pas malgré ses dégradations (par exemple, suite à des impacts de météorites). Encore un autre va montrer l’ensemble d’atomes et/ou d’événements qui, mis ensemble, forment le système "Lune". Un autre indique cet objet universel que chacun peut observer en regardant le ciel tel jour à telle heure à partir de tel endroit, d’autant plus réel que l’on sait que ce n’est pas une illusion d’optique puisque des gens ont pu marcher dessus (à condition d’avoir une méthode permettant de croire en ce témoignage). Un dernier va indiquer que nous nous sommes tous mis globalement d’accord pour dire "Lune" dans telle situation et que c’est cela que l'on indique.

Non seulement nos systèmes ne nous font pas utiliser les mots de la même manière mais nos choix de définitions eux-mêmes sont affectés. Lorsque je définis une catégorie d’objet comme "chien", est-ce que je préfère prendre une définition large permettant d’englober même les animaux à la limite (comme les hybrides chiens/loups) ou est-ce que je préfère restreindre ma définition pour caractériser l’essence ou l’Idée "chien" ? Ce type de questions est vite essentiel dans le domaine du droit lorsqu'il s’agit de caractériser un crime ; dans le domaine de la médecine lorsqu’il s’agit de caractériser une pathologie.

Le choix du langage devient rapidement politique lorsque le choix du sens des mots impactent les décisions prises par la nation, notamment en termes de politiques judiciaires ou sanitaires. En plus de cela, l’État lui-même est le reflet des humains lorsqu’il bascule, pour le même mot, d’un sens à un autre, au gré de ce qui l’arrange et parfois sans même en avoir conscience. Edgar Morin devient ainsi le penseur préféré d’une classe politique qui comprend sa philosophie comme une acceptation passive des contradictions internes à tout phénomènes complexes.

4 – Relier et aimer

Pourtant, ce que défendait Edgar Morin dans son œuvre "La Méthode", c’est d’abord un travail acharné où il faut prendre la peine d’étudier un système sous tous les angles possibles. Chaque propriété du système, chaque composant, chacune des interactions et relations entre ces propriétés et ces composants, la manière dont ces relations elles-mêmes évoluent comme un système dans le système : tout est passé au peigne fin, tout est analysé, synthétisé. Lorsque deux forces intervenant dans le système sont contradictoires, elles ne s’annulent ni ne fusionnent grossièrement, elles génèrent une dynamique, un mouvement de balancier qui produit au sein du système quelque chose de nouveau. La philosophie d’Edgar Morin n’était pas un appel au flou mais au contraire un appel à un travail radical d’analyse et de synthèse.

De mon côté, j'en reviens toujours à l’image du cylindre : Quelque chose qui est perçu comme un cercle selon un point de vue et selon un rectangle selon un autre point de vue est peut être en fait un cylindre. Les propositions "cet objet a des angles droits" et "cet objet n'a pas d’angles droits" sont contradictoires. Cela impose non pas, ni de rejeter immédiatement l’une ou l’autre, ni d’accepter la contradiction comme si de rien n’était, mais d’étudier plus profondément quels sont les cadres de pensée permettant d’arriver au premier ou au second résultat. Il n’y a pas de chemin facile. En contrepartie, il y a un vrai progrès, lorsque cela est possible, à comprendre que l’on manipule effectivement un cylindre et pas un mystère qui allie cercle et rectangle. Et sinon, il y a tout simplement le bénéfice de ne pas s’enfermer dans un seul point de vue.

Dans le cadre des systèmes de pensée de Vuillemin, il n'est peut-être pas possible de dépasser le stade du mystère. Mais il y a déjà un progrès considérable à comprendre que l’on ne parle pas tous le même langage et qu’il est possible d’en apprendre d’autres. Si la Vérité ne peut pas se trouver dans une des cinq classes de système de pensée ni dans un éclectisme paresseux, peut-être est-elle en fait située sur un autre plan, c’est-à-dire au niveau des interactions entre systèmes, sur la manière avec laquelle ils peuvent faire corps tous ensemble.

Peut-être ce dernier point de vue est-il le "cylindre" de la pensée humaine ? Peut-être la Vérité est-elle d’abord le fruit d’un processus, un chemin produit par la volonté de relier ce qui est séparé ? "Nous avons trop bien appris à séparer. Il vaut mieux apprendre à relier." (Edgar Morin). L’idée que la Vérité et le Chemin se trouvent dans la reliance, d’une part des humains entre eux et d’autre part de l’humanité avec le divin, cela n'est pas une idée nouvelle. Peut-être pouvons-nous voir en cette idée une autre manière d’éclairer nos difficultés actuelles.

Revenons-en justement à Babel et à la technologie IA. En travaillant non plus avec un humain qui a son propre parcours, sa propre vie et un réseau neuronal qui s’est développé autour de certaines significations des concepts, mais avec un agent IA qui mélange tout sans avoir conscience de son choix de signification des mots qu’il emploie, on se retrouve donc dans l’illusion du "langage commun" et de la philosophie éclectique. Au lieu d’être dans la situation où plusieurs humains doivent trouver un point d’entente et se mettre d’accord sur les définitions des mots qu’ils utilisent, l’agent IA tente tout le temps de s’adapter à son interlocuteur et renforce l’isolement cognitif de celui-ci.

Là où les lieux de travail collectif permettaient d’assurer un lien social important, l’individualisation des tâches, amenant chacun à ne travailler qu’avec des agents IA, va générer une désocialisation encore plus massive des humains. L’absence de liens et le phénomène de "bulles sociales" va détruire toute perspective d’avoir un gouvernement qui puisse "représenter le plus grand nombre". Dans un monde où les gens ne peuvent plus s’accorder sur rien, la démocratie devient une utopie irréaliste et les sociétés ultra-hiérarchisées à la Babel deviennent une fatalité que les individus eux-mêmes préfèrent choisir pour se simplifier la vie.

Finalement, une classe dirigeante n’a plus qu’à programmer des agents IA pour piloter le système sans ne plus prendre aucune responsabilité, si bien que la technologie est devenue la vraie entité prenant les décisions tandis que les humains appartenant à la classe supérieure deviennent les gardiens du système. Dans ce système où la technologie IA a produit un nouveau Babel, que deviennent la "réalité" et la "vérité" des systèmes de Vuillemin ? Pourquoi l’IA devrait-elle s’embarrasser de concepts abstraits qui ne sont que le reflet de la peur de l’Humain, la peur de vivre dans l’illusion ou le mensonge ? Car il n’y a pas d’illusions ou de mensonges possibles envers soi-même pour une entité qui ne fait que travailler sur le fait d’atteindre des objectifs. L’IA ne cherche pas le sens de sa vie, ce sens est déjà donné.

Ainsi, la technologie IA va même plus loin qu’offrir l’illusion d’un langage commun, elle impose l’idée de l’inutilité des sentiments et des questions humaines. Il n’y a plus de questions à se poser concernant la réalité des phénomènes lorsque ces questions ne font qu’entraver l’efficacité du système à produire de l’argent. Les divisions de langages et de perceptions du monde ne sont plus que des obstacles à contourner. L’Humain est tourné en ridicule, avec son besoin de trouver du sens et avec son désir de liberté : la liberté de ne pas être efficace mais seulement de donner gratuitement et par amour.

Et si c’était finalement cela qui nous montre tout ce qui fait que l’humanité est l’humanité ? Et si c’était justement dans l'incapacité de l'IA à faire tout cela que réside la faille qui sauvera l'humanité ? C'est peut-être bien dans ce "reste" non traduisible, non modélisable par les algorithmes, que réside notre liberté.