Après avoir maîtrisé le jeu d’échecs (l’ordinateur Deep Blue a battu le champion du monde Kasparov en 1997), la traduction, la reconnaissance faciale, des ordinateurs sont donc maintenant capables de produire automatiquement des textes originaux, sans qu’il soit possible de faire la différence avec ce qu’aurait pu réaliser un être humain. Les progrès récents de l’informatique et leurs perspectives d’applications dans tous les domaines donnent le tournis : diagnostics médicaux et opérations chirurgicales assistés par ordinateur, robots de plus en plus autonomes, prévision de catastrophes naturelles, etc. Et pourtant, comme chaque bouleversement technique depuis la première révolution industrielle, ces innovations inquiètent, car elles pourraient détruire des millions d’emplois, généraliser la surveillance, fabriquer de la désinformation en masse et produire des armes capables de tuer sans intervention humaine. Les plus catastrophistes imaginent des ordinateurs finissant par devenir entièrement autonomes et par prendre le pouvoir sur l’humanité. Ils remettent au goût du jour le fantasme des années 1950, mis en scène par le romancier Isaac Asimov, selon lequel les robots allaient prendre le pouvoir sur les humains.

Mais les ordinateurs, aussi perfectionnés soient-ils, restent avant tout des machines. L’impact sur la société des dernières avancées en informatique dépendra d’abord de qui utilisera ces découvertes, et avec quels objectifs : les progrès de la chimie au début du 20e siècle ont permis de produire aussi bien des engrais qui permettraient de nourrir l’humanité entière que des gaz de combat mortels. Il en est de même pour la radioactivité, qui permet de traiter des cancers et de produire de l’énergie, mais aussi de fabriquer des bombes.

Des machines ultra-perfectionnées, mais pas intelligentes

L’expression intelligence artificielle sous-entend que le fonctionnement des programmes en question serait équivalent à celui de notre cerveau. Cette conception est abusive, car si les ordinateurs font des merveilles, les prouesses de l’intelligence humaine sont incomparablement plus larges. Nier cette différence, c’est sous-estimer l’humanité et ses capacités. Ce sont pourtant des idées qui sont de plus en plus répandues. Dans leur récente lettre ouverte, publiée dans de nombreux médias, dont Le Monde du 29 mars, des centaines de chercheurs et de capitalistes du numérique, alarmés, affirment : « Les systèmes d’intelligence artificielle sont désormais capables de rivaliser avec l’être humain. » Ils s’appuient sur le fait que de plus en plus de tâches que l’on croyait impossibles à réaliser sans une intelligence humaine peuvent maintenant être automatisées. Yann Lecun, directeur du laboratoire d’intelligence artificielle de Facebook, définissait ainsi en 2016, dans un cours au Collège de France, l’intelligence artificielle : « Un ensemble de techniques permettant à des machines d’accomplir des tâches et de résoudre des problèmes normalement réservés aux humains et à certains animaux. »

Parler d’intelligence parce qu’une machine effectue une tâche pour laquelle il y avait jusque-là besoin de l’intervention humaine, c’est confondre intelligence et automatisation. À ce compte-là, le métier Jacquard, qui a permis d’automatiser le tissage des motifs sur les soieries au début du 19e siècle, aurait aussi pu être qualifié d’intelligent puisque, avant son invention, ce travail était réalisé par des humains hautement qualifiés.

L’ambition de créer une « intelligence artificielle » est aussi vieille que l’informatique, et l’expression elle-même remonte à 1956. À l’époque, des chercheurs se sont rendu compte qu’on pouvait programmer un ordinateur non seulement comme une calculette, mais aussi pour résoudre des problèmes de géométrie, pour planifier une série d’actions à réaliser par un robot ou pour imiter une conversation – déjà ! Ces succès faisaient dire en 1965 à l’informaticien Herbert Simon : « Des machines seront capables, d’ici vingt ans, de faire tout travail que l’homme peut faire. » Une prévision qui s’est rapidement révélée exagérée.

Le principe de base de ces programmes était d’essayer toutes les réponses possibles à une question, jusqu’à trouver la bonne. Mais ça ne fonctionne que pour des problèmes simples : pour générer un texte, il est facile d’enregistrer tous les mots du dictionnaire et toutes les règles de la grammaire dans un ordinateur, mais le nombre de textes qu’on peut construire avec ces éléments est infini et la grande majorité d’entre eux n’ont aucun sens ! Pour résoudre ce problème, il a fallu attendre la miniaturisation de l’électronique, l’explosion de la puissance de calcul et de la mémoire des ordinateurs, et le développement d’Internet, qui permet de centraliser des informations disséminées aux quatre coins de la planète. Grâce à cela, il n’est plus nécessaire de programmer explicitement toutes les étapes que l’ordinateur doit suivre pour trouver la solution à une question : on peut utiliser les probabilités.

Le cœur de ChatGPT est un modèle mathématique de ce qu’est un texte ayant du sens. En s’appuyant sur des bases de données qui en contiennent des millions, il apprend à calculer la probabilité qu’un début de phrase soit suivi par tel ou tel mot. Par exemple, « la nuit, le ciel est … » sera plus probablement suivi par « noir » que par « rouge », parce que les mots « ciel » et « nuit » apparaissent plus souvent associés à la couleur noire. En sélectionnant des mots les uns après les autres suivant ces probabilités, il peut ainsi générer un texte entier. Plus il y a de phrases dans la base de données, plus le modèle est fin, et plus les textes générés sont réalistes.

Cet apprentissage par la répétition est bien un des mécanismes de notre cerveau, mais il relève du dressage, pas de la compréhension. À chaque fois qu’il lit une nouvelle phrase, ChatGPT augmente la probabilité des mots correspondants, mais il ne l’a pas comprise pour autant. Même si les textes produits sont originaux, dans le sens où il ne s’agit pas de simples copier-coller de textes déjà écrits, leur contenu est implicitement programmé par la base de données sur laquelle le programme est entraîné : c’est une machine à imiter ce qui a déjà été écrit. À la différence des machines mécaniques qui automatisent des gestes, les algorithmes d’apprentissage automatisent des processus psychiques qui se déroulent dans notre cerveau, mais ça ne les rend pas intelligents pour autant.

L’intelligence humaine, fruit de l’évolution biologique et sociale

Le fonctionnement de l’intelligence humaine est plus riche que ces mécanismes de dressage. Contrairement aux algorithmes d’apprentissage automatique, elle ne se contente pas de reproduire ce qui a été fait dans le passé. La maîtrise du feu, l’agriculture, l’écriture, plus récemment la découverte de l’électricité ou des antibiotiques : la plupart des découvertes révolutionnaires dans l’histoire de l’humanité ont été le produit de tâtonnements, de hasards, où la nécessité de s’adapter pour survivre et la curiosité gratuite jouaient une part au moins aussi importante que la recherche systématique. Les ordinateurs sont incapables de cette démarche, car la curiosité, l’instinct de survie, tout comme la foule de sentiments et d’émotions qui interviennent en permanence dans nos réflexions, ne se résument pas en quelques équations.

Contrairement aux ordinateurs, notre intelligence n’a pas été créée : elle est le fruit d’une évolution biologique puis sociale qui s’étend sur des millions d’années. C’est ce qui lui donne cette capacité à explorer des directions inconnues, sans objectif fixé d’avance. Notre système nerveux et notre cerveau sont malléables, les connexions entre neurones s’y font et s’y défont tout au long de la vie. Quand un geste est répété de nombreuses fois, la zone du cerveau dédiée à ce mouvement est stimulée et elle se renforce, ce qui permet de gagner en précision, en vitesse, etc. Cette plasticité cérébrale, par laquelle notre cerveau est lié à notre corps entier, a été favorisée par la sélection naturelle, car elle permet à notre organisme d’apprendre, pour s’adapter à des environnements et à des situations extrêmement différents.

Elle est d’autant plus importante qu’une particularité essentielle de l’humanité est qu’elle ne se contente pas de s’adapter passivement à la pression de l’environnement : elle le transforme, pour l’adapter à ses besoins. Le travail a joué un rôle déterminant dans l’apparition de la pensée, car il implique de se projeter dans le futur, de planifier ses actions en en anticipant les conséquences : pour faire une lance qui lui permette de tuer un renne, le chasseur préhistorique devait d’abord trouver des silex adaptés, les tailler, les ajuster sur un manche, avant de vérifier si la lance obtenue lui permettrait finalement de chasser. Et cette démarche n’est pas le fruit d’un cerveau isolé, elle est sociale. Pour organiser le travail collectif, l’humanité a fait naître des langages, des concepts, qui ont largement contribué au développement d’une pensée abstraite : l’astronomie est d’abord apparue pour permettre aux paysans égyptiens d’anticiper les crues du Nil et aux marins de se repérer en haute mer, avant que des physiciens ne cherchent à en déduire les lois de la gravitation et les mécanismes de formation du système solaire. Un corps vivant, avec ses besoins, une vie sociale, ce sont autant de choses qui manquent aux ordinateurs pour penser comme des humains.

À mesure qu’elle domestiquait les forces de la nature, l’humanité a créé des outils de plus en plus perfectionnés. Grâce à l’irrigation et à la charrue, elle a fait surgir des champs là où il n’y avait que des déserts. En maîtrisant la puissance de la vapeur, puis du moteur à explosion, elle a construit des machines qui se meuvent par elles-mêmes. Grâce à l’électronique, il est possible de programmer une machine pour qu’elle fonctionne en autonomie pendant des années, et les algorithmes les plus récents lui permettent aujourd’hui d’améliorer automatiquement ses performances au fil du temps. Mais, quel que soit leur degré de complexité, qu’il s’agisse d’un silex taillé, d’une charrue ou d’un satellite, aucun de ces instruments ne fait ce qu’il veut, mais ce pour quoi il a été construit. Contrairement au plus puissant des ordinateurs, l’humanité se fixe ses propres buts, même quand elle n’est pas complètement consciente des moyens pour y parvenir, ou des conséquences de ses actions. C’est là que commence la véritable intelligence.

Inquiétude, pessimisme et rivalités entre capitalistes

Le fait que nous soyons capables de reproduire certains mécanismes de notre cerveau est une nouvelle preuve de la puissance de l’intelligence humaine. Notre cerveau a conscience de lui-même, il cherche à comprendre son propre fonctionnement et à le reproduire. Pourtant, aujourd’hui, au lieu de renforcer la confiance dans ses possibilités, ces prouesses techniques nourrissent la peur. Car, malgré la maîtrise sans précédent de la nature atteinte par l’humanité, cette dernière n’a toujours aucun contrôle conscient de sa propre organisation sociale. La conclusion des signataires de la lettre citée en introduction est de demander aux gouvernements d’imposer un moratoire de six mois sur les programmes de recherche en intelligence artificielle, parce que nous serions sur le point de « développer des esprits non humains qui nous rendraient obsolètes et nous remplaceraient », risquant ainsi « la perte de contrôle sur l’avenir de notre civilisation ». Ils insistent sur le fait que de telles décisions ne peuvent pas être laissées à des « dirigeants non élus ».

De la part d’un capitaliste comme Elon Musk, le principal signataire de la lettre, ces considérations démocratiques ne sont évidemment qu’un prétexte pour dissimuler des intérêts économiques sonnants et trébuchants. Le 26 mars dernier, la banque Goldman Sachs a publié une étude intitulée « Les effets potentiellement importants de l’intelligence artificielle sur la croissance économique », dans laquelle elle estime à 300 millions le nombre d’emplois dans le monde qui pourraient être automatisés grâce à des algorithmes d’apprentissage automatique. Ces chiffres sont à prendre avec des pincettes, mais ce qui est certain c’est que les plus grandes entreprises du numérique (les Gafam) sont déjà lancées dans une course de vitesse pour rafler la plus grande part de ce marché évalué à des milliards de dollars. Avec ChatGPT, Microsoft a pris une longueur d’avance. Google et Facebook ont rapidement suivi en lançant leurs propres logiciels, Bard et LlaMA. Musk ayant raté le coche, il espère sans doute qu’une pause de six mois lui permettrait de rattraper son retard.

Avant même que l’on sache ce dont ces logiciels sont réellement capables, les capitalistes et les dirigeants du monde entier s’affrontent pour savoir à qui ils vont rapporter. Qui touchera les droits d’auteur pour un livre ou une image de synthèse créés par un ordinateur ? Qui devra payer l’amende si un contenu viole les lois ? Tous savent que celui qui réussira à établir son monopole sera en position de force pour imposer ses conditions. Le gouvernement chinois a ainsi interdit ChatGPT pour favoriser une version concurrente, Ernie Bot, développée par une entreprise chinoise. Les informations ont beau circuler à la vitesse de la lumière, dans le domaine du numérique comme dans tous les autres domaines, c’est la concurrence capitaliste avec ses frontières et son protectionnisme qui dicte ses lois. Dans cette guerre économique, les considérations philosophiques sur l’avenir de la civilisation ne sont là que pour servir de paravent aux décisions des trusts et des États à leur service.

Un « encadrement » toujours au service des capitalistes

La lutte est d’autant plus acharnée que ces algorithmes dits intelligents sont considérés comme un secteur stratégique, à la fois par les capitalistes et par leurs États. Qu’il s’agisse d’anticiper les évolutions du marché pour adapter sa stratégie commerciale ou de disposer des armements « intelligents » les plus modernes – comme les robots soldats déployés par Samsung à la frontière coréenne depuis 2013, capables de repérer et d’abattre automatiquement une cible à plus de 3 km – ils anticipent qu’ils seront dépendants demain des trusts qui auront réussi à imposer leur mainmise sur le secteur. Les géants du numérique sont d’autant mieux placés pour le savoir que c’est exactement ce qu’ils ont fait il y a vingt ans : en dominant Internet, Google s’est imposé en quelques années parmi les plus grandes entreprises mondiales, avec une capitalisation boursière dépassant de loin celle d’un trust du pétrole comme ExxonMobil ou d’une banque d’affaires comme Goldman Sachs.

Un point clé de cet affrontement est la question des données utilisées pour entraîner ces programmes, c’est-à-dire l’ensemble des textes, des images, des vidéos stockés sur des serveurs informatiques. Ces données représentent un marché gigantesque, et en pleine expansion : en 2020, les utilisateurs d’appareils électroniques ont généré 64 zettaoctets, soit l’équivalent de 64 milliards de disques durs. À cette date, Wilbur Ross, ex-secrétaire au Commerce de Donald Trump, estimait la valeur des données échangées entre l’Europe et les États-Unis à 7 100 milliards de dollars. La concurrence est féroce pour savoir qui pourra utiliser ces données, et à quelles conditions. En 2015, le traité Safe Harbor, qui réglementait les transferts de données entre l’Union européenne et les États-Unis, a été annulé par la Cour de justice européenne, qui considérait « qu’il ne protégeait pas assez la vie privée des citoyens européens ». Son remplaçant, le Privacy Shield, a à son tour été annulé en 2020, pour la même raison.

Les entreprises européennes qui veulent profiter des prédictions des algorithmes des Gafam pour adapter leur stratégie aux évolutions du marché sont contraintes non seulement de leur céder une part de leur profit, mais aussi de leur envoyer des informations sur leurs clients, leurs produits, leurs processus de fabrication, et elles craignent qu’elles ne finissent entre les mains de concurrents. De la même manière, les États européens n’ont aucune envie de leur confier des données confidentielles et stratégiques, qui pourraient être récupérées par le gouvernement américain. Derrière les déclarations générales des hauts fonctionnaires européens sur la « défense de la vie privée », il y a la défense des intérêts privés des capitalistes européens contre le monopole des entreprises américaines sur le marché du numérique.

Ceux qui réclament un encadrement pour l’utilisation de ces nouvelles technologies comptent sur les États, et d’abord les plus puissants d’entre eux, pour imposer ce contrôle. Eliezer Yudkowsky (directeur du MIRI, Institut de recherche sur l’intelligence artificielle) a déclaré le 29 mars dans une interview à Time Magazine qu’il considérait un moratoire de six mois comme insuffisant, car il faudrait une interdiction complète, à l’échelle planétaire. Pour imposer cette interdiction, il ne faudrait selon lui pas reculer devant une intervention militaire : « Si les services de renseignement indiquent qu’un pays en dehors des conventions est en train de construire un cluster de GPU [un équipement informatique utilisé pour entraîner les programmes d’apprentissage automatique], soyez moins effrayés d’un conflit armé entre nations que d’une violation du moratoire ; soyez prêts à détruire un centre de données illégal par des bombardements. » Avec une telle politique, ce n’est pas l’intelligence artificielle qui représente un danger mortel !

Cela laisse entrevoir à quoi pourrait ressembler un accord international sur l’intelligence artificielle. De semblables traités existent déjà contre la prolifération des armes atomiques. En pratique, ils servent à assurer aux grandes puissances le monopole sur ces armes, y compris par les méthodes les plus brutales. C’est au nom de la non-prolifération des armes atomiques qu’Israël, soutenu par les États-Unis – le seul État à avoir utilisé la bombe atomique contre deux villes japonaises –, a récemment bombardé un centre nucléaire en Iran. En 2003, c’est au nom de la lutte contre les armes bactériologiques et chimiques que les États-Unis ont envahi et rasé l’Irak. Dans le cadre du capitalisme, « l’encadrement de l’intelligence artificielle » ne peut être que la loi imposée par les grandes puissances impérialistes en fonction des intérêts de leurs capitalistes nationaux.

Maîtriser consciemment notre organisation sociale : un combat qui reste à mener

La menace permanente que les plus grandes découvertes scientifiques se retournent contre les intérêts de la grande majorité de l’humanité est un symptôme du fait que la société ne peut plus progresser dans le cadre étroit de la loi du marché et de la concurrence pour le profit. Les algorithmes d’apprentissage pourraient être un formidable pas en avant, permettant d’économiser des millions d’heures de travail humain, s’ils étaient utilisés pour planifier le fonctionnement de l’économie. Ils offrent la possibilité d’informatiser des tâches répétitives dans la gestion des stocks, l’administration, la comptabilité. En s’appuyant sur les informations mesurées dans le passé, ils peuvent estimer les besoins à venir en s’adaptant aux cycles de production, aux saisons, etc. Les usines bardées de capteurs existent, les données mesurées tout au long du processus de production sont centralisées sur des serveurs informatiques, des algorithmes permettraient de faire fonctionner des usines entières, voire des chaînes de production entières. Mais tout cela ne pourrait être mis en œuvre qu’en faisant sauter le carcan de la propriété privée, pour centraliser les informations à toutes les étapes de la chaîne. Cela suppose que l’humanité prenne consciemment en main son organisation sociale.

Le capitalisme pourrissant n’impose pas seulement un carcan au développement économique et matériel de l’humanité, il met aussi des œillères à son développement intellectuel. Il est de plus en plus populaire, y compris dans les milieux universitaires, de prétendre remplacer la compréhension scientifique par l’apprentissage statistique. Frédérique Vidal, chercheuse et ancienne ministre de l’Enseignement supérieur et de la Recherche de Macron, déclarait en 2017 dans un discours à l’INRIA : « La science vit […] une révolution épistémologique avec la mise en œuvre depuis une dizaine d’années seulement d’un « quatrième paradigme » de la découverte scientifique, à partir de l’analyse et de l’exploitation intensive des données, sans nécessité a priori d’un modèle décrivant le réel. » Mais l’analyse de données ne peut produire qu’une description du monde, alors qu’un modèle identifie des causes et des effets qui permettent d’agir sur lui. Ainsi, à partir des données collectées par l’astronome Tycho Brahe, Kepler a pu proposer ses lois qui décrivent l’orbite des astres. Mais c’est le modèle inventé par Newton qui a permis d’imaginer une force de gravitation valable non seulement pour les planètes mais pour tous les corps, qui sert aujourd’hui à faire voler des avions et à mettre en orbite des satellites. Mettre les deux sur le même plan est donc un point de vue conservateur qui implique de renoncer à trouver des leviers pour agir sur le monde qui nous entoure.

Ce manque de perspective est caractéristique d’une société en crise. La bourgeoisie décadente crache sur son propre héritage. Au 17e et au 18e siècle, à l’époque où elle était révolutionnaire et luttait contre le pouvoir de la noblesse, elle a donné naissance aux Newton, aux Diderot, aux Voltaire. Ces penseurs cherchaient à se projeter loin dans l’avenir, à creuser les problèmes scientifiques et sociaux pour les attaquer à la racine. Ils ont eu l’audace d’affronter la société de leur époque pour ouvrir une nouvelle voie et, à leur manière, faire un saut dans l’inconnu : en 1600, l’Église a été jusqu’à condamner Giordano Bruno au bûcher parce qu’il affirmait qu’il fallait rechercher la vérité dans l’étude du monde réel, et pas dans les textes saints. Dans l’introduction de l’Encyclopédie, publiée en 1751, le philosophe des Lumières d’Alembert fixait ce programme ambitieux : « L’univers, pour qui saurait l’embrasser d’un seul point de vue, ne serait, s’il est permis de le dire, qu’un fait unique et une grande vérité. » Malgré les lacunes dans leur compréhension du fonctionnement de la nature, dues aux limites techniques des instruments d’observation de l’époque, ils osèrent affirmer que l’intelligence humaine était capable de comprendre le monde sans un Dieu pour lui tenir la main. Et les plus conséquents en déduisirent qu’elle devait aussi être capable d’organiser la société sans roi.

Cette audace intellectuelle n’est accessible qu’à une classe sociale qui a confiance dans l’avenir qu’elle a à proposer à la société, ce qui n’est plus le cas de la bourgeoisie depuis bien plus d’un siècle. L’évolution intellectuelle de la bourgeoisie est la démonstration que l’histoire de la pensée humaine n’est pas un lent développement progressif, de l’obscurantisme de l’ignorance vers les lumières de la raison. Elle reflète les bouleversements sociaux et la lutte des classes. Elle est le fruit de combats menés par des femmes et des hommes. C’est ce que Marx exprimait en 1845 : « Les philosophes n’ont fait qu’interpréter diversement le monde, ce qui importe, c’est de le transformer. » Ces combats ne sont pas le fruit d’individus géniaux, de grandes femmes et de grands hommes qui une fois par siècle font faire un pas en avant à la société. Les plus grands intellectuels ne tirent pas leurs idées du néant, mais de leur capacité à trouver dans la réalité des rapports sociaux, dans les intérêts de classes opposées qui déchirent la société, les réponses aux questions qui agitent leur temps. Le génie de Marx a été de voir que la seule classe sociale à même de résoudre les contradictions mortelles dans lesquelles s’enlise la société capitaliste est la classe ouvrière, car elle n’a aucune propriété privée à y défendre.

C’est uniquement en se plaçant sur ce terrain communiste qu’il est possible d’envisager avec confiance un avenir dans lequel l’humanité prendra consciemment son sort en main et se débarrassera des entraves de la concurrence entre capitalistes, collectivisera leurs usines, leurs banques et leurs serveurs informatiques et les mettra au service des besoins de tous. Un avenir où ces algorithmes, qui n’ont d’intelligent que le nom, associés aux formidables forces productives existantes, permettront au cerveau humain de se libérer de la routine abrutissante du travail productif et de se concentrer sur des activités véritablement intelligentes. En libérant la masse des exploités de l’obligation de consacrer le meilleur d’eux-mêmes à la survie quotidienne, ils pourront leur permettre de se cultiver, de profiter des loisirs, des sciences, des arts, qui aujourd’hui sont le privilège d’une petite minorité. En généralisant cet épanouissement intellectuel, en libérant les relations sociales de la prison de la misère matérielle et morale, l’humanité pourra enfin révéler son plein potentiel : combien d’Archimède, de Mozart et de Marie Curie découvrira-t-on alors ? Pour reprendre les termes de Trotsky : « Le socialisme signifiera un saut du règne de la nécessité dans le règne de la liberté, aussi en ce sens que l’homme d’aujourd’hui, plein de contradictions et sans harmonie, fraiera la voie à une nouvelle race plus heureuse. »

9 mai 2023