La mécanisation du monde et le mythe de la singularité

Mon intervention sera consacrée à quelques-unes des questions posées par la notion de « singularité technologique » et par sa large diffusion médiatique ces dernières années. En résumé, la notion renvoie à l’idée que le perfectionnement l'intelligence artificielle nous amène prochainement (ou nous aurait déjà amenés) à franchir un seuil de puissance décisif induisant des changements radicaux dans la société, et débouchant sur une "superintelligence" autonome (voire dotée de conscience) qui dépasserait de loin l'intelligence humaine. Tout cela entraînerait la perte de contrôle de l'humanité sur son destin, voire son dépassement pur et simple par la machine. L’idée aurait d’abord été envisagée par le philosophe et mathématicien John von Neumann dès les années 1950, et popularisée ensuite par des futurologues, des auteurs de science-fiction et des penseurs transhumanistes. Certains s’en réjouissent et célèbrent le franchissement d’une étape majeure du progrès humain, tandis que d’autres y voient un risque majeur pour l’humanité, lancent des pétitions et appellent à des moratoires. Il est particulièrement frappant de constater que ces discours a priori opposés semblent émaner des mêmes milieux socio-économiques (et parfois se retrouvent chez un même auteur).

Lire la suite...

Il ne sera pas question de nier l’importance des changements induits par l’usage croissant des LLM (Large Language Model) dans certains secteurs. Les enseignants à l’université sont bien placés pour savoir que cela met en cause la nature même de leur travail. Mais je m’efforcerai de mettre en perspective critique un discours de nature idéologique et mythologique, en essayant à la fois de comprendre ce qu’il révèle de notre société et ce qu’il dissimule. Plus précisément, je proposerai d’ouvrir plusieurs pistes :

• Le discours sur la singularité technologique (en mode célébration ou en mode alerte) est principalement porté par les cadres dirigeants de la Silicon Valley (et leurs relais). En tant que tel, il a une forte dimension idéologique. D’une part, il traduit à la fois une forme de vertige lié à des trajectoires socio-économiques ascendantes et à la conquête rapide d’une forme d’hégémonie culturelle. D’autre part, il s’agit probablement d’une stratégie marketing visant à promouvoir la poursuite de l'informatisation en vendant à la fois les promesses, les menaces et les réponses à ces menaces (la « régulation »). Je préciserai notamment la dimension mythique et profondément irrationnelle de la notion de singularité, en montant qu’elle prolonge la notion de « point oméga » proposée par le philosophe et théologien français (et originaire d’Auvergne!) Pierre Teilhard de Chardin (1881-1955). Ce théoricien de l’évolution, considéré comme un précurseur du réseau Internet et du courant transhumaniste, considérait que matière et esprit étant les deux faces de la même réalité, l’univers est orienté depuis l’origine vers une complexité organisationnelle croissante, jusqu’au point Oméga – le point de convergence de toute l’évolution. Dans cette perspective, le « phénomène humain » n’était qu’une étape de l’évolution : celle qui permet le déploiement de la noosphère, « pellicule de pensée enveloppant la Terre, formée des communications humaines ».

• La notion de « singularité technologique » a pour effet (et peut-être pour finalité) de dissimuler les enjeux réels (écologiques, sociaux et humains) de l’informatisation derrière des images spectaculaires, des craintes irraisonnées et des promesses captieuses. Antoni Casilli avait déjà fait un sort à l’idée d’un remplacement des hommes par les robots, en mettant en lumière l’existence de millions de « travailleurs du clic » précarisés (cf. En attendant les robots : enquête sur le travail du clic, Seuil, 2019). Le bluff technologique en matière écologique et sociale est aussi dénoncé par Thibaut Prévost dans son livre consacré aux « prophètes de l’IA ». D’une manière générale, postuler l’avènement d’un monde où les machines ont pris le pouvoir est bien sûr une manière d’exonérer par avance les décideurs de toute responsabilité. Ce détournement de l’attention opéré par la mise en valeur du mythe de la singularité fut involontairement révélé par IBM, qui décida tranquillement en 2007 d’appeler Watson son logiciel d’intelligence artificielle, en hommage au PDG de l’entreprise de 1914 à 1956. Pourtant la collaboration active d’IBM et de son PDG de l’époque avec le régime national-socialiste est historiquement prouvée (cf. Edwin Black, IBM et l’Holocauste. L’alliance stratégique entre l’Allemagne nazie et la plus puissante multinationale américaine, Robert Laffont, 2001).

• Au-delà de la fonction idéologique et de l’aspect marketing omniprésent dans la notion de « singularité technologique », il peut être intéressant de prendre vraiment au sérieux l'idée d'une perte de maîtrise de l'humanité au profit de la machine. Mais dans ce cas, on pourrait être amené soit à déconstruire entièrement l'idée de singularité (qui invisibilise la nécessité du travail humain), soit à situer le point de bascule bien en amont de l'époque contemporaine. C’est ce que je montrerai en discutant certains écrits d’André Leroi Gourhan (Le Geste et la parole), Lewis Mumford (Le mythe de la machine), Emile Durkheim, Max Weber, Georges Orwell et Jacques Ellul. Le mythe de la singularité pourrait n’être qu’une métaphore de notre condition réelle – de notre impuissance politique. Or depuis quelques années, se multiplient les signes de contradictions majeures entre le déploiement de la puissance mécanique d’un côté, la nature et la liberté de l’autre. Les élites politiques et industrielles interprètent ces signes comme des résidus à conquérir, des frontières à repousser. Le mythe de la singularité n’est qu’une des formes idéologiques de cet effort de mobilisation. Je défendrai l’idée qu’il convient au contraire de défendre à la fois la nature et ce qu’il nous reste d’autonomie, afin de repenser l’humanisation du monde en s’affranchissant de l’obscurantisme scientiste et du totalitarisme industriel.

Bibliographie :

• ANDERS, Günther, L’Obsolescence de l’homme. Sur l’âme à l’époque de la deuxième révolution industrielle, Encyclopédie des Nuisances, 2002 (1956).

• BLACK, Edwin, IBM et l’Holocauste. L’alliance stratégique entre l’Allemagne nazie et la plus puissante multinationale américaine, Robert Laffont, 2001.

• BUTLER, Samuel, Erewhon, Gallimard, 1920 (1872).

• GANASCIA, Jean-Gabriel, Le mythe de la singularité. Faut-il craindre l’intelligence artificielle ?, Seuil, 2017.

• JORION, Paul, L'avènement de la singularité : l'humain ébranlé par l'intelligence , Textuel, 2024.

• LUZI, Jacques, Ce que l’intelligence artificielle ne peut pas faire, La Lenteur, 2024.

• MARCUSE (Groupe), La liberté dans le coma. Essai sur l’identification électronique et les motifs de s’y opposer, La Lenteur, 2019.

• MUMFORD, Lewis, Technique autoritaire et technique démocratique, La Lenteur, 2019 (1963).
  - Le Mythe de la Machine. Technique et développement humain, Encyclopédie des Nuisances, 2019 (1966).

• ORWELL, George, Le Quai de Wigan, Ivrea, 1995 (1937).

• PREVOST, Thibaut, Les prophètes de l’IA. Pourquoi la Silicon Valley nous vend l’apocalypse, Lux, 2024.

• TEILHARD de CHARDIN, Pierre, Le Cœur de la matière, Seuil, 1976.

• TREGUER, Félix, Technopolice. La surveillance policière à l’ère de l’intelligence artificielle, Divergences, 2024.