Notre monde est mort, et c'est ChatGPT qui l'a tué

Analyse des liens entre l'enshittification des GAFAM et la déshumanisation de notre monde, passant de la dead internet theory à la création d'un nouvel idéal en s'intéressant au néolibéralisme et à sa chute certaine.

Comme tout le monde, je me moquais de ceux croyant en la dead internet theory. Je pensais naïvement que le contenu présent en ligne était créé par des humains pour des humains et que c'était un algorithme sélectionnant les contenus pertinents qui me le montraient. Je ne me suis jamais autant trompé.

Ma plus grosse erreur fut d'attribuer une attitude morale aux algorithmes de recommandation. À l'époque, je ne connaissais pas encore les Facebook Files qui montraient la dangerosité évidente d'Instagram (augmentation des risques de dépression pour les adolescentes) et de Facebook (amplification de génocides). J'ignorais aussi l'immense facilité de YouTube (Note 1) et de TikTok à manipuler les opinions.

Ma deuxième erreur fut de donner exclusivement la capacité à produire du contenu pertinent aux humains. Puis ChatGPT est arrivé et, maintenant, il bat la majorité des humains dans tous les domaines.

Ces deux erreurs montrent que ma naïveté s'est encore une fois bien trompée et que je sous-estimais l'immense pouvoir des grandes entreprises.

Outre l'enjeu démocratique évident, j'y vois surtout une brutale déshumanisation de notre vie, comme si l'humain n'était plus important, comme si c'était la valeur produite et la technique derrière qui comptaient vraiment. Et de toute façon, pourquoi se questionner sur ces technologies ? Elles sont juste cool.

La déshumanisation d'Internet, un symptôme de la déshumanisation de notre monde

L'informatique ne représente pas notre monde (et internet encore moins), mais on ne peut nier les liens entre le virtuel et le réel : cyberharcèlement, surveillance des populations, émancipation du cadre social…

Toute l'imagerie autour du monde numérique nous le représente comme déconnecté de notre réalité : le cloud n'est pas directement tangible, on ne peut pas le sentir, mais nous pouvons quand même y accéder. Cette représentation faussée oublie que l'informatique repose sur des datacenters énergivores (encore plus depuis l'IA) totalement opposés à l'idéal écologique. Elle omet aussi le pouvoir des relations que l'on entretient avec les applications : Instagram nous rend addict, TikTok nous manipule, Amazon nous pousse à la surconsommation. Cette modification bien concrète de la réalité nous choquerait si ce n'était pas du cloud. Si un État fichait tous les goûts de ses citoyens comme le fait Google, tous crieraient au totalitarisme, pourtant peu sont ceux contre les GAFAM. Si un parti politique manipulait les chaînes de télévision et les journaux pour gagner une élection, tous protesteraient pour défendre la démocratie, pourtant peu sont ceux s'insurgeant contre l'élection roumaine manipulée par TikTok. Si un groupe terroriste attaque l'infrastructure éducative d'un pays, tous voudraient les emprisonner, pourtant rien n'est fait contre les hackers de Paris-Saclay (Note 2).

Cette dissymétrie largement en faveur du numérique montre le manque de compréhension de ces enjeux, comme si tout le monde les niait. Enfin, si, tous ont bien compris l'intérêt économique de l'IA : pouvoir virer des salariés pour les remplacer par des machines tout en paraissant cool aux yeux du grand public. Le plus drôle dans cette histoire, c'est que les entreprises souhaitant faire ces économies se retrouvent encore plus dépendantes des autres. Et je ne parle même pas du côté éthique de ces changements.

De la mort d'internet

Le premier endroit où ces changements se manifestent est évidemment internet : quantités absurdes de bots, sites générés par IA générative remplis de publicités sur des sujets vagues et moteurs de recherche avec toujours plus d'IA pour noyer l'information.

Si on omet les dangers liés aux fausses informations et aux mutes news, on peut se questionner sur le véritable danger derrière tout ça : les entreprises gérant internet (ou GAFAM) vont bien lutter contre tout ça, non ?

Ce que Cory Doctorow (créateur du terme enshittification) explique ici, c'est que ces entreprises n'ont aucun intérêt à limiter ces pratiques. C'est même le contraire. Si cela ne leur coûte rien, pourquoi devrait-elle l'empêcher ? Pourquoi devrait-elle améliorer leur service si tout le monde l'utilise déjà ? Pourquoi devrait-elle le faire si personne ne peut les remplacer ?

Lutter contre les bots et les sites générés par IA coûtent énormément d'argent et n'assurent pas de bénéfices. Les GAFAM ne font donc que le minimum pour garder un environnement utilisable. Malheureusement, l'extrême majorité des services numériques dépendent de ces entreprises.

Tout cela va même encore plus loin. Si on combine ce processus d'enshittification à l'arrivée des IA génératives comme ChatGPT, on se retrouve avec une quantité absurde de contenu submergeant toute production humaine possible. Cette production touche aussi bien les vidéos YouTube, que les sites (Minecraft.fr en est un parfait exemple) et que les commentaires. C'est ce dernier type qui m'a poussé à créer cet article :

Ce commentaire m'a terrifié. Ce n'est pas la première fois que je vois des bots en commentaires, mais ce dernier était particulièrement précis et était (presque) dans le sujet de la vidéo. C'est l'expression « langage LFS » qui m'a fait tiquer : LFS est un guide et non un langage de programmation. L'utilisateur n'a donc pas regarder la vidéo, ce qui est très étrange, sauf pour un bot. (Son objectif n'est pas ce qui m'intéresse ici.) Le simple fait de pouvoir commenter en prenant en compte le contexte comme un humain me terrifie : bientôt, je ne vais plus pouvoir différencier un bot d'un humain.

Déjà que le contenu est trié par un algorithme opaque servant uniquement les intérêts de la plateforme, alors si le contenu lui-même est généré par une machine dans un but lucratif (pour rentabiliser l'investissement), on perd tout le côté humain de la création. Ce monde de contenu artificiel ne m'intéresse juste pas. Je ne veux pas de bots pouvant être humain. Je ne veux pas d'un univers où l'humain n'est plus au centre. Je ne veux pas de cet internet mort.

À la déshumanisation de notre monde

Penser naïvement que la production automatisée de contenu par des robots ne changent rien à notre monde, c'est avant tout ignorer les étroites relations liant les deux. Remplacer un support informatique par un chatbot, c'est déshumaniser notre relation à autrui : c'est nier nos devoirs moraux envers lui. Cette négation dépasse le simple refus, cela revient à nous déraciner de notre condition humaine, à nier qui nous sommes dans cette situation : des humains demandant de l'aide. Remplacer tous les métiers sociaux par des robots détruit ce lien nous définissant en tant qu'humain : nous ne cherchons pas qu'une aide froide, nous voulons en plus être aidé par autrui.

Cette subtilité prend tout son sens dans le secteur de l'éducation : l'enseignement à distance est beaucoup plus complexe que celui en présentiel. De plus, l'utilisation d'IA, même si c'est pour compléter le travail de l'enseignant, ne possède aucune preuve d'efficacité supplémentaire. Par conséquent, même si on ne s'intéresse qu'aux résultats pragmatiques en rejetant tout aspect moral, cette déshumanisation n'est absolument pas souhaitable.

Cette déshumanisation progressive n'a pas été provoquée par la mort d'internet, mais s'est rapidement accélérée suite à sa chute. En effet, le néolibéralisme transforme l'humain en entreprise, on peut donc le juger objectivement en regardant la valeur qu'il rajoute à la société. Cette valeur, forcément monétaire puisqu'il s'agit d'une entreprise, déshumanise totalement sa victime, le limitant ainsi à une vision qu'il n'a pas choisi. L'arrivée d'internet et des GAFAM n'a fait qu'accélérer ce processus déjà en place : nous ne sommes qu'un numéro avec des intérêts convertibles en argent (Note 3), ce qui est une forme encore plus radicale de déshumanisation puisque l'humain n'est plus une source de valeur, mais une source de dépense. Heureusement, cette transformation n'est pas facilement exportable en dehors du numérique et de la vente. Ce n'est pas le cas de la dernière innovation du néolibéralisme. Les IA continuent l'entreprise néolibérale de réduction de l'humain à sa production de valeur : il est accepté de remplacer des humains par de l'IA si cela permet d'augmenter la plus-value et le profit, peu importe si cela nie nos devoirs moraux ou si cela n'a aucune preuve d'efficacité.

Un autre aspect de la déshumanisation de notre monde est celle du recours aux IA génératives pour suivre des tendances, la dernière en date étant celle des Starters Packs sur les réseaux en avril 2025 (NDLR, lors de la rédaction de cette partie en tout cas). Outre les gros problèmes écologiques et géopolitiques que cela pose, suivre une tendance revenant à copier le style d'artistes, alors que la question du droit d'auteurs lors de la création des IA est complexe, revient à nier le travail humain derrière. En promouvant ce type de pratique, on détruit toute la singularité de la vision artistique ayant pourtant provoqué cette génération. Aussi paradoxale que cela puisse paraître, en recopiant une vision artistique avec une IA, on la tue.

D'une manière plus générale, si on connait une personne voulant faire ce travail, il sera toujours plus moral de lui demander de faire ce travail au lieu d'utiliser une machine pour le faire. Cela lui permet de s'améliorer tout en nous évitant de perdre un intérêt pour l'art non technique.

Construire un autre monde : vers un idéal plus simple, centré sur l'humain et sa relation au vivant

Nous venons de voir que l'enshittification des GAFAM et que l'IA générative sont les symptômes de la déshumanisation progressive de notre monde, processus lancé par le néolibéralisme. Ce nouveau monde sans humain me terrifie. Et je ne pense pas être le seul.

Ce monde n'existe pas encore, mais un horizon bien sombre se profile devant nous. Je ne peux pas le laisser s'assombrir encore plus. Je dois lutter contre pour continuer à garder espoir. Et espoir, il y a.

L’effondrement certain du système

Sans repartir sur une théorie de l'effondrement du capitalisme suite à ses contradictions internes telle que celles expliquées par Karl Marx, je suis convaincu que le néolibéralisme et que le capitalisme s'effondreront suite à des contraintes extérieures trop fortes. Cela peut aussi bien se produire sans conséquences dramatiques pour la population, qu'avec.

Le néolibéralisme a été conçu pour préserver la paix mondiale. En mettant l'économie au centre des relations mondiales, les néolibéraux voulaient rendre toutes guerres impossibles à l'aide des pressions économiques qu'elle exerce : coûts, isolement du pays, commerce extérieur impossible… Ce système symbolisé par l'Organisation mondiale du commerce ne fonctionne plus du tout maintenant suite à la montée de l'extrême droite nationaliste (Trump, Poutine, Netanyahu) et aux guerres que cela provoque (conflit russo-ukrainien, retour du conflit israélo-palestinien). De plus, le néolibéralisme possède de nombreuses limites comme théorie économique : instabilité économique à court terme pour les travailleurs (notamment à cause du processus de destruction créatrice), interdépendance très forte limitant la souveraineté, inégalités immorales qui en découlent. La chute du néolibéralisme est inévitable à cause de son dysfonctionnement (le retour des guerres parmi les grandes puissances) et des très grandes limites en découlant.

Le capitalisme, quant à lui, est directement confronté au problème écologique et au problème informationnel.

Le défi écologique est le plus évident : le capitalisme nécessite une croissance pour fonctionner, ce qui s'oppose au défi environmental. Cette croissance repose majoritairement sur la consommation des ménages : si les ménages n'achètent plus de nouveaux produits, le pays ne peut plus croître. Or, la décroissance est la solution la plus viable pour résoudre cet immense défi. En effet, pour continuer à croître sans endommager la biosphère, il faudrait réinventer toute la chaîne de production pour qu'elle devienne verte. Ce n'est pas possible pour le plastique (qu'on ne sait même pas recycler efficacement) puisqu'il a besoin de pétrole pour être produit. Ce n'est pas non plus possible pour la majorité des biens numériques nécessitant des terres rares polluants énormément. Changer toutes les chaînes de production revient à inventer des processus révolutionnaires, à s'assurer de leur durabilité et à les mettre en place à une échelle industrielle en moins de 25 ans. Autant dire que c'est impossible.

Le défi informationnel repose sur la création d'un espace de libre circulation de l'information pertinente et fiable pour préserver nos démocraties. Cet espace doit être indépendant de l'État et des lobbies privés pour éviter toute forme de contrôle des informations pertinentes et fiables. Un espace similaire à celui-ci existe, mais il ne garantit pas ni la pertinence, ni la fiabilité des informations et n'est pas indépendant. Il s'agit des réseaux sociaux que tout le monde utilise pour s'informer. Comme vu précédemment, il est impossible d'atteindre une forme de régulation efficace sans intervention extérieure (« Ils s'en foutent. Ils n'en ont pas besoin. Ils sont Google. »). De plus, l'unique forme de régulation passe forcément par l'État (ce qui ne garantit pas l'indépendance) et ne sera jamais suffisante pour éviter les contournements (les lois sont toujours en retard par rapport aux nouvelles technologies). Il est donc a minima nécessaire de sortir cet espace informationnel du capitalisme libéral (c'est-à-dire qu'il n'y a plus de présomption de conformité quand une nouvelle technologie est publiée). Sauf que ce n'est pas suffisant : l'accumulation des capitaux dans les mains d'une élite est inévitable dans le capitalisme, ce qui remet en cause tout modèle indépendant. La solution serait ainsi de sortir cet espace de toute forme de capitalisme, créant ainsi une contradiction dans le système économique.

Mais par quoi pouvons-nous remplacer le capitalisme ? Pour l'instant, par rien.

Le besoin d'un nouvel idéal

Que l'on cherche à détruire le système ou à le changer en douceur, la création d'un nouvel idéal est nécessaire.

L'idéal est une idée régulatrice de la raison, c'est-à-dire qu'il sert à désigner ce qui est politiquement souhaitable (dans notre cas). La construction d'un nouvel idéal modifie alors notre vision politique. Cela permet de justifier certaines actions précédemment illégitimes, comme une désobéissance civile, et de construire un nouveau monde politique. Sans, il est injustifiable, et donc impossible, de modifier en profondeur le système politique de notre monde puisque ce dernier répond à l'idéal présent.

Cela caractérise bien le rôle sociologique de l'idéologie – une idéologie étant un ensemble d'idéal. En effet, une révolution politique est un changement violent de régime politique. Pour qu'il y ait changement, l'ancien système politique doit être remplacé par un système radicalement différent : personne ne ferait une révolution pour juste changer de président. Cela n'est possible que s'il existe un autre système possible répondant à des besoins différents : personne ne ferait une révolution sans savoir où cela va nous mener. Il est alors nécessaire d'avoir des objectifs pour mener un changement (sinon pourquoi changer ?). Ce rôle est rempli par l'idéologie.

Attention — Les critiques répétées envers l'idéologie, comme si elle était singulière et non plurielle, montrent une profonde mécompréhension de son rôle dans la dynamique politique et sociale. Il ne peut exister un système politique sans idéologie. Il ne peut exister une cohésion sociale sans idéologie. Cette critique vise donc l'existence d'idéologies différentes – puisqu'on ne remarque que les idéologies différentes de la sienne – bloquant alors le monde politique et social dans un immobilisme…

L'existence d'une idéologie différente est aussi nécessaire pour les dynamiques politiques moins violentes. En effet, cette existence possibilise le changement sans prendre en compte sa forme : il peut être violent, doux, progressif, abrupte… Par exemple, le coup d'État de Trump n'est pas une révolution, mais est bien un changement majeur dans le fonctionnement politique américain. Ses objectifs sont connus depuis longtemps et sont à l'origine de son idéologie politique : Project 2025. Sans, il ne saurait que faire, comme en 2016.

Cette absence de nouvelle idéologie caractérise les échecs successifs de l'écologie politique : elle ne possède aucun idéal bien défini, elle cherche juste à résoudre un problème sans questionner ses a priori métaphysiques. L'unique ambition de l'écologie politique actuelle est de limiter le changement climatique et de préserver la biosphère, ce qui n'est pas une ambition politique, mais une ambition technique : comment décroître (Note 4) ? comment produire suffisamment sans utiliser de produit phytosanitaire dangereux ? comment s'adapter au nouveau climat ? Une ambition politique écologiste nouvelle serait de repenser en profondeur notre relation au vivant pour empêcher tout futur débordement.

Note — Cette vision serait l'équivalente des idéaux anticapitalistes. En effet, une nouvelle ambition de la sorte provoquerait une rupture comparable à celles envisagées par ces mouvements. Toutes idéologies politiques ne se distinguant pas suffisamment de l'idéologie dominante ne peuvent pas provoquer une rupture : le programme du NFP n'est pas un programme de rupture puisqu'il s'agit encore d'un programme capitaliste. Il ne cherche pas à changer la racine du système économique en place, il cherche juste à le réguler pour éviter les dérives.

La construction d'une idéologie de rupture ne détermine en rien l'extrémisme politique du mouvement : elle peut proposer une évolution radicale de notre société tout en étant modéré dans sa vitesse d'application. Une politique planifiant une sortie progressive du modèle capitaliste n'est pas extrême puisqu'elle ne remet pas violemment en cause le système en place :

Note — L'article caractérise l'extrême gauche par l'idéologie anticapitaliste assumée et par la légitimation de la violence. Une gauche anticapitaliste non violente serait donc radicale (entendre « qui touche à la racine de la société »), mais pas extrême (entendre « révolutionnaire »). Dans cette vision, La France insoumise n'est pas de gauche radical (puisque capitaliste), mais est uniquement de gauche. Ainsi, il n'existe pas de véritable gauche radical en France.

Fondements d'un nouveau monde

Les questionnements autour de la forme d'un nouveau mouvement politique, aussi pertinents soient-ils, ne sont pas utiles tant qu'il ne possède pas de fond.

L'objectif de ce mouvement est de résoudre les grands défis de notre monde : crise informationnelle, crise écologique, crise politique, immoralité économique, déracinement humain. Il cherche à construire un paradigme sociétal viable sur le long terme : il ne s'agit pas de réagir rapidement à un système mourant, mais bien de bâtir de nouvelles fondations pour le futur.

Ce mouvement sera anticapitaliste pour toutes les raisons évoquées précédemment.

Ce mouvement sera écologiste. Sans une conception fondamentalement différente du vivant, sortir du capitalisme et de sa logique d'exploitation est impossible. Notre vision de la nature comme ensemble homogène différent de l'humain est responsable de cette exploitation. L'anticapitalisme et la lutte écologique sont forcément liés.

Ce mouvement sera utopiste pour espérer un futur meilleur. Il n'est pas déconnecté de la réalité, il permet juste de rêver, de s'émanciper et de mobiliser.

L'indépendance sera son idéal : personne ne peut mieux savoir ce qu'un groupe ou qu'un individu souhaite le plus que lui-même. Tout rôle paternaliste est de facto immoral.

La solidarité et l'égalité seront son moteur. Aucune vie n'est supérieure à une autre, peu importe ses choix envers lui-même.

La prudence et la technique seront ses conseillers. La vérité n'apporte pas forcément le bonheur, mais permet au moins d'atteindre efficacement ses objectifs (Note 5). La prudence donne le temps nécessaire pour bien comprendre et analyser une situation, évitant ainsi de faire des choix trop hâtifs.

Ce mouvement est une forme du Solarpunk.

Mes réflexions concernant ce nouveau système politique seront publiées sur ce blog. Je vous invite à me suivre sur Bluesky pour être notifié des prochains articles.

Notes :

1. YouTube manipule l'opinion à l'aide de la censure (via la monétisation et le shadow ban) qu'il applique. Le contenu pouvant provoquer un backlash des annonceurs est interdit, effaçant ainsi les opinions différentes.
2. Les articles montrent juste les faits et non pas l'absence de réaction. Il m'est impossible de la montrer moi-même.
3. C'est le principe de l'identification publicitaire.
4. La décroissance n'est plus une ambition politique puisqu'elle est nécessaire pour limiter le changement climatique, voir précédemment.
5. Pour traverser une route sans danger, il est plus efficace d'avoir une connaissance vraie que penser que fermer les yeux permet de traverser n'importe quelle route… Ce rôle de la vérité est consensuel d'après les cours de Pascal Ludwig (maître de conférence en épistémologie et directeur adjoint de l'UFR de philosophie à Sorbonne Université)