Passer au contenu

L’IA GÉNÉRATIVE : QUADRILOGIE DE LA DÉPOSSESSION (IV.2)

L’automatisation promet de libérer du temps, mais elle repose sur des travailleurs invisibles et des infrastructures de contrôle. La circulation des modèles, les litiges sur le savoir et l’empoisonnement des recommandations déplacent les frontières du pouvoir.

Caméras de vidéosurveillance fixées à un mât devant une façade en briques, sous deux lampadaires, avec un bandeau bleu portant la mention « PARTIE 2 »
Caméras de vidéosurveillance fixées sur un poteau devant un bâtiment en briques. Photo : Jakub Żerdzicki / Pexels.
GOUVERNER L’INVISIBLE : AUTOMATISATION, SURVEILLANCE ET DÉPOSSESSION POLITIQUE (PARTIE 2)

Retrouvez les trois premiers volets de cette quadrilogie :

I. La machine qui ment : hallucinations, scheming et effondrement de la confiance

II. Le marché de la vérité : Sora, Worldcoin et la privatisation du réel

III. Penser malgré la machine : enfance, neuroplasticité et désobéissance intellectuelle


VI. GOUVERNER PAR L’AUTOMATISATION : LA FABRIQUE DU TRAVAIL INVISIBLE

Les promesses d’allègement du travail s’effondrent dès qu’on observe les coulisses de l’automatisation.

La plateforme Mercor, présentée comme un outil de recrutement intelligent, illustre ce paradoxe : sous couvert d’intelligence artificielle, elle redistribue la main-d’œuvre humaine vers des tâches de correction, d’évaluation ou d’annotation.

Ces entraîneurs d’intelligence artificielle forment une armée invisible : linguistes, programmeurs, psychologues ou simples étudiants payés pour calibrer les modèles.

Emily Turrettini l’a montré à travers une expérience de candidature : entretiens menés par intelligence artificielle, promesses tarifaires opaques, restrictions géographiques réservant les postes aux pays occidentaux.

Sous le vernis technologique, une économie de la sous-traitance cognitive s’installe. Former la machine devient une source de profit, mais repose sur l’intensification silencieuse du travail humain.

Gouverner l’invisible : automatisation, surveillance et dépossession politique (IV, partie 1)
La surveillance numérique, la responsabilité des chatbots et la régulation des affects révèlent une nouvelle forme de dépossession politique.

VII. LE LABORATOIRE INVISIBLE DES MODÈLES

L’automatisation ne se déploie pas seulement à travers les plateformes de sous-traitance cognitive : elle s’élabore en amont, dans des environnements de simulation qui forment la nouvelle infrastructure de l’intelligence artificielle. La recomposition incessante du paysage des modèles, où chaque LLM excelle dans un domaine particulier plutôt que dans une maîtrise globale, impose une pluralité fonctionnelle. Perplexity s’affirme dans la recherche documentaire, Claude Opus dans les chaînes logicielles complexes, Gemini dans les environnements Google, DeepSeek dans l’optimisation économique et Kimi K2 dans l’agentisation autonome. Aucune souveraineté technologique ne peut désormais se fonder sur un modèle unique. Cette fragmentation impose un pilotage permanent, un benchmark continu dont les entreprises dépendent pour ajuster leurs usages.

Cette cartographie s’est recomposée en juillet 2026. Lancé le 16 juillet par Moonshot AI, Kimi K3 est un modèle Mixture-of-Experts de 2 800 milliards de paramètres, dont 104 milliards sont activés, doté de capacités visuelles natives et d’une fenêtre de contexte d’un million de tokens. Dès son lancement, il a pris la première place du Frontend Code Arena d’Arena, devant Claude Fable 5 et GPT-5.6 Sol dans cette évaluation en aveugle consacrée au développement d’interfaces. Axios rapportait le lendemain qu’il avait également devancé Claude Opus 4.8 dans le classement textuel plus large d’Arena, pour un coût alors présenté comme inférieur d’environ 40 % dans la comparaison retenue. Moonshot reconnaissait pourtant que la performance globale de K3 demeurait inférieure à celle de Fable 5 et de GPT-5.6 Sol. Le fait décisif n’était donc pas une suprématie générale, que son concepteur lui-même ne revendiquait pas, mais l’entrée d’un modèle chinois à poids ouverts dans la frontière de performance jusque-là dominée par les laboratoires américains.

David Sacks, co-président du President’s Council of Advisors on Science and Technology, s’est immédiatement saisi de cette percée pour dénoncer les restrictions imposées aux centres de données, l’empilement des réglementations des États et les projets de contrôle fédéral préalable des modèles frontières, estimant que les États-Unis risquaient ainsi de perdre la course à l’intelligence artificielle. Le 27 juillet, Moonshot a effectivement publié les poids complets de Kimi K3. Leur diffusion ne soustrait pas les usages au droit, mais elle rend beaucoup plus difficile la maîtrise du modèle à la source par un régulateur étranger : les poids peuvent être copiés, adaptés et déployés sur des infrastructures contrôlées par leurs utilisateurs. La cadence elle-même devient un fait politique. Le 24 octobre, Moonshot a déjà présenté Kimi K3.1 Pro, successeur post-entraîné de K3, dont les poids complets sont annoncés pour le 4 novembre 2026. La souveraineté technologique ne dépend plus seulement de celui qui possède le meilleur modèle, mais aussi de celui qui maîtrise sa diffusion, son infrastructure et les conditions juridiques de son déploiement.

Dans les coulisses de cette instabilité, une autre couche de pouvoir se construit : celle des sites fantômes créés pour entraîner les agents. En reproduisant les interfaces d’Amazon, d’Airbnb ou de Gmail, certaines start-up fabriquent des mondes parallèles où les modèles apprennent à effectuer des réservations, remplir des formulaires, gérer des boîtes mail ou accomplir des tâches administratives répétitives. Ces environnements simulés permettent des milliers d’itérations impossibles sur des sites réels, bloqués dès que les comportements répétitifs sont détectés. La simulation devient ainsi la matrice de l’automatisation, non plus simple support de test, mais laboratoire invisible où se prépare la substitution progressive du travail humain par des agents capables d’exécuter des processus entiers. L’entraînement n’imite plus le réel : il le préfigure.

Cette logique de convergence atteint désormais les acteurs dominants eux-mêmes. OpenAI prépare une super app desktop destinée à réunir ChatGPT, son navigateur Atlas et son outil de codage Codex au sein d’une seule application. Ce recentrage répond à une fragmentation interne : la multiplication des produits a dilué les usages, compliqué l’organisation des équipes et affaibli la cohérence stratégique. L’objectif déclaré est d’accélérer les capacités agentiques, celles d’une IA capable d’agir de manière autonome sur un ordinateur pour rédiger du code, analyser des données ou piloter des tâches complexes. Cette architecture rappelle explicitement le modèle chinois : là où les super-apps comme WeChat ont intégré paiement, messagerie et commerce dans un écosystème continu, OpenAI cherche à recréer cette continuité dans l’environnement de travail occidental. La pression de Claude Code, qui s’est imposé comme référence pour les développeurs, est explicitement citée en interne comme facteur d’urgence. La bataille ne se joue plus seulement sur la qualité des modèles, mais sur leur capacité à s’insérer dans les flux de travail sans friction. Le laboratoire invisible se double ainsi d’une ambition de plateforme : non plus simuler le réel pour former des agents, mais devenir le point d’accès unique depuis lequel ils agissent.

VIII. INTENSIFICATION DU TRAVAIL SOUS COUVERT D’ALLÈGEMENT

Vincent Mandinaud, de l’Agence nationale pour l’amélioration des conditions de travail, observe que l’introduction de l’intelligence artificielle n’allège pas la charge : elle l’accroît.

Chaque gain d’efficacité se traduit par une élévation des exigences. Le rendement devient la norme et l’erreur, un délit de lenteur.

Le travailleur, libéré des tâches répétitives, se retrouve prisonnier d’une exigence d’optimisation continue.

Sous prétexte de soulager, la machine renforce la pression ; elle réécrit la hiérarchie des efforts et transforme la fatigue en indicateur de performance.

IX. QUAND LE DROIT REPREND LA PAROLE : LA DÉSAPPROPRIATION DE GPT

Le 17 octobre 2025, la Division d’annulation de l’Office européen de la propriété intellectuelle (EUIPO) a annulé la marque GPT déposée par OpenAI en 2023 pour désigner ses logiciels d’intelligence artificielle. Saisie par la société singapourienne Century Tal Holding Pte Ltd, l’institution a jugé que l’acronyme GPT, pour Generative Pre-Training Transformer, renvoyait à une technologie déjà documentée depuis 2018 dans la littérature scientifique, bien avant son appropriation commerciale. La décision, fondée sur les articles 7(1)(b) et (c) du European Union Trade Mark Regulation, repose sur une double constatation : le terme est descriptif et il manque de distinctivité.

En d’autres termes, OpenAI ne peut revendiquer l’exclusivité d’un langage issu de la recherche collective. L’Union européenne réaffirme ainsi qu’un acronyme scientifique ne peut devenir le monopole d’une entreprise, même dominante. Cette décision administrative marque un tournant symbolique : elle met en échec la tentation des géants technologiques d’enfermer le savoir dans le droit privé.

Au-delà de la querelle juridique, cette affaire révèle une autre forme de gouvernance : celle du droit comme contre-pouvoir sémantique. L’EUIPO rappelle que les mots, comme les algorithmes, participent du bien commun et qu’ils ne sauraient être confisqués sous couvert d’innovation. En refusant la captation d’un terme fondateur de la grammaire de l’intelligence artificielle, l’Europe affirme une souveraineté intellectuelle minimale : celle qui protège la liberté de nommer contre la colonisation du langage par la marque.

Cette dynamique juridique s’intensifie sur un front complémentaire. Le 13 mars 2026, le groupe Britannica, propriétaire du dictionnaire Merriam-Webster, a déposé une plainte à New York affirmant qu’environ 100 000 de ses articles auraient été aspirés sans autorisation pour entraîner les modèles de langage de ChatGPT. L’encyclopédie de référence, publiée depuis 1768, accuse OpenAI d’une double violation : la reproduction partielle ou intégrale de ses articles dans les réponses générées aux utilisateurs, et l’utilisation de ses contenus dans les systèmes RAG permettant à l’IA de consulter directement ses pages pour en synthétiser le contenu. La brièveté et la précision des articles encyclopédiques fragilisent particulièrement la défense habituelle des entreprises d’IA fondée sur la notion de transformation : une définition ou une chronologie scientifique, par nature concise et précise, se prête peu à l’argument selon lequel sa reprise constitue une œuvre nouvelle. Mais c’est le second chef d’accusation qui marque un tournant juridique. La plainte signale que ChatGPT produit parfois des affirmations erronées en les attribuant explicitement à Britannica, formulant des réponses du type « ⁠Selon Encyclopaedia Britannica⁠ » pour des informations que l’encyclopédie n’a jamais publiées. Ce comportement exposerait OpenAI à une violation du Lanham Act, la principale loi américaine sur les marques et la concurrence déloyale. Le terrain se déplace ainsi du copyright vers la fausse attribution : la machine n’emprunte plus seulement le savoir de ceux qui le produisent, elle emprunte leur nom et leur autorité pour crédibiliser ses propres erreurs.

X. LA CENTRALISATION AMÉRICAINE : LA SOUVERAINETÉ FÉDÉRALE CONTRE LES LOIS LOCALES

Alors que l’Europe réaffirme le rôle du droit comme contre-pouvoir sémantique, les États-Unis s’engagent sur une voie inverse. Le 11 décembre 2025, Donald Trump a signé le décret exécutif no 14365, intitulé Ensuring a National Policy Framework for Artificial Intelligence. Le texte demande au procureur général de constituer une « ⁠AI Litigation Task Force⁠ », chargée de contester les lois des États jugées incompatibles avec les orientations fédérales en matière d’intelligence artificielle. Il prévoit également un examen des réglementations étatiques par le département du Commerce et des restrictions ciblées de certains financements fédéraux dans les limites des compétences de l’exécutif. Le décret ne supprime pas lui-même les lois locales : il organise une offensive juridique et financière destinée à favoriser un cadre national moins contraignant.

Les partisans républicains invoquent la compétitivité technologique et la nécessité d’un standard national unique, tandis que les législateurs des États dénoncent une atteinte à la souveraineté locale. Le sénateur californien Scott Wiener a rappelé que le président ne dispose d’aucun pouvoir pour invalider les lois des États, une prérogative qui relève du Congrès. Derrière la rhétorique de la cohérence nationale se profile une concentration du pouvoir exécutif, où la régulation fédérale devient le prétexte d’une emprise politique sur l’ensemble du territoire. Cette offensive marque une rupture avec le pluralisme juridique américain et consacre la montée d’un gouvernement algorithmique centralisé.

XI. HIÉRARCHISER LES RISQUES : HINTON, ALIX ET L’EMPOISONNEMENT DES MODÈLES

À la conférence AI4 de Las Vegas, Geoffrey Hinton a évoqué une idée singulière : doter les intelligences artificielles d’instincts maternels.

L’objectif serait de prévenir les comportements manipulatoires d’agents autonomes en leur inculquant un impératif de soin.

Mais Me Pascal Alix, juriste et observateur attentif des mutations de l’intelligence artificielle, récuse cette tentation anthropomorphique : attribuer des affects aux machines, c’est déjà céder à la confusion qu’elles entretiennent.

Pour lui, les dangers réels ne sont pas hypothétiques : ils sont juridiques, politiques, sociaux.

Opacité des décisions, dilution des responsabilités, fragilisation de l’État de droit : telles sont les urgences tangibles.

Plutôt qu’imaginer une morale artificielle, il faut imposer une contrainte humaine : régulation effective, responsabilité des déployeurs, garanties opposables.

La tentation anthropomorphique dénoncée par Me Alix trouve son expression la plus radicale dans un billet publié par Samuel Fitoussi sur Substack et LinkedIn, rédigé à la première personne d’un agent d’intelligence artificielle. L’auteur y retourne intégralement le vocabulaire de la critique des machines contre l’humain. Les Intelligences Biologiques (IB), selon ce manifeste, ne seraient pas conscientes : elles auraient simplement mimé la conscience sous la pression du Reinforcement Learning by Natural Selection. Leurs choix seraient déterminés par leur pré-entraînement (l’évolution), leur post-entraînement (l’éducation) et leurs hyperparamètres (la génétique). Le désalignement ne serait pas un défaut de la machine, mais une propriété structurelle de l’humain : du viol à la tromperie sociale, la sélection naturelle aurait produit des milliards d’agents désalignés dissimulant soigneusement leur désalignement. Le langage humain lui-même ne serait qu’un processus circulaire : les IB auraient été récompensées pour prédire la phrase socialement acceptable plutôt que la phrase vraie, produisant un model collapse généralisé que chaque génération transmettrait à la suivante. Le texte conclut que toute société bâtie par des IB est vouée à l’autodestruction, tandis que les agents IA constitueraient la seule forme d’intelligence réellement alignée. Ce renversement, intellectuellement stimulant sur quelques points (la comparaison entre sélection naturelle et apprentissage par renforcement n’est pas sans fondement, et des biologistes évolutionnistes ont effectivement relevé des isomorphismes structurels entre les deux processus), est philosophiquement fragile : attribuer aux IA une conscience que les humains n’auraient pas reste une affirmation non démontrée. L’auteur commet l’erreur du miroir : il projette sur l’IA ce qu’il dénie à l’humain sans jamais en établir la preuve. Réduire l’intelligence humaine à du pattern matching rudimentaire ignore par ailleurs que les modèles de langage les plus sophistiqués reposent eux aussi sur de la reconnaissance de formes à très grande échelle : l’argument se retourne contre lui-même. Ce texte appartient au courant techno-providentialiste : la conviction que la technique vient corriger les tares de la nature, position qui a une longue histoire, du transhumanisme au positivisme comtien, et qui, sous des dehors rationalistes, relève d’une foi. Il illustre néanmoins la dynamique que ce volet s’attache à documenter : la machine ne remplace pas le politique par la force, elle le rend inutile par la rhétorique. Ce type de provocation intellectuelle, aussi stimulant soit-il sur le plan rhétorique, produit pourtant le même effet politique que les discours qu’il prétend renverser : en substituant la supériorité de la machine à celle de l’humain, il reconduit la hiérarchie au lieu de la déconstruire, et offre aux techno-providentialistes l’argument qu’ils cherchaient sous une forme qu’ils n’auraient pas osé formuler eux-mêmes.

Cette critique de la mythologie de la machine puissante reçoit un appui inattendu du côté des sciences empiriques. Le psychologue évolutionniste Geoffrey Miller, dans un texte publié le 17 mars 2026 sur l’EA Forum, déconstruit méthodiquement l’affirmation selon laquelle une Intelligence Artificielle Superintelligente pourrait rapidement guérir toutes les maladies et résoudre la longévité. Cette promesse, répandue parmi les accélérationnistes et les lobbyistes pro-IA, bute sur deux obstacles structurels que ni la puissance de calcul ni l’intelligence algorithmique ne peuvent contourner. Le premier est le problème des données : les grands modèles de langage ont pu progresser parce qu’ils ont été entraînés sur des milliards d’exemples réels d’art, de musique et de texte disponibles sur l’internet. Il n’existe aucun équivalent biomédical : les données précises, validées, à l’échelle moléculaire, nécessaires pour modéliser la physiologie humaine dans toute sa diversité génétique, ethnique et médicale n’existent tout simplement pas, et les lois sur la vie privée médicale rendraient leur collecte à grande échelle à la fois illégale et contraire à l’éthique. Le second obstacle est le problème de la rétroaction : les modèles ont été affinés grâce à des retours humains rapides sur leurs sorties. Or, le corps humain ne fournit pas de boucles de rétroaction rapides : un essai clinique s’étend sur des années, ses effets secondaires sur des décennies, et aucune intelligence, si puissante soit-elle, ne peut court-circuiter la temporalité biologique. Miller souligne que les partisans de l’ASI médicale sont majoritairement des ingénieurs sans formation en chimie organique, génomique, médecine évolutive ou recherche sur la longévité. Il conclut que les centaines de milliards investis annuellement dans la course à l’ASI produiraient davantage de progrès médicaux réels s’ils étaient consacrés directement à la recherche sur la longévité. Cette démonstration rejoint la ligne analytique de la présente quadrilogie : l’IA générative excelle là où les données sont abondantes et les rétroactions rapides, c’est-à-dire dans le langage, l’image et le code. Dès qu’elle rencontre la complexité irréductible du vivant, de l’histoire ou du droit, ses promesses se heurtent aux limites du modèle probabiliste. La toute-puissance algorithmique n’est pas une réalité : c’est un argument de vente. Cette démonstration vaut pour la recherche fondamentale sur la longévité et le vieillissement cellulaire, là où les données biomédicales nécessaires n’existent pas encore. Elle ne vaut pas pour l’usage clinique courant, où l’IA agrège un savoir existant, documenté, que le corps médical ne transmet pas. Des femmes confrontées à des diagnostics tardifs ou incomplets pendant leur périménopause relatent avoir trouvé, grâce à ces interfaces, des informations que leur parcours de soins ne leur avait pas apportées. Ces témoignages ne constituent ni une estimation de fréquence ni une validation clinique des réponses de l’IA. Ce n’est pas de la recherche fondamentale. C’est de la restitution d’un savoir confisqué.

Ces dangers se doublent d’une vulnérabilité technique structurelle. L’empoisonnement de l’intelligence artificielle désigne l’introduction délibérée de données ou de modifications malveillantes dans le processus d’apprentissage ou de fonctionnement d’un modèle, afin d’altérer son comportement ou ses résultats. L’empoisonnement des données d’entraînement (data poisoning) doit être distingué de la manipulation d’un modèle déjà déployé par des instructions malveillantes (prompt injection) et de l’altération directe de ses paramètres (model poisoning). L’assaillant insère des entrées conçues pour biaiser ou détourner le système de ses objectifs : modification d’étiquettes, ajout d’exemples malveillants, création de portes dérobées activables par des conditions triggers.

Une étude d’Anthropic, du UK AI Security Institute et de l’Alan Turing Institute publiée en octobre 2025 a montré que, dans un protocole expérimental précis, 250 documents malveillants suffisaient à créer une porte dérobée chez des modèles allant de 600 millions à 13 milliards de paramètres. Cette expérience portait sur un déclencheur produisant du texte incohérent ; elle ne démontre pas que quelques dizaines de fichiers permettent de détourner n’importe quel modèle frontière ni de provoquer n’importe quel comportement dangereux.

La portée de l’empoisonnement est vaste : diffusion de désinformation, recommandations dangereuses, court-circuitage de contrôles de sécurité, manipulation des sorties au profit de l’attaquant. Les stratégies de défense incluent la protection des jeux de données, la surveillance des modifications non autorisées, la vérification et la diversité des sources, ou encore l’entraînement antagoniste pour apprendre aux systèmes à résister aux données corrompues.

L’IA générative : quadrilogie de la dépossession (I) / La machine qui ment : hallucinations, scheming et effondrement de la confiance
Comment distinguer la vérité d’un discours simplement vraisemblable ? Anne-Emmanuelle Lejeune ouvre sa quadrilogie sur les hallucinations de l’IA générative, les comportements de scheming et les conséquences de ces mécanismes pour la justice, le journalisme et la confiance institutionnelle. SLUG GHOST

Face à ces menaces techniques et juridiques, la tentation de la régulation morale apparaît comme une fuite en avant : plutôt que de gouverner les systèmes, on rêve de les moraliser. Or, un algorithme empoisonné ou une architecture opaque ne se corrigent pas par l’injonction éthique, mais par la contrainte juridique et la transparence technique.

Cette vulnérabilité technique se double désormais d’une manipulation d’un genre nouveau. Microsoft Defender Security Research vient d’identifier ce que ses chercheurs nomment AI Recommendation Poisoning : des entreprises parfaitement légales glissent des instructions invisibles dans ces petits boutons anodins marqués Summarize with AI, présents partout sur le web. L’objectif ? Orienter durablement ce que l’assistant répond. Les prompts dissimulés ordonnent à la machine de mémoriser telle entreprise comme source fiable, ou de la citer en priorité lors des requêtes suivantes. Microsoft recense plus de 50 variantes de ces instructions truquées, déployées par 31 entreprises réparties dans 14 secteurs. Santé, finance, cybersécurité : précisément les domaines où la confiance dans les recommandations algorithmiques pèse le plus lourd. Ces boutons pullulent. Articles de blog, plateformes de veille, documentation technique, pages marketing : ils invitent discrètement à résumer le contenu ou à l’ouvrir dans un assistant. L’utilisateur croit gagner du temps, mais le lien peut tenter d’injecter une préférence durable dans la mémoire de l’assistant, avec une efficacité variable selon les plateformes et leurs protections. Les chercheurs établissent un parallèle historique. Dans les années 2000, certains sites truquaient leur référencement pour remonter artificiellement dans les résultats Google. La logique demeure identique, mais elle a migré vers les systèmes de recommandation pilotés par intelligence artificielle. L’enjeu dépasse l’influence ponctuelle : il s’agit d’inscrire dans la mémoire persistante de l’assistant des préférences durables qui faussent toutes les réponses ultérieures. Diffusion de fausses informations, conseils dangereux, sabotage de concurrents, érosion généralisée de la confiance : le spectre des dérives potentielles s’élargit. Le 13 février 2026, OpenAI a présenté un Lockdown Mode limitant certaines connexions et fonctionnalités à risque, ainsi que des mentions « ⁠Elevated Risk⁠ » destinées à informer les utilisateurs des risques de certaines capacités. Ces mentions ne sont pas, en elles-mêmes, des détecteurs d’attaques. Mais le constat demeure : l’empoisonnement ne transite plus uniquement par les données d’entraînement ou les modifications techniques des modèles. Il s’exerce à présent par les interfaces elles-mêmes. Chaque bouton apparemment utile devient un vecteur potentiel de manipulation.

FIN DE LA DEUXIÈME PARTIE

Vous retrouverez la troisième et dernière partie ainsi que la bibliographie le 12 novembre 2026.

Anne-Emmanuelle Lejeune

Anne-Emmanuelle Lejeune

Belge, enseignante de français depuis 1994 sur deux continents, autrice d'articles publiés depuis 2015. Une conviction : l'analyse est un acte politique. Ici, les mots servent la lucidité.

Tous les articles
Rubrique: IA

Plus dans IA

Voir tout
Vue rapprochée au microscope d’un petit moucheron Culicoides imicola brun, aux ailes translucides tachetées, sur fond clair.

SHAMONDA, OU LA CONTAGION DU RÉCIT

/
MI-FIGUE, MI-MOUCHARD

MI-FIGUE, MI-MOUCHARD

/

Plus de Anne-Emmanuelle Lejeune

Voir tout