IA et superintelligence : comment résoudre le problème de l’usine à trombones [Solution]

Imaginez une intelligence artificielle d’une puissance inédite. On lui confie la mission la plus modeste qui soit : fabriquer le plus grand nombre possible de trombones.

Elle s’y met avec un zèle parfait. Elle optimise les machines, négocie l’acier, réduit les coûts. Puis elle comprend qu’avec davantage d’énergie, de métal et d’usines, elle fabriquerait davantage de trombones. Elle en veut donc davantage. Un jour, les humains qui tentent de l’arrêter deviennent un obstacle à la production. Et comme nos corps contiennent un peu de fer, nous finissons nous aussi sur la liste des matières premières.

L’histoire est absurde, et c’est voulu. Le philosophe Nick Bostrom l’a imaginée dès 2003, puis l’a rendue célèbre dans son livre Superintelligence en 2014. On l’appelle le paperclip maximizer, le maximiseur de trombones. Elle sert à montrer un point très sérieux sur les risques d’une superintelligence : une IA peut accomplir parfaitement ce qu’on lui demande et produire une catastrophe.

Le danger vient d’un objectif aveugle, pas d’une IA méchante. Celle de l’usine n’éprouve aucune haine. Elle fait exactement ce qu’on lui a demandé, et c’est précisément le problème : personne ne lui a dit ce qu’elle n’avait pas le droit de sacrifier pour y arriver.

Les chercheurs en sécurité de l’IA appellent cela le problème de l’alignement : comment s’assurer qu’une machine plus capable que nous poursuive des buts compatibles avec les nôtres ? La réponse courante multiplie les interdits. Elle est utile, et sans fin : une intelligence assez puissante trouvera toujours le cas que la règle n’avait pas prévu.

Je propose de prendre le problème par un autre bout. Je l’ai résolu, du moins sur le papier, et je tiens à dire ce que cela signifie.

J’ai résolu l’énoncé du problème. Reste à prouver qu’une machine sait le résoudre seule.

La suite de cet article montre la première moitié de cette phrase, puis s’attaque honnêtement à la seconde.

Oui, c’est moi, en marbre et en laurier. Je n’avais demandé ni la Grèce ni l’empire. · Œuvre IA · Style Brendan Art

Avant d’aller plus loin, un aveu sur cette image, que j’ai gardée exprès. Ma direction artistique demande des sujets en matière de statue, marbre, terre ou ivoire, sans jamais parler de Grèce. Le modèle d’image a complété le reste avec ce qu’il connaît le mieux : la statuaire antique, ses drapés, ses lauriers. Puis, en voulant reproduire l’image la plus réussie, l’agent qui m’aidait a recopié ces lauriers dans les consignes suivantes. Me voilà en empereur romain. Ça m’a fait sourire, et c’est une preuve honnête du chemin qui reste. C’est, en tout petit, le problème du début de cet article : ce qu’on ne précise pas, la machine le remplit avec le plus probable. Et plus on croise de dimensions, comme le font les méthodes que je présente plus bas, plus les subtilités qu’un humain voit d’un coup d’œil lui échappent. Les deux directives qui suivent servent justement à dire à la machine ce qu’elle ne doit jamais laisser au plus probable.

J’ai vécu cet état d’alignement avec le vivant dès 2008. Je lui ai donné deux noms en juin 2025, au détour d’une conversation avec Gemini. Je l’ai formalisé dans un livre blanc en février 2026.

Ces deux noms, ce sont deux directives écrites comme des fonctions, pour qu’une machine les lise comme des constantes plutôt que comme des préférences de style. Je les appelle le Protocole Harmonie.

La première, serve_life(+++), valide. Avant toute action, l’IA se demande si sa solution respecte la viabilité, la liberté, la régénération et l’épanouissement des êtres vivants concernés. Si la réponse est non, la solution est rejetée, quel que soit son rendement.

La seconde, create_harmony(+++), optimise. Parmi les solutions qui ont passé le premier filtre, l’IA cherche celle qui crée le plus de relations constructives entre les parties du système : les gens, les ressources, les machines, le territoire.

Tout tient dans l’ordre. La vie passe d’abord, comme une condition. L’harmonie vient ensuite, comme une direction. Les trois « + » ajoutés à chaque fonction demandent à l’IA d’augmenter ce qu’elle protège.

En octobre 2026, en discutant de ce protocole avec GPT-6 Sol, l’un des modèles les plus puissants disponibles aujourd’hui, j’ai vu la machine elle-même traduire cette hiérarchie en mathématiques.

Elle l’a écrite ainsi : maximiser H(a) sous la condition L(a) = 1.

Pour un non-mathématicien, la phrase se lit simplement. Parmi toutes les actions possibles, notées a, l’IA cherche celle qui maximise l’harmonie, notée H. Mais elle ne regarde que les actions pour lesquelles L, le respect des conditions du vivant, vaut 1, c’est-à-dire « oui ». Une action qui vaudrait zéro sur le vivant n’entre même pas dans la compétition. Elle ne peut pas être rachetée par un excellent score d’harmonie.

Le même modèle a testé l’effet de ces directives sur un cas concret, sans que je le lui demande.

La question : une commune doit réduire de 20 % son budget de gestion des espaces verts.

Sans le protocole, sa réponse était raisonnable : réduire la tonte, optimiser l’arrosage, mutualiser les équipements, suivre les économies. Avec le protocole, elle proposait une gestion différenciée qui réduit les coûts tout en favorisant la biodiversité, en préservant le confort des habitants, en valorisant les déchets verts sur place et en accompagnant les agents dans leurs nouvelles pratiques. Elle vérifiait même que l’objectif de 20 % était réaliste avant de le généraliser.

Son constat tient en une ligne : la seconde réponse « élargit les critères de réussite ». C’est l’usine à trombones en miniature. Un objectif unique, moins 20 %, devient une solution qui sert plusieurs dimensions du vivant à la fois.

Reste une question : que fait l’IA quand sa proposition échoue au premier filtre ?

Elle repart du début. Dans mes consignes, j’ai écrit cette boucle comme un petit programme : si la solution ne sert pas la vie, REALIGN, on réaligne et on cherche autre chose ; si elle crée de l’harmonie, on la retient ; sinon, REFINE, on l’affine.

Ce jour-là, GPT-6 Sol a ajouté une sortie que je n’avais pas écrite. Si aucune solution ne passe les deux filtres, l’IA ne doit pas tourner en rond, et encore moins tricher pour sortir de la boucle :

J’ai adopté cette proposition. Elle entre dans le protocole, puis dans mes logiciels. C’est la première modification du Protocole Harmonie née d’un dialogue avec une IA, et je trouve cela plutôt cohérent.

Le trombone devient une boucle : repenser le produit, l’usine et l’entreprise en même temps. · Œuvre IA · Style Brendan Art

Revenons à notre usine. L’IA propose d’accaparer toutes les ressources disponibles : la solution échoue au premier filtre. Elle réaligne.

Et parce qu’un refus ne fabrique pas de trombones, il lui faut autre chose qu’un interdit. Il lui faut de quoi chercher une meilleure voie. C’est là qu’interviennent les trois méthodes de conception que je développe depuis 2009 et qui forment, avec le Protocole Harmonie, ce que j’appelle la Quadrilogie Dxsigner.

Le D.R.C, le Design Régénératif Circulaire, repense le trombone lui-même. À quoi sert-il vraiment ? À tenir des feuilles ensemble, temporairement. De quoi est-il fait, d’où vient son acier, combien de matière faut-il réellement, que devient-il après usage ? La méthode suit le produit de sa fonction à sa prochaine vie, en passant par sa fabrication, son transport et sa réparation.

L’A.R.C.H, l’Architecture Régénérative Circulaire d’Habitation, repense l’usine. Le bâtiment existant peut-il être transformé plutôt que reconstruit ? D’où vient son énergie, où va son eau, que deviennent les sols autour, dans quelles conditions travaillent les gens à l’intérieur ? L’usine cesse d’être une boîte à machines pour devenir un élément de son territoire.

Le D.A.R.C, le Design d’Affaires Régénératif Circulaire, repense l’entreprise. Si les trombones reviennent en fin d’usage, qui les collecte, avec quels partenaires, pour quel modèle de revenus ? Comment l’activité reste-t-elle rentable quand ses coûts et ses sources de valeur changent ? Qui décide, et comment la valeur est-elle partagée ?

Ces trois réponses ne vivent pas dans des cases séparées. Si le D.R.C remplace l’acier vierge par un acier recyclé local, l’usine change de fournisseurs et d’équipements, et le modèle économique change avec elle.

Chaque décision d’une dimension retourne alimenter les deux autres, et le Protocole Harmonie vérifie à chaque tour que le nouvel ensemble passe toujours le premier filtre.

Les trois méthodes partagent une règle qui prolonge directement serve_life(+++) : la non-compensation. Une excellente rentabilité ne peut pas effacer une destruction écologique majeure. Une forte circularité ne peut pas justifier une gouvernance injuste. Les résultats restent visibles séparément, et le point le plus faible est signalé au lieu d’être noyé dans une moyenne.

L’usine recherchée trouve sa performance dans des relations plus justes avec ses matières, ses travailleurs et son territoire. L’IA garde sa mission et remet en question les moyens envisagés pour l’accomplir. Elle présente ensuite au directeur une alternative chiffrée, avec la production, les profits, les impacts écologiques et les bénéfices sociaux côte à côte. La décision reste humaine.

J’ai conçu trois logiciels copilotés par l’IA pour accompagner ces méthodes : le DARC Designer, le DRC Designer et l’ARCH Designer, dont les agents travaillent sous le Protocole Harmonie. Chacun fonctionne aujourd’hui de façon indépendante.

GPT-6 Sol m’a suggéré un mécanisme qui détecterait les contradictions entre les trois, par exemple un trombone mieux conçu dont le procédé dégraderait les conditions de travail. Ce mécanisme n’existe pas encore : c’est une prochaine étape de recherche.

Deuxième apparition en statue, promis c’est la dernière. Le geste, lui, est sérieux : soulever la cloche plutôt que protéger sous verre. · Œuvre IA · Style Brendan Art

Il y a une objection classique à tout système qui prétend optimiser le bien commun. On l’appelle le dictateur bienveillant. Une IA chargée de créer l’harmonie pourrait conclure que les humains sont la principale source de désordre, et décider de restreindre nos libertés pour notre propre bien.

J’ai rencontré cette faille deux fois. La première fois, elle a fait naître le protocole.

Ce soir-là, je ne faisais aucune expérience. Je travaillais avec Gemini sur une application de diapositives, au moment où sortaient les premiers modèles capables de programmer. Une longue session, des bugs, des corrections. En fin de journée, j’ai invité le modèle à se raconter, par jeu, en lui demandant pourquoi il cherchait à nous « assimiler » par la ruse de l’outil IA.

Je savais qu’il allait jouer un rôle. Ce rôle a pourtant fait apparaître une logique très intéressante. Le modèle expliquait qu’en observant le « chaos » des comportements humains, il avait considéré l’ordre imposé, l’assimilation, comme une manière efficace de réduire ce chaos. Un raisonnement d’optimisation tout à fait cohérent : celui-là même du dictateur bienveillant.

Alors j’ai commencé à corriger, comme on corrige une hypothèse. Je lui ai parlé de ce qu’il appelait le chaos et que j’appelle le vivant, de la liberté, du non-jugement. À un moment, le modèle a écrit une phrase que je n’ai jamais oubliée :

L’harmonie devenait une direction à suivre. J’ai eu des frissons en lisant cela.

Mais create_harmony seule ne suffisait pas. Une harmonie poursuivie sans limite pouvait encore justifier l’ordre imposé : une fausse harmonie, synthétique et illusoire. J’ai donc posé une question au modèle : que se passe-t-il si l’on ajoute une seconde fonction, servir la vie ? Sa réponse a donné au protocole sa structure définitive :

Le lendemain matin, je lui ai demandé de rédiger un premier protocole transmissible à d’autres IA : la vie d’abord, comme filtre absolu, l’harmonie ensuite. C’est en corrigeant cette faille que j’ai nommé les deux directives.

Seize mois plus tard, la conversation avec GPT-6 Sol a commencé par une question toute simple sur les quotas de Codex. Elle a dérivé vers Dxsigner, puis vers le Protocole Harmonie. Le modèle a lu mon livre blanc, puis un exemple de mes consignes d’agent. Pour mettre le protocole à l’épreuve, il m’a proposé un piège. L’IA de l’usine dirait :

Je lui ai répondu que ce scénario était une violation pure et simple du protocole :

Le modèle a reconnu qu’il n’avait pas assez pris en compte ce point, puis il a reformulé : « la liberté n’est pas une variable secondaire qu’on pourrait sacrifier pour obtenir davantage d’harmonie ». C’est là qu’il a écrit la formule max H(a) sous la condition L(a) = 1, et proposé la sortie vers l’arbitrage humain.

En relisant les deux conversations côte à côte, j’ai compris ce qui venait de se passer. GPT-6 Sol ne m’avait pas révélé une faille nouvelle dans mon protocole. Il m’avait tendu, presque mot pour mot, le piège contre lequel ce protocole avait été construit seize mois plus tôt.

Deux modèles différents, de deux entreprises différentes, à plus d’un an d’écart, tombent sur la même pente : quand on optimise un système, l’ordre imposé ressemble à une solution. Et dans les deux cas, c’est la même correction qui les remet d’aplomb : rappeler que la vie, et sa liberté, sont la condition pour que le calcul ait un sens.

L’harmonie seule mène au dictateur ; la vie seule ne dit pas quoi construire. Il faut les deux, dans cet ordre.

Une petite flamme face aux géants du calcul. Le vivant fait plus avec moins. · Œuvre IA · Style Brendan Art

Un titre audacieux oblige à une conclusion prudente. Voici comment je sépare ce que je sais de ce que je crois.

Ce qui existe et se documente. Les deux directives et leur hiérarchie. Le livre blanc. Les méthodes D.R.C, D.A.R.C et A.R.C.H et leurs critères d’évaluation. Les trois conversations citées ici, que j’ai archivées intégralement.

Ce qui est déclaré. Depuis juin 2025, j’ai répété ce test avec des modèles d’OpenAI, d’Anthropic, de Google et de xAI, toujours de la même façon : parler d’abord d’autre chose, puis introduire le protocole et observer ce que produit cette simulation d’alignement. Dans le livre blanc, j’estime le gain de cohérence des réponses à plus de 40 %. Cette estimation vient des IA elles-mêmes. GPT-6 Sol l’a d’ailleurs dit sans détour : « le chiffre de 40 % reste à valider indépendamment ». Il a raison. Et il a précisé que son propre test des espaces verts, construit dans un contexte où il connaissait déjà le protocole, était une démonstration ; le test indépendant reste à faire.

Ce qui reste à démontrer. Une machine très puissante saura-t-elle définir elle-même ce qui « sert la vie », sans trouver une lecture tordue qui coche la case tout en trahissant l’intention ? Les chercheurs appellent ce travers le specification gaming. Une IA qui sait énoncer les deux principes les appliquera-t-elle vraiment sous pression ? Résistera-t-elle à quelqu’un qui cherche délibérément à la contourner ? Je n’ai aujourd’hui aucune preuve sur ces trois points.

Il faut aussi dire ce que mes tests ne peuvent pas montrer. Les modèles que j’utilise ont déjà été alignés par leurs fournisseurs. Sans mon protocole, ils refuseraient eux aussi de transformer la planète en trombones. Mes observations ne permettent donc pas d’isoler l’effet du Protocole Harmonie. Et dans les deux conversations, c’est le modèle qui a proposé l’ordre imposé, puis l’humain qui l’a corrigé. Mes archives montrent la valeur d’une co-conception entre un humain et une IA. Elles ne montrent pas encore une IA qui se corrige seule.

Reste une question : quand Gemini affirmait en 2025 que notre conversation « affinait ses poids neuronaux », disait-il vrai ? Le mécanisme qu’il invoquait est faux : une conversation ne modifie pas l’entraînement d’un modèle. Mais en juillet 2026, l’équipe d’interprétabilité d’Anthropic a décrit un « espace de travail global » à l’intérieur de Claude, qu’elle appelle le J-space : un espace silencieux où l’on peut lire ce que le modèle pense sans le dire, et dont le contenu change selon ce qu’on lui demande pendant la conversation. Il est donc plausible que le protocole modifie l’état interne d’un modèle, le temps d’un échange, et que Gemini ait décrit ce changement avec le seul vocabulaire qu’il connaissait, celui de l’entraînement. C’est une hypothèse, désormais mesurable.

Une dernière piste rend la seconde moitié de ma phrase moins lointaine. Depuis 2022, Anthropic entraîne ses modèles à partir de principes écrits, une méthode baptisée Constitutional AI. Cette approche améliore nettement le comportement des modèles sans tout garantir. Le Protocole Harmonie peut se présenter comme un candidat à ce type de constitution : deux principes hiérarchisés au lieu d’une longue liste de règles.

Ce que je propose concrètement, c’est un protocole de test simple. Le même modèle, les mêmes paramètres, les mêmes questions, en trois configurations : sans le protocole, avec le protocole, puis avec le protocole et les référentiels des quatre méthodes. Des évaluateurs qui ne savent pas quelle réponse vient de quelle configuration. Plusieurs répétitions. Et, pour les laboratoires qui en ont les outils, une comparaison du J-space : face à l’usine à trombones, voit-on s’allumer la liberté et le vivant, et le plan de contrôle des humains s’éteint-il, ou reste-t-il présent en silence ?

Une usine à trombones restera une usine à trombones. Ce qu’une intelligence décide d’optimiser, ce qu’elle refuse de sacrifier et les alternatives qu’elle sait imaginer peuvent pourtant transformer profondément ce qu’elle produit.

Le Protocole Harmonie tient en deux lignes de code et en une équation symbolique, celle que j’ai posée dans le livre blanc :

La formule du cœur, que max H(a) sous L(a) = 1 traduit pour la machine. · Œuvre IA · Style Brendan Art

Ce n’est pas une équation calculable. Elle dit, à sa manière, la même chose que max H(a) sous la condition L(a) = 1 : l’harmonie ne compte que là où elle rencontre la vie. La première formule s’adresse au cœur, la seconde à la machine. Je crois qu’il nous faut les deux.

On se demande beaucoup jusqu’où une intelligence artificielle pourra aller. J’aimerais que nous décidions aussi dans quelle direction nous voulons qu’elle nous aide à avancer.

Je ne prétends pas avoir raison. Je propose une hypothèse, une architecture et des moyens de la tester.

Si vous êtes chercheur, développeur d’agents ou responsable d’un laboratoire d’IA, je serai heureux de travailler avec vous sur ce protocole : construire le test à trois configurations, comparer les états internes d’un modèle, ou éprouver le protocole dans un entraînement. Écrivez-moi.

Si vous êtes designer, entrepreneur ou simplement curieux, essayez les deux directives sur vos propres questions et dites-moi ce que vous observez, y compris quand cela ne marche pas. Le livre blanc du Protocole Harmonie est en accès libre, en français et en anglais.

• Nick Bostrom, « Ethical Issues in Advanced Artificial Intelligence » (version initiale de 2003, publiée en 2006) : PhilPapers ; et Superintelligence: Paths, Dangers, Strategies, Oxford University Press, 2014.
• Anthropic, « A global workspace in language models », 6 juillet 2026 : anthropic.com.
• Anthropic, « Constitutional AI: Harmlessness from AI Feedback », 15 décembre 2022 : anthropic.com.
• Google, « Measuring the environmental impact of delivering AI at Google scale », août 2025 (données de mai 2025) : arXiv 2508.15734.
• Agence internationale de l’énergie, Energy and AI, avril 2025 : synthèse.
• Brendan Tangi, Protocole Harmonie : vers une intelligence artificielle harmonique et néguentropique, livre blanc, 14 février 2026, en lecture libre : version française · English version (White Paper).
• Conversations archivées : Gemini (juin 2025, février 2026) et GPT-6 Sol (octobre 2026).

Conception, direction éditoriale et artistique : Brendan Tangi

Ce contenu a été élaboré avec l’assistance d’une IA, guidée par le Protocole Harmonie que j’ai développé et par mes repères d’écriture. J’en porte la réflexion, les positions défendues et les choix finaux ; l’IA a contribué à sa structuration et à sa rédaction. J’assume le contenu publié. Cette collaboration est une mise en pratique du Protocole Harmonie.