Anthropic, l’un des principaux laboratoires d’intelligence artificielle au monde, vient de reconnaître publiquement que ses systèmes participent de plus en plus à leur propre conception. Plus inattendu encore : l’entreprise plaide pour qu’existe l’option d’un ralentissement internationalement coordonné. Lorsque les concepteur·rice·s eux·elles-mêmes réclament un frein, qui tiendra les commandes ?
Le terme est technique, ses implications le sont moins. L’« auto-amélioration récursive » désigne le moment où une IA deviendrait capable de concevoir et d’entraîner seule la version suivante d’elle-même. Nous n’y sommes pas encore. Mais les chiffres qu’avance Anthropic donnent le vertige : en 2026, plus de 80 % du code intégré à son infrastructure est écrit par son propre modèle, et chaque ingénieur·e en produit huit fois plus qu’en 2024. La durée des tâches qu’ils accomplissent seuls double tous les quatre mois environ : il y a deux ans, ces systèmes ne menaient à bien que des tâches de quelques minutes ; aujourd’hui, ils abattent sans intervention humaine l’équivalent de plusieurs heures de travail. La boucle ne s’est pas encore refermée. Mais l’écart se réduit.
L’humain, simple superviseur ?
Le rôle humain se rétrécit à chaque étape. Hier, on écrivait le code ; aujourd’hui, on le relit ; demain, peut-être, on se contentera de fixer un cap. Anthropic envisage trois avenirs : un essoufflement de la tendance, des gains d’efficacité qui se cumulent, ou cette bascule où la machine se bâtit elle-même. Les deux derniers scénarios ouvrent des gouffres : surveillance de populations entières, manipulation taillée sur mesure pour chaque individu, et surtout le risque que l’humanité perde le contrôle de ce qu’elle a créé. L’entreprise cite, presque en aveu, ces salarié·e·s troublé·e·s : les jours où tout fonctionne, certain·e·s confient n’avoir plus le sentiment que leur travail compte. Comment garantir les droits fondamentaux dans un monde où la décision technique échappe à toute délibération démocratique ? Et que reste-t-il de notre responsabilité quand l’outil décide à notre place ?
Le frein, un bien commun ?
C’est là que le document surprend. Anthropic affirme qu’un ralentissement serait sans doute souhaitable, à condition qu’il soit collectif : un frein actionné par un seul laboratoire ne ferait que désigner un·e autre vainqueur·e de la course. L’entreprise appelle donc à un mécanisme international de coordination, capable de vérifier que chacun·e respecte la pause. L’exercice s’annonce ardu. Un programme d’entraînement se dissimule plus aisément qu’un silo de missiles, ses composants servent mille usages, et la tentation de tricher en secret est immense — car qui poursuit pendant que les autres s’arrêtent hérite de l’avance. Les précédents existent, tel le traité sur les forces nucléaires intermédiaires, mais ils ont exigé des décennies de patience et de confiance. Or, reconnaît l’entreprise, le temps manque. Et celles et ceux qui ne travaillent pas dans ces laboratoires doivent, écrit-elle, prendre part à la décision.
«Rien de tout cela n’est nécessairement impossible en principe – le monde a mis en place des systèmes de vérification pour d’autres technologies complexes (par exemple, le Traité sur les forces nucléaires à portée intermédiaire) – mais ces systèmes ont nécessité des décennies pour établir l’infrastructure et la confiance nécessaires. Nous n’avons pas autant de temps. Une suspension unilatérale par un seul laboratoire, en revanche, est immédiatement réalisable, mais bien moins efficace : elle modifierait la position de leader, mais ne créerait pas le processus de concertation plus large qui fait actuellement défaut. »
L’angle mort écologique
Saluons l’honnêteté de la démarche. Mais une omission frappe. Parmi les freins possibles, Anthropic cite la limite des capacités de calcul : il faudra peut-être plus d’énergie et de puces que la planète n’en produit. Le « compute » est ainsi pensé comme un obstacle à la croissance de l’IA — jamais comme un coût pour le vivant. Pas un mot sur l’empreinte climatique de ces centres de données, sur l’eau qu’ils engloutissent, sur les terres rares qu’ils arrachent au sol, sur les déchets — y compris nucléaires — qu’une telle course suppose. Penser le calcul comme une ressource rare pour l’IA, sans jamais le penser comme une charge pour la biosphère : l’omission n’est pas neutre. Peut-on raisonner les limites d’une technologie sans jamais regarder ce qu’elle prélève sur le monde ?
Une convergence inattendue
Le texte paraît presque en même temps que l’encyclique Magnifica Humanitas, par laquelle le pape Léon XIV appelle, lui aussi, à « désarmer » l’intelligence artificielle et à la soumettre à une éthique commune. Un laboratoire et une Église, à quelques jours d’intervalle, réclament des garde-fous. Coïncidence ou signal ? L’initiative d’Anthropic, en posant elle-même la question du contrôle, ouvre une brèche. À la société civile, aux militant·e·s des droits humains, de s’y engouffrer : pour exiger que ces décisions ne restent pas confisquées par une poignée d’acteur·rice·s, et que le frein, s’il existe un jour, serve d’abord l’humain.
La boucle reste ouverte.
#IntelligenceArtificielle #DroitsHumains #GouvernanceMondiale #JusticeClimatique #Régulation