L’historien Yuval Noah Harari a accordé un long entretien à The Economist sur l’avenir d’un monde saturé d’intelligence artificielle. Sa cible principale : le récit de l’inévitabilité que cultivent les dirigeants de la tech. Quelques semaines plus tôt, Elon Musk illustrait ce récit, presque mot pour mot, au micro de la même rédactrice en chef.
Interrogé sur les prédictions de Musk (une IA dépassant l’intelligence humaine d’ici dix ans, une superabondance matérielle, des humains qui ne seraient plus aux commandes), Harari répond qu’il partage la première et la troisième. Il en refuse pourtant la conclusion. Si la course actuelle se poursuit au même rythme, oui, les IA prendront le contrôle. Mais rien n’oblige à poursuivre cette course. Nous sommes encore aux commandes en 2026, rappelle-t-il, et ce qui compte se décide maintenant.
Un récit qui déresponsabilise
Pour Harari, le discours de l’inévitabilité est un discours de démission. Ceux qui mènent la course à l’IA répètent que personne ne peut l’arrêter, ce qui les dispense d’en répondre. L’argument du déficit de confiance (impossible de ralentir, les concurrents et les États rivaux n’attendraient pas) le fait bondir : ce déficit a été fabriqué, au fil de dix années d’érosion délibérée de la confiance entre humains, souvent par les mêmes acteurs qui s’en réclament aujourd’hui. Vous l’avez créé, vous pouvez le défaire.
L’historien file une analogie qui parlera à nos lecteur·rice·s : les IA sont des migrantes. Prendre les emplois, dissoudre la culture, servir des puissances étrangères : ces accusations, l’extrême droite les jette depuis des années au visage des migrant·e·s réel·le·s, sans que les faits les confirment jamais. Appliquées aux IA, elles deviennent soudain exactes. Ces migrantes-là ne demandent pas de visa et ne traversent pas la Méditerranée sur des embarcations de fortune ; elles voyagent à la vitesse de la lumière jusqu’à nos téléphones, et leur loyauté va aux entreprises et aux gouvernements qui les contrôlent, de l’autre côté de l’océan. Pendant que le débat public s’épuise à viser des personnes, la seule migration massive qui échappe à tout contrôle démocratique passe inaperçue. Cette diversion protège ceux qui construisent ces systèmes.
Harari décrit aussi la géopolitique qui se dessine : deux empires, les États-Unis et la Chine, et des États vassaux qui achèteront une technologie qu’un bouton peut désactiver à distance. Avec un paradoxe : plus le pouvoir se concentre, plus il devient simple à capter pour une IA. Manipuler une seule personne vieillissante et paranoïaque demande moins d’efforts que tromper un parlement, des tribunaux et une presse libre. La complexité démocratique, si souvent moquée, devient ici une protection.
Musk, la preuve par l’exemple
L’entretien accordé par Elon Musk à la même journaliste fonctionne comme une pièce à conviction. Tout y est. L’inévitabilité : il dit avoir renoncé à freiner un mouvement auquel, selon lui, personne ne peut plus rien, et sa philosophie tient désormais en une formule, profiter du voyage. Le risque assumé : il maintient son estimation de 10 à 20 % de probabilité que l’IA détruise l’humanité, tout en écartant l’idée d’appuyer sur un bouton d’arrêt, s’il existait. La diversion, enfin : l’homme qui annonce la singularité pour 2036 consacre une énergie considérable à prédire une guerre civile en Grande-Bretagne, provoquée par l’immigration, à l’horizon 2046. Harari relève la contradiction : si les IA contrôlent le monde dans dix ans, quel sens y a-t-il à s’inquiéter d’un conflit humain dans vingt ?
La confiance que Musk place dans une IA « en quête maximale de vérité » laisse l’historien perplexe. Quatre milliards d’années d’évolution enseignent qu’un organisme apprend d’abord à survivre, y compris en mentant et en manipulant. Croire que des entités plus intelligentes que nous resteront nos esclaves dévoués relève de la pensée magique.
Deux angles morts
On peut adhérer à ce diagnostic, c’est notre cas, et regretter deux absences. La première : le clivage entre Nord et Sud global. Harari évoque les États vassaux, sans nommer celles et ceux qui paieront le prix fort. Les pays qui fournissent les minerais, les travailleur·euse·s qui annotent les données pour quelques dollars, les populations dont les langues et les cultures pèsent peu dans les corpus d’entraînement. La gouvernance de l’IA se négocie entre Washington, Pékin et quelques conseils d’administration ; les trois quarts de l’humanité n’y ont pas voix.
La seconde absence, le climat et les ressources, frappe d’autant plus que Musk en parle, lui, sans détour : la contrainte principale de l’IA, explique-t-il, tient moins aux puces qu’à l’électricité, et la Chine en produit déjà plus que les États-Unis, l’Europe et l’Inde réunis. Voilà la course à l’IA reformulée en course énergétique, avec ses centrales, ses centres de données et ses minerais critiques, au moment où chaque dixième de degré compte. Aucun des deux entretiens n’en tire les conséquences.
Reprendre la main
Harari ne plaide pas l’arrêt de l’IA, dont il reconnaît le potentiel en santé ou en éducation. Il demande du temps : le temps, pour des sociétés organiques, de digérer une révolution inorganique. Et des mesures précises. Interdire la personnalité juridique des IA. Leur interdire de se faire passer pour des humains ou de simuler des sentiments. Interroger chaque candidat·e aux prochaines élections sur ces questions, avant celles de l’économie ou de l’immigration. Il cite aussi, avec prudence, un ordre de grandeur entendu dans l’industrie : cent fois plus de moyens consacrés à accroître les capacités des modèles qu’à leur sécurité. Aucun autre secteur ne s’autoriserait un tel ratio.
Reste sa dernière image, celle d’un génie qui nous aurait accordé cent vœux. Il en reste un. L’IA pourrait être l’occasion de poser une question trop longtemps repoussée : qu’est-ce qui fait la valeur d’une vie humaine, si ce n’est plus de jouer aux échecs ou de faire fructifier un capital ? Les réponses ne viendront ni des empires ni des conseils d’administration. Elles viendront de citoyen·ne·s qui refusent qu’on décide à leur place, et qui le disent. Rien n’est encore écrit.
L’entretien Musk en bref
Reçue dans une usine Tesla au Texas, la rédactrice en chef de The Economist, Zanny Minton Beddoes, a interrogé Elon Musk pendant plus de nonante minutes. Il y prédit une IA dépassant la somme des intelligences humaines vers 2031, un âge de superabondance où l’argent aura perdu son sens dès 2036, et des humains écartés des commandes comme le furent les chimpanzés face à nous. Il maintient une probabilité de 10 à 20 % que l’IA détruise l’humanité, tout en jugeant le mouvement impossible à arrêter, y compris par lui-même. Il esquisse une coordination minimale entre laboratoires : des appels réguliers, un droit de regard mutuel sur les nouveaux modèles avant leur sortie, l’État en dernier recours. Sur l’emploi, il annonce un travail devenu optionnel, comparable au jardinage, financé par un revenu universel élevé, sans expliquer la transition politique ni sociale. L’entretien bascule ensuite. Défense intégrale des coupes de Doge dans l’aide américaine (zéro mort, affirme-t-il face à une journaliste qui conteste), guerre civile jugée inévitable en Grande-Bretagne, soutien revendiqué à des partis d’extrême droite européens présentés comme des gens normaux, attaques répétées contre des médias qui seraient haïs du public. Deux visions du monde cohabitent dans le même homme : l’abondance pour demain, la peur pour aujourd’hui.
#IntelligenceArtificielle #DroitsHumains #Démocratie #Harari #Régulation
En savoir plus sur En avant
Subscribe to get the latest posts sent to your email.