Intelligence artificielle : la peur, ce permis de régner

| h16 | Réflexions décousues et Crêpes au sucre

Avec l’intelligence artificielle, nous courons évidemment à la catastrophe.

C’est en tout cas ce qu’a expliqué, le 9 septembre dernier, un chercheur dont personne n’avait jamais entendu parler alors qu’il annonçait, dans sept messages sur X, sa démission d’Anthropic, la société en charge de l’IA Claude. Pour lui, les laboratoires foncent vers une super-intelligence auto-améliorante et jouent nos vies au casino. Et ce message, en 24h, va dépasser les 100 millions de vues ; il en affiche aujourd’hui 166 millions.

Le message, en lui-même, est banal et ne contient aucune prédiction datée, ce qui le rend difficilement viral. Son messager, Jacob Coxon n’est ni Ilya Sutskever ni Dario Amodei, célébrités reconnues ; il a passé quelques semaines chez Anthropic après un détour par OpenAI, et son compte X n’avait pratiquement aucune activité.

Mais voilà : lorsque son fil paraît, l’exclusivité de son entretien avec le Wall Street Journal est déjà en ligne depuis dix-huit minutes. Oui, vous avez bien lu : un parfait inconnu a décroché un entretien exclusif avec le premier quotidien économique mondial avant même d’avoir rien publié.

L’intéressé a reconnu avoir rédigé son texte avec un ami et sollicité une dizaine de connaissances pour le pousser et dans la demi-heure, quatre comptes le reprennent : deux cadres d’Encode, le fondateur de l’AI Futures Project, un salarié de Coefficient Giving. Coïncidence : toutes ces structures sont financées par le Survival and Flourishing Fund de Jaan Tallinn, lequel a par ailleurs mené, avec Dustin Moskovitz, la série A d’investissements pour Anthropic.

Mais avant d’aller plus loin, revenons un peu en arrière : le 4 septembre, cinq jours avant la démission, Data for Progress mettait en test auprès de 1.332 électeurs une question sur le projet de loi Sanders ; le résultat sort quinze heures après le fil de Coxon, 68 % d’approbation dont 63 % de républicains. Le 7 septembre, un député britannique déposait aux Communes une loi miroir rédigée par l’ONG ControlAI. Les premiers papiers du 9 paraissent sous la plume de boursiers du programme Tarbell, doté de huit millions de dollars par les mêmes fonds, et qui a placé 24 journalistes dans 16 rédactions.

Fabrice Epelboin, qui étudie ces mécaniques depuis quinze ans, tranche : « Cela a été préparé et coordonné ». Bien sûr, personne n’a (pour le moment) identifié de chef d’orchestre, aucune facture n’a été produite mais ce qu’on observe est simple : une loi, un sondage, une loi étrangère, des journalistes et des élus étaient tous en place, et tout s’est déclenché en une nuit.

Spontanément ?

Le même 9 septembre, Coefficient Giving annonçait accélérer ses financements sur l’IA : 351 millions de dollars en 2025, plus d’un milliard prévu en 2026. Le 11 au petit matin, le Wall Street Journal refermait la séquence qu’il avait ouverte trois jours plus tôt : « Congress Is Suddenly Waking Up to the AI Doomsday Threat » (« Le Congrès prend soudainement conscience de la menace apocalyptique que représente l’IA »).

Soudainement ?

En fait, le vrai sujet n’est pas ce Coxon, dont on notera d’ailleurs qu’il a quitté Anthropic deux mois avant l’acquisition de ses actions et déclare n’avoir rien touché. Qu’il croie ou non à ce qu’il raconte n’a aucune importance, car en pratique, le texte a été écrit avant lui.

Le 10 août, Bernie Sanders (sénateur démocrate-socialiste américain) écrivait aux patrons des laboratoires d’IA pour exiger une pause. Le 3 septembre, il annonçait avec le représentant Greg Casar le Ban Artificial Superintelligence Act au lendemain de la clôture d’un ministériel du G20 à Chapel Hill où l’administration américaine avait fait venir Altman, Huang, Zuckerberg, Musk et Karp plaider leur cause devant les officiels étrangers.

Le programme tient en quelques lignes et propose une interdiction permanente de la superintelligence, une pause du développement de l’IA avancée en attendant qu’une agence fédérale flanquée d’un collège d’experts édicte des règles pour encadrer les systèmes concernés, et des accords internationaux et contrôles à l’exportation pour empêcher qu’on en construise ailleurs sur la planète. Enfin, pour les récalcitrants, on ajoutera une dissolution de l’entreprise et vingt ans de prison (peines calquées sur la répression du nucléaire militaire clandestin).

Le texte de loi, lui, n’existe pas : cinq jours après l’annonce, le bureau du sénateur promettait toujours une législation qui détaillerait enfin l’infraction assortie de la peine de vingt ans déjà édictée.

Dans la définition, sont visés les systèmes capables de planifier et d’exécuter « la mise hors d’état d’agir de l’humanité, notamment en renversant ou en sapant le gouvernement américain ». Eh oui, le législateur ne s’oublie surtout pas ! Et pour la définition de super-intelligence, il s’agira, selon le même texte, des systèmes qui exhibent « ou peuvent être facilement modifiés pour exhiber » des capacités égalant l’humain sur un large éventail de tâches.

Interrogé par Science, François Chollet fait observer qu’à ce compte-là c’est déjà fait ; Heidy Khlaaf juge la notion hypothétique et infalsifiable ; et Roman Yampolskiy, qui soutient le texte, répond que les lois encadrent couramment des catégories dont les frontières demandent l’interprétation d’un expert. Voilà : l’agence (celle qu’on va créer ad hoc) tranchera.

Si cette séquence vous rappelle quelque chose, c’est normal : une menace existentielle qu’on ne peut ni dater ni réfuter, l’incertitude érigée en preuve, le débat clos avant d’être ouvert et au bout du compte une agence peuplée d’experts qui décide à la place des intéressés, c’est mot pour mot la mécanique du nucléaire civil, du climat et du covid, appliquée cette fois à un fichier de quelques centaines de giga-octets.

En outre, difficile de ne pas voir l’intérêt évident de la belle (et pas si étrange) unanimité entre Musk (xAI), Amodei (Anthropic) et Altman (OpenAI) pour réclamer des lois pour une pause qu’ils pourraient très bien décider par eux-mêmes : ce genre de capture règlementaire leur assurerait un solide verrouillage du marché au moins occidental, ce qui permettrait une introduction en bourse sous les meilleurs auspices. Actuellement, cette même introduction en bourse les oblige à la totale transparence sur leurs coûts et leurs (trop maigres) bénéfices, ce qu’un oligopole de droit rendrait bien plus attractifs.

Enfin, la synchronicité observée ne joue pas qu’à Washington.

À Londres, la loi Sobel est appuyée par plus de soixante-dix parlementaires de tous les partis. Downing Street a refusé le principe d’une interdiction, ce qui mérite d’être signalé. Mais en Europe, on n’attendait personne : l’AI Act impose depuis le 2 août la transparence des agents conversationnels et le marquage des contenus générés. Et à Paris, le gouvernement s’emploie à « cadrer » l’usage de l’IA dans la fonction publique, ce qui résume assez bien l’époque : l’État s’équipe pour lui, et limite les autres.

Qu’une intelligence artificielle finisse par échapper à ses concepteurs n’est pas une idée sotte, mais encore faudrait-il expliquer en quoi les mesures proposées y répondent. Une pause américaine ne suspend pas les serveurs de Shenzhen. Un contrôle à l’exportation n’efface pas des modèles déjà téléchargés des millions de fois.

En fait, un traité mondial relève de l’incantation pure et entre le risque invoqué et le remède prescrit, il n’y a strictement aucun rapport.

En revanche, ce remède, qui épargne habilement le laboratoire de pointe, qui dispose d’avocats, d’un conseil d’administration et d’un régulateur à qui parler, n’épargnera pas le modèle libre, ouvert, local, qui tourne sur la machine du sous-sol sans conditions d’utilisation ni interrupteur distant, celui avec lequel un administré ordinaire épluche par exemple en une soirée dix ans de marchés publics de sa commune, cartographie qui attribue quoi à qui et pour combien, et se fait rédiger le recours dans la foulée.

Greg Casar s’indigne que l’IA soit « moins règlementée que le food truck moyen ». Mais il oublie (trop vite) pourquoi : le food truck, lui, ne lit pas les délibérations du conseil municipal. Or, l’IA à portée de main de tous, c’est rendre lisible l’enfer bureaucratique et administratif, c’est rendre visible les actions de tous les agents de l’État, politiciens en premier.

Eh non, encore une fois, ils ne veulent pas sauver l’humanité. Ils veulent rester illisibles.