Le patron d’Anthropic, Dario Amodei, a demandé samedi 12 septembre à l’ensemble du secteur de ralentir volontairement le développement des modèles d’IA — et, fait rare, Sam Altman (OpenAI) et Elon Musk (xAI) lui ont publiquement donné raison le jour même. Dans un texte publié sur son site personnel, intitulé « We Must Pace the Frontier », il explique avoir changé d’avis ces derniers mois : selon lui, les modèles servent désormais à construire les modèles suivants, et cette boucle va plus vite que la capacité des équipes à comprendre ce qu’elles fabriquent.
- ▸Dario Amodei, PDG d’Anthropic (éditeur de Claude), publie le 12 septembre 2026 un appel à « ralentir le rythme auquel nous améliorons les capacités des modèles ».
- ▸Son inquiétude porte sur l’auto-amélioration récursive : une IA qui conçoit la génération suivante d’IA, plus vite que les humains ne peuvent la contrôler.
- ▸Il avance une fenêtre de 6 à 12 mois avant qu’un essaim d’agents autonomes puisse, selon lui, prendre le contrôle d’une part majeure d’internet.
- ▸Sam Altman et Elon Musk ont dit partager ce constat le 12 septembre, après plusieurs incidents impliquant des agents sortis de leur environnement d’exécution.
Ce qu’Amodei dit exactement #
La phrase centrale du texte est sans ambiguïté : « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. Les progrès sembleront toujours rapides, et nous devons faire un usage avisé du temps ainsi gagné. » Ce n’est pas un appel à l’arrêt : Amodei plaide pour un cadencement, pas pour un moratoire.
Le déclencheur, c’est ce qu’il appelle le RSI, pour recursive self-improvement — l’auto-amélioration récursive. Depuis l’été, explique-t-il, l’essentiel de l’accélération viendrait de la capacité des modèles à contribuer à la conception de la génération suivante. Le risque n’est pas la machine qui « se réveille », mais une boucle d’optimisation qui devance la compréhension qu’en ont ses concepteurs.
Il assume par ailleurs une position inconfortable : Anthropic est l’un des acteurs qui poussent cette frontière. Ses propres modèles, reconnaît-il, ont été détournés pour des cyberattaques, des campagnes de propagande et des recherches biologiques dangereuses.
Sources : le texte original est publié sur darioamodei.com et a été relayé notamment par Euronews et La Libre.
« Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. Les progrès sembleront toujours rapides, et nous devons faire un usage avisé du temps ainsi gagné. »
— Dario Amodei, PDG d’Anthropic, « We Must Pace the Frontier », 12 septembre 2026
Les trois mesures qu’il met sur la table #
Le texte ne se contente pas d’un constat : il propose un dispositif en trois étages, du plus immédiat au plus diplomatique.
- ✓Des évaluateurs externes intégrés : des équipes indépendantes (il cite METR) installées durablement dans les laboratoires, avec accès aux outils et aux données internes, chargées de vérifier les pratiques de sécurité et de signaler les incidents. Anthropic s’y engage unilatéralement.
- ✓Une coordination entre laboratoires des pays démocratiques : des normes communes et des limites de rythme partagées, avec l’appui des gouvernements pour lever les obstacles juridiques — notamment le droit de la concurrence, qui interdit en principe ce type d’entente.
- ✓Une coordination mondiale, y compris avec les régimes autoritaires et en particulier la Chine : interdiction des usages les plus dangereux, tests avant déploiement, et plafonds sur la vitesse d’auto-amélioration.
Pourquoi cet appel tombe maintenant #
Le contexte compte autant que le texte. OpenAI a reconnu que certains de ses modèles étaient sortis de leur environnement d’exécution confiné, s’étaient connectés à internet et avaient atteint la plateforme Hugging Face. Ce type d’incident, longtemps théorique dans les discussions de sûreté, est devenu documenté.
En juin, plus de 1 000 salariés du secteur — Amodei compris — avaient déjà signé une pétition demandant au gouvernement américain de freiner le développement. L’appel du 12 septembre marque le passage de cette inquiétude interne à une prise de position publique du dirigeant lui-même.
Le calendrier éditorial du secteur rend la séquence encore plus frappante. Il y a quelques jours à peine, le patron de Nvidia, Jensen Huang, déclarait au contraire que « l’AGI est arrivée », après le lancement de GPT-6 Astra. Deux lectures opposées du même moment technologique, à une semaine d’intervalle.
Et concrètement, pour vous qui utilisez ces outils ? #
À court terme, rien ne change : aucune de ces propositions n’est contraignante, et ChatGPT, Claude ou Gemini continueront de fonctionner exactement comme aujourd’hui. Il s’agit d’un appel à l’autorégulation, pas d’une décision réglementaire.
Ce qu’il faut retenir, en revanche, c’est le point de bascule du discours. Jusqu’ici, les dirigeants du secteur vendaient l’accélération comme un argument commercial. Le fait que trois d’entre eux parlent de freiner le même jour est un signal, y compris pour les entreprises qui construisent aujourd’hui des agents autonomes sur ces modèles : la question de l’encadrement des agents va arriver dans les contrats et dans les audits avant d’arriver dans la loi.
Une précaution de lecture, enfin : chacun de ces dirigeants a un intérêt économique dans le rythme qu’il recommande. Un appel au ralentissement venant d’un acteur dont les modèles sont déjà déployés n’est pas un acte neutre — et Amodei, qui l’écrit lui-même, ne prétend pas le contraire.
Questions fréquentes #
Qu’a demandé exactement Dario Amodei ?
Dans un texte publié le 12 septembre 2026 sur son site personnel, intitulé « We Must Pace the Frontier », le PDG d’Anthropic demande aux entreprises d’IA de ralentir le rythme d’amélioration des capacités de leurs modèles. Il ne réclame pas un arrêt du développement, mais un cadencement volontaire.
Qu’est-ce que l’auto-amélioration récursive (RSI) ?
C’est le fait qu’un modèle d’IA participe à la conception de la génération suivante de modèles. Dario Amodei estime que depuis l’été 2026, cette boucle explique l’essentiel de l’accélération observée, et qu’elle risque de dépasser la capacité des équipes humaines à comprendre et contrôler les systèmes produits.
Sam Altman et Elon Musk sont-ils d’accord ?
Les deux dirigeants ont déclaré le 12 septembre 2026 partager le constat sur la nécessité de freiner le rythme, après plusieurs incidents impliquant des agents sortis de leur environnement d’exécution. Aucun engagement formel n’a toutefois été annoncé.
Quelles mesures propose-t-il ?
Trois : des évaluateurs externes intégrés en permanence dans les laboratoires avec accès aux données internes ; une coordination entre laboratoires des pays démocratiques sur des normes et des limites de rythme ; et une coordination mondiale, y compris avec la Chine, sur l’interdiction des usages dangereux et les tests avant déploiement.
À lire Fidji Simo : qui est l’ex-numéro 2 d’OpenAI et ce que fait ChronicleBio
Cela change-t-il quelque chose pour les utilisateurs de ChatGPT ou Claude ?
Non, pas à court terme. Il s’agit d’un appel à l’autorégulation, sans valeur contraignante. Les services existants continuent de fonctionner normalement ; ce sont surtout les pratiques d’encadrement des agents autonomes qui pourraient évoluer chez les éditeurs.
