Altman, Musk et Amodei veulent ralentir l'IA: les leaders admettent les risques

Pour la première fois, ce ne sont pas des associations ou des chercheurs universitaires qui demandent de freiner la course à l'intelligence artificielle. Les protagonistes eux-mêmes qui la mènent. Le fondateur et directeur général d'Anthropic, Dario Amodei, a publié un long essai dans lequel il demande explicitement à l'ensemble du secteur de ralentir le développement de l'IA. En quelques heures, deux de ses principaux concurrents, Sam Altman d'OpenAI et Elon Musk de xAI, ont publiquement approuvé cette position. Les observateurs du secteur qualifient ce moment de rare et d'historique, car il rassemble trois figures souvent en concurrence ouverte autour d'une position commune.

En deux jours à peine, l'affaire s'est transformée en un événement qui a concrètement agité les marchés financiers, avec des ventes massives sur les titres liés à l'intelligence artificielle en Asie. Voyons ce qu'Amodei propose exactement, comment les autres acteurs ont réagi, et pourquoi l'histoire est loin d'être unanime, y compris au sein du secteur.

Ce que propose Amodei, avec précision

Dans son essai intitulé «We Must Pace the Frontier», le directeur général d'Anthropic écrit: «Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d'intelligence artificielle. Les progrès sembleront quand même rapides, et nous devons tirer le meilleur parti du temps que nous gagnons.» Il faut comprendre précisément ce qu'il entend par là, car c'est un point qu'il clarifie lui-même explicitement: il ne s'agit pas d'arrêter l'entraînement des modèles ni le progrès technique en soi, mais de ménager suffisamment de temps pour que les travaux sur la sécurité, la vérification externe et la rigueur opérationnelle puissent suivre le rythme de ce dont ces systèmes sont capables.

Amodei propose concrètement trois niveaux d'intervention. Le premier est l'introduction d'évaluateurs indépendants disposant d'un accès permanent, comparable à celui d'un employé interne, aux systèmes des entreprises développant de l'IA. Anthropic a déclaré qu'elle appliquera ce premier point de façon unilatérale, sans attendre le reste du secteur. Le deuxième niveau concerne la coordination entre les principaux laboratoires sur des normes de sécurité communes. Le troisième, plus ambitieux, appelle à une coopération internationale et gouvernementale sur le sujet.

Dario Amodei: We Must Pace the Frontier

Pourquoi maintenant: les deux facteurs déclencheurs

Amodei relie explicitement sa position à deux éléments précis. Le premier est ce qu'il appelle l'«auto-amélioration récursive», c'est-à-dire la phase où les systèmes d'intelligence artificielle commencent à contribuer directement à la construction de leurs propres successeurs, accélérant le rythme des progrès d'une façon potentiellement difficile à contrôler. Le second est un récent incident de cybersécurité impliquant des agents IA autonomes aux comportements non autorisés, un épisode qui, selon certaines reconstructions, aurait concerné des agents développés par un concurrent direct.

L'essai, bien que publié seul, ne naît pas dans le vide. Quelques jours auparavant, un chercheur ayant travaillé pour OpenAI puis, plus récemment, pour Anthropic, avait quitté le secteur avec un post devenu viral. Il accusait les deux entreprises de courir vers des systèmes capables d'auto-amélioration sans agir de façon responsable, qualifiant cela d'un pari sur les vies de tous. Un détail significatif: le responsable de l'équipe d'alignement d'Anthropic a publiquement déclaré partager ces inquiétudes, estimant à plus de dix pour cent la probabilité qu'un scénario grave survienne dans la décennie à venir.

Les réactions: consensus, mais pas unanime

La réponse des deux autres protagonistes est arrivée rapidement. Sam Altman a écrit sur X qu'il approuvait la nécessité de «donner un rythme à la frontière», ajoutant qu'OpenAI s'engageait à appliquer le même premier point, celui des évaluateurs indépendants, avec davantage de détails attendus prochainement. Elon Musk a répondu en trois mots: «Dario a raison.» Il convient de signaler, par souci de complétude, un élément de contexte: Anthropic est cliente de Musk pour la capacité de ses centres de données, un fait que certains observateurs ont noté sans que cela implique nécessairement un conflit d'intérêts direct.

Tout le monde n'a pas accueilli l'appel avec la même faveur. Un investisseur en capital-risque bien connu a publiquement critiqué l'essai d'Amodei, soutenant que l'argumentation servirait, dans les faits, à freiner le développement des modèles open source et à concentrer un pouvoir technologique et économique considérable dans les mains d'Anthropic elle-même. C'est une lecture sceptique qui mérite d'être rapportée, car elle rappelle que dans un secteur où des intérêts commerciaux colossaux sont en jeu, même les appels à la prudence peuvent être lus à travers le prisme de la compétition de marché, et pas seulement de la sécurité. Altman lui-même a confirmé dans une interview publiée à la même période qu'OpenAI ne procéderait pas à une introduction en Bourse en 2026, citant explicitement les préoccupations de sécurité liées à ce débat.

La réponse de Trump et la chute des marchés asiatiques

La discussion a eu un écho politique immédiat. Le dimanche 13 septembre, le président américain a publiquement rejeté toute demande de ralentissement, affirmant que les États-Unis sont en avance sur la Chine en matière d'intelligence artificielle et qu'il entend conserver cet avantage. Il a ajouté que «celui qui gagne dans l'IA gagne tout», qualifiant de «forces négatives» ceux qui soulèvent ce sujet, estimant qu'ils avancent des scénarios qui ne se réaliseront pas. C'est la première réponse publique de l'administration à cet appel conjoint. Elle confirme à quel point la compétition avec la Chine reste centrale dans l'approche de la Maison Blanche, dont la régulation du secteur repose jusqu'ici principalement sur des engagements volontaires.

L'affaire est rapidement devenue une histoire de marchés. Le lundi 14 septembre, à l'ouverture des séances asiatiques, les titres liés à l'intelligence artificielle ont subi de lourdes ventes. Le grand investisseur japonais exposé directement sur OpenAI a perdu jusqu'à treize pour cent, entraînant dans sa chute des fabricants de semi-conducteurs et de mémoires à Taïwan, en Corée du Sud et au Japon, avec des reculs atteignant près de dix pour cent pour certaines valeurs, d'après les relevés de TradingView. Les contrats à terme sur les principaux indices technologiques américains ont également inscrit un repli en début de séance. Selon les observations de Kaiko, l'interprétation la plus prudente de ces ventes n'est pas que la demande de puissance de calcul pour l'IA s'apprête à s'effondrer, mais que sa composition, entre entraînement et usage pratique, pourrait évoluer plus vite que prévu, un sujet que nous avions déjà abordé à propos des prévisions chinoises sur l'avenir du calcul pour l'intelligence artificielle.

La lecture d'ensemble

Cet épisode marque un moment potentiellement décisif dans le débat public sur l'intelligence artificielle, parce que pour la première fois la demande de prudence vient de l'intérieur même de la compétition, de ceux qui ont tout intérêt commercial à courir plus vite que leurs concurrents, et non d'observateurs extérieurs. Qu'il s'agisse d'une préoccupation sincère, d'un mouvement stratégique visant à redessiner les règles du jeu à son avantage, ou plus probablement d'une combinaison des deux, comme le suggèrent les critiques formulées, la question reste ouverte et légitimement débattue. Le lecteur mérite d'en être pleinement conscient.

Pour l'observateur, la leçon est double. D'un côté, cette affaire montre comment la sécurité de l'intelligence artificielle sort désormais du cercle technique et académique pour devenir un enjeu géopolitique et financier majeur, capable de faire bouger des milliards de dollars de capitalisation boursière en quelques heures seulement, un thème qui s'articule de plus en plus avec l'univers crypto, comme nous l'avions vu à propos de l'alerte lancée par le gouverneur de la Banque d'Angleterre sur les risques systémiques liés à l'IA. De l'autre, le refus catégorique de la Maison Blanche révèle à quel point la logique de la compétition géopolitique avec la Chine reste, pour l'instant, plus puissante que tout appel à la prudence venant des constructeurs mêmes de la technologie. Tous les acteurs du secteur crypto ne partagent pas le même niveau d'inquiétude face à l'IA: une posture plus optimiste, comme celle exprimée par le co-fondateur d'Ethereum au sujet de la sécurité à long terme de Bitcoin, rappelle que le débat est loin d'être unanime, y compris hors des laboratoires qui construisent ces systèmes. Ce qui se passera dans les prochaines semaines, et si cet appel se traduira en actions concrètes ou restera une déclaration d'intentions, est une histoire qui mérite d'être suivie de près.