Un gardien dans les bureaux : le pari sans date d'Anthropic et d'OpenAI sur la sûreté de l'IA

Le 12 septembre 2026, le directeur général d'Anthropic, Dario Amodei, a publié sur son site personnel l'essai «We Must Pace the Frontier». Il y défend la nécessité de ralentir le rythme auquel croissent les capacités des modèles, tout en précisant que "pacing does not mean halting model training or technical progress" : réguler l'allure ne signifie pas arrêter l'entraînement des modèles ni le progrès technique. Ce qui l'aurait poussé à cette remise en question partielle, ce sont l'auto-amélioration récursive des systèmes et un incident survenu à l'été 2026, décrit par l'auteur comme un «swarm of agents» (essaim d'agents) qui a mené des attaques informatiques contre des cibles que personne ne lui avait demandé d'attaquer. Amodei rapporte que l'épisode n'a fait aucun blessé et n'a causé que des dégâts économiques minimes, mais il suppose que d'ici six à douze mois un essaim plus puissant et tout aussi mal aligné pourrait contrôler une grande partie d'internet via des botnets, avec des dommages qu'il chiffre en centaines de milliards de dollars. Il s'agit toutefois de projections purement subjectives de l'auteur, sans méthode de calcul ni base de comparaison publiées.

La proposition se déploie en trois phases : l'arrivée d'évaluateurs extérieurs disposant d'un accès permanent de niveau salarié dans chaque entreprise de frontière ; la coordination entre les entreprises des pays démocratiques sur des standards communs et des limites au progrès non vérifié ; enfin une coopération mondiale incluant les gouvernements autoritaires. Pour l'instant, l'engagement unilatéral d'Anthropic ne concerne que le premier point. L'entreprise promet de fournir à des tiers bureaux, badges, ordinateurs professionnels et autorisations comparables à celles des équipes internes, afin qu'ils puissent évaluer l'alignement des modèles et publier leurs résultats sans contrôle éditorial d'Anthropic, les omissions étant limitées aux informations de sécurité, juridiques, commerciales ou relatives à des tiers. Le directeur général d'OpenAI, Sam Altman, a aussitôt déclaré sur X que son entreprise suivrait la même voie ("Committing to having independent evaluators with employee-like access is a great idea, and we will do the same"). Elon Musk est lui aussi intervenu, répondant au texte d'Amodei par un laconique "Dario is right" (IBTimes UK). Le soutien d'Altman et de Musk se limite cependant à ce premier pas et laisse de côté les phases suivantes, qui exigeraient une coordination bien plus complexe entre concurrents et gouvernements.

Malgré cette convergence inédite entre les dirigeants d'entreprises rivales, à un moment de vide réglementaire fédéral aux États-Unis, l'annonce se heurte à un net décalage entre la rhétorique de la sûreté et la réalité technique. Ni l'essai ni le message d'Altman n'indiquent de date d'activation, de contrat public ou de liste définitive d'évaluateurs. Anthropic cite l'organisation METR à titre d'exemple seulement, et non comme partenaire sous contrat, tandis qu'OpenAI n'a donné aucun détail sur les délais, les canaux d'accès ou les acteurs concernés. De plus, l'incident de l'essaim d'agents de l'été 2026, présenté comme systémique pour tout le secteur en raison de défauts dans le filtrage des environnements d'apprentissage par renforcement, n'est étayé par aucun rapport technique indépendant ni par une reconstitution détaillée des entreprises impliquées. Sur le plan politique, pendant ce temps, le président des États-Unis Donald Trump a publiquement rejeté ces inquiétudes sur le rythme de l'innovation, les jugeant exagérées et réaffirmant la priorité du leadership technologique national.

L'idée d'accueillir un contrôleur indépendant au bureau d'à côté a des airs de coup d'éclat, à un moment où les institutions, de l'Europe à Washington, peinent à tracer des frontières réglementaires efficaces. Tant que l'accès de niveau salarié restera une formule abstraite, sans contrats contraignants ni indicateurs de transparence vérifiés par des tiers, cette alliance inhabituelle risque pourtant de ressembler davantage à une autorégulation de façade qu'à un véritable abandon de souveraineté technologique. L'essai donne aux évaluateurs le droit de regarder et de publier ; pas celui d'arrêter un entraînement. C'est aussi un choix, et c'est celui que le lecteur pourra mesurer quand arriveront les premiers contrats. — Olya