Les témoignages de lanceurs d’alerte issus du laboratoire américain d’IA Anthropic ont relancé, les 9 et 10 septembre 2026, un débat national sur les risques existentiels des systèmes avancés. Dans des déclarations publiques, des employés actuels et anciens ont averti qu’il existait une probabilité non négligeable de conséquences catastrophiques liées à l’IA au cours de la prochaine décennie. Leurs prises de position ont immédiatement attiré l’attention politique à Washington et ont été relayées par les grands médias américains.
Evan Hubinger, chercheur chez Anthropic, a estimé à plus de 10 % la probabilité de graves dérives, dans des évaluations personnelles. Le chercheur Jacob Coxon a expliqué son départ de l’entreprise en invoquant des marges de sécurité insuffisantes dans le développement de systèmes toujours plus performants, dits «modèles de pointe». Les médias ont rapporté ces deux déclarations ; aucun examen indépendant ne permet de vérifier les probabilités avancées. Dans les articles consultés, Anthropic ne s’est pas exprimée de manière approfondie sur ces évaluations individuelles.
Ces déclarations interviennent dans un débat politique déjà en cours. Les propositions au cœur des discussions prévoient des obligations de test plus strictes avant la mise à disposition des modèles les plus performants, des obligations de signalement et d’audit, ainsi que des mécanismes d’urgence pouvant aller jusqu’à des mesures d’arrêt. Au Congrès différentes formes de ces règles de contrôle sont débattues. La Maison-Blanche évoque en parallèle des concertations internationales, dernièrement dans le cadre du G20, ainsi que des échanges de coopération en cours avec les grands laboratoires d’IA sur des normes de test et des protocoles de sécurité. Des représentants de l’industrie et de la recherche mettent, eux, en garde contre une réglementation excessive et soulignent la dynamique de la concurrence internationale.
En toile de fond, le débat, engagé depuis des années, sur les risques existentiels liés à des systèmes dont les capacités et l’autonomie pourraient croître rapidement. Aux États-Unis, les autorités de sécurité, le Pentagon et des institutions proches des autorités de contrôle civil ont demandé à plusieurs reprises des obligations de test et de déclaration pour les développements présentant des risques particulièrement élevés. Dans le même temps, les entreprises investissent des milliards dans la prochaine génération de modèles ; la tension entre sécurité et pression à innover façonne le contexte politique.
Les nouvelles déclarations publiques et l’ampleur des réactions politiques sont des faits établis. Les estimations des probabilités et des échéances doivent être considérées comme des appréciations personnelles. La question de savoir si de nouvelles règles seront adoptées aux États-Unis, et sous quelle forme, reste ouverte. Il est toutefois clair que la récente intensification des avertissements issus du milieu d’Anthropic a visiblement renforcé l’urgence du débat sur la réglementation à Washington.
Rédacteur : Phillipe Schmidt-Araguin (article réalisé avec l’aide de l’IA).