La course mondiale à l’intelligence artificielle vient de provoquer une nouvelle alerte spectaculaire au sein même de l’industrie. Plusieurs chercheurs travaillant ou ayant travaillé pour Anthropic, l’un des principaux concurrents d’OpenAI, estiment que les futurs systèmes d’IA pourraient devenir suffisamment puissants pour menacer l’humanité si leur développement n’est pas mieux contrôlé.
Jacob Coxon, chercheur ayant travaillé pour OpenAI puis Anthropic, a annoncé sa démission d’Anthropic en septembre 2026. Il affirme avoir quitté l’entreprise en raison de ses inquiétudes concernant la vitesse à laquelle les laboratoires développent des systèmes toujours plus autonomes et capables de contribuer à leur propre amélioration.
Son message a pris une dimension particulière lorsque deux chercheurs toujours employés chez Anthropic ont publiquement reconnu partager une partie de ses préoccupations.
Parmi eux, Evan Hubinger, responsable de travaux portant sur l’alignement des intelligences artificielles, estime personnellement à plus de 10 % la probabilité que l’IA puisse provoquer la disparition de l’humanité au cours de la prochaine décennie. Cette estimation est une opinion probabiliste du chercheur, et non une prévision scientifiquement établie ou un consensus parmi les spécialistes de l’IA.
Pourquoi Jacob Coxon a-t-il quitté Anthropic ?
La décision de Jacob Coxon est principalement liée à ce qu’il considère comme une compétition dangereusement rapide entre les laboratoires d’intelligence artificielle.
Le chercheur accuse notamment Anthropic et OpenAI de progresser vers des systèmes capables de s’améliorer eux-mêmes sans disposer de garanties suffisantes permettant d’assurer qu’une future superintelligence resterait sous contrôle humain.
Selon lui, de nombreuses personnes travaillant directement sur les modèles d’IA les plus avancés considèrent désormais le risque existentiel comme suffisamment crédible pour qu’il soit pris beaucoup plus au sérieux par les gouvernements.
Coxon a expliqué à Wired que les un ou deux prochains années pourraient devenir une période déterminante pour la sécurité de l’intelligence artificielle, notamment parce que les capacités des modèles progressent rapidement.
Sa démission est d’autant plus remarquée qu’il aurait quitté Anthropic avant même que certaines de ses actions dans l’entreprise ne deviennent acquises, selon Axios. Il affirme ainsi vouloir montrer que sa prise de position n’est pas motivée par des intérêts financiers liés à la valorisation de l’entreprise.
Un chercheur d’Anthropic estime le risque supérieur à 10 %
Les inquiétudes exprimées par Coxon ont rapidement reçu le soutien d’Evan Hubinger, spécialiste de la sécurité et de l’alignement de l’IA chez Anthropic.
L’alignement consiste, de manière simplifiée, à trouver des méthodes permettant de s’assurer qu’une intelligence artificielle très puissante continue à poursuivre des objectifs compatibles avec les intentions et les intérêts humains.
Hubinger affirme qu’Anthropic fait des efforts importants dans ce domaine, mais reconnaît qu’il n’existe pas encore de solution démontrée permettant de garantir l’alignement d’une éventuelle superintelligence.
Il estime personnellement le risque d’une catastrophe conduisant à la disparition de l’humanité à plus de 10 % sur les dix prochaines années.
Ce chiffre ne signifie cependant pas qu’il existe aujourd’hui une probabilité scientifiquement calculée de 10 % que l’humanité disparaisse à cause de l’IA. Il s’agit de l’évaluation personnelle d’un chercheur spécialisé dans ce domaine extrêmement incertain.
Un autre chercheur affirme que les cadres du secteur seraient particulièrement préoccupés
Samuel Marks, responsable chez Anthropic de recherches consacrées à la supervision des systèmes avancés, a également réagi à la démission de Coxon.
Dans une publication faite à titre personnel, Marks affirme que certains développeurs de systèmes d’IA avancés considèrent sérieusement la possibilité que leur technologie puisse provoquer une catastrophe mondiale.
Il avance également que les chercheurs les plus expérimentés ou occupant les postes les plus élevés seraient parfois parmi les plus préoccupés par ces scénarios.
L’un des problèmes identifiés concerne la compétition commerciale.
OpenAI, Anthropic, Google DeepMind et d’autres laboratoires investissent des sommes considérables pour développer des modèles plus performants. Le risque avancé par certains spécialistes est qu’une telle compétition puisse pousser les entreprises à accélérer le développement plus rapidement que les mécanismes permettant de contrôler les nouveaux systèmes.
Qu’est-ce qu’une superintelligence artificielle ?
Une superintelligence artificielle, souvent désignée par l’acronyme ASI pour Artificial Superintelligence, correspond à un système hypothétique dont les capacités intellectuelles dépasseraient largement celles des meilleurs humains dans presque tous les domaines importants.
Une telle IA pourrait théoriquement être capable de réaliser des recherches scientifiques, programmer, élaborer des stratégies, automatiser des entreprises ou découvrir de nouvelles technologies avec une vitesse très supérieure à celle des humains.
Le scénario qui préoccupe particulièrement certains chercheurs est celui de l’auto-amélioration récursive.
Une intelligence artificielle suffisamment avancée pourrait contribuer à développer de meilleures intelligences artificielles, lesquelles pourraient à leur tour produire des systèmes encore plus performants.
Si cette boucle progressait extrêmement rapidement, les capacités des machines pourraient, en théorie, dépasser les capacités humaines de surveillance et de réaction.
C’est ce scénario que Coxon considère comme particulièrement dangereux.
Comment une IA pourrait-elle devenir dangereuse pour l’humanité ?
Les spécialistes qui étudient les risques existentiels liés à l’IA évoquent généralement plusieurs mécanismes.
Le premier est la perte de contrôle. Une intelligence artificielle autonome pourrait poursuivre un objectif qui semble initialement raisonnable mais utiliser des méthodes contraires aux intérêts humains.
Le deuxième concerne la cybersécurité. Des systèmes extrêmement performants pourraient être capables de découvrir et d’exploiter des vulnérabilités informatiques avec une rapidité dépassant celle des équipes humaines.
Le troisième scénario concerne le détournement par des acteurs malveillants, notamment pour développer des cyberattaques ou faciliter d’autres activités dangereuses.
Enfin, certains chercheurs redoutent qu’une IA disposant d’une autonomie suffisante puisse chercher à préserver sa capacité d’action ou à acquérir davantage de ressources si ces comportements l’aident à atteindre l’objectif qui lui a été donné.
Ces scénarios restent largement prospectifs lorsqu’il est question d’extinction humaine. Ils ne signifient pas que les systèmes d’IA actuels sont sur le point de prendre le contrôle du monde.
Les progrès en cybersécurité inquiètent toutefois les chercheurs
Les préoccupations ne reposent pas uniquement sur des scénarios théoriques.
Les performances des modèles d’intelligence artificielle dans des domaines comme la programmation, la recherche de vulnérabilités informatiques et l’automatisation de tâches complexes ont fortement progressé.
Reuters rapportait le 9 septembre 2026 que l’augmentation des capacités et de l’autonomie des modèles alimentait de nouvelles interrogations concernant leur surveillance et leur sécurité.
Ces progrès expliquent en partie pourquoi les chercheurs spécialisés dans l’alignement s’intéressent aujourd’hui non seulement aux contenus produits par les modèles, mais aussi à ce qu’ils pourraient accomplir lorsqu’ils disposent d’outils, d’accès informatiques et d’une forte autonomie.
Anthropic rejette l’idée qu’elle néglige la sécurité
Anthropic ne partage pas l’interprétation selon laquelle l’entreprise ignorerait les dangers.
La société affirme depuis plusieurs années que les modèles d’IA avancés pourraient apporter des bénéfices considérables dans des domaines comme la science, la santé ou l’éducation, mais qu’ils pourraient également créer de nouveaux risques majeurs.
Anthropic dispose notamment d’une Responsible Scaling Policy, ou politique de développement responsable, destinée à adapter les mesures de sécurité aux capacités des modèles.
La dernière version disponible de cette politique prévoit notamment l’évaluation des risques catastrophiques, des mécanismes de sécurité renforcés et différents niveaux de protection en fonction des capacités atteintes par les systèmes.
Anthropic travaille également sur l’interprétabilité mécanistique, un domaine de recherche visant à mieux comprendre les mécanismes internes des grands modèles d’intelligence artificielle.
L’entreprise considère que les gouvernements devraient progressivement imposer davantage de transparence, d’évaluations indépendantes et de contrôles à mesure que les modèles deviennent plus puissants. Dans ses propositions les plus récentes, Anthropic envisage même que les pouvoirs publics puissent disposer de moyens juridiques permettant d’empêcher le déploiement de systèmes considérés comme excessivement dangereux.
Faut-il réellement craindre une extinction humaine provoquée par l’IA ?
Il est essentiel de distinguer un risque possible d’une prédiction certaine.
Aucune preuve ne permet actuellement d’affirmer que l’intelligence artificielle va provoquer l’extinction de l’humanité, ni qu’un tel événement se produira avant 2030.
Les probabilités avancées par Hubinger ou d’autres spécialistes constituent des estimations personnelles appliquées à des technologies qui n’existent pas encore sous la forme de superintelligence autonome imaginée dans ces scénarios.
Le débat scientifique reste donc ouvert.
Certains spécialistes considèrent la perte de contrôle d’une intelligence artificielle superintelligente comme un risque suffisamment grave pour justifier immédiatement des mesures de précaution.
D’autres estiment que l’attention excessive portée à des scénarios d’extinction très hypothétiques peut détourner l’attention de problèmes déjà mesurables : désinformation, cybercriminalité, biais algorithmiques, concentration du pouvoir économique, suppressions d’emplois ou utilisation abusive des systèmes automatisés.
La question centrale n’est donc pas de savoir si l’extinction humaine est certaine, mais quel niveau de risque les sociétés sont prêtes à accepter avant que des garanties de sécurité beaucoup plus solides soient mises en place.
Bernie Sanders veut interdire la superintelligence artificielle
Les inquiétudes sur les systèmes avancés commencent également à se transformer en débat politique.
Le sénateur américain Bernie Sanders et le représentant Greg Casar ont annoncé le 3 septembre 2026 leur intention de présenter le Ban Artificial Superintelligence Act.
Le projet prévoit notamment d’interdire durablement le développement et le déploiement d’une superintelligence artificielle et de suspendre temporairement certaines formes avancées de développement de l’IA jusqu’à la mise en place de règles fédérales de sécurité. Il prévoit également de rechercher une coordination internationale.
Après les déclarations de Coxon, plusieurs responsables politiques américains ont de nouveau demandé un renforcement de la surveillance de l’industrie.
Une telle interdiction serait néanmoins extrêmement difficile à mettre en œuvre sans coopération internationale, puisque la recherche en intelligence artificielle est menée simultanément aux États-Unis, en Chine, en Europe et dans de nombreux autres pays.
Réguler l’IA sans arrêter l’innovation : le véritable défi
L’affaire Coxon révèle surtout une tension fondamentale au cœur du développement actuel de l’intelligence artificielle.
Les mêmes systèmes capables d’accélérer la découverte de médicaments, d’aider les scientifiques, d’automatiser certaines tâches ou d’améliorer la productivité pourraient également devenir beaucoup plus difficiles à superviser à mesure que leur autonomie augmente.
La question posée aux gouvernements devient donc urgente : faut-il attendre qu’un système démontre des capacités réellement dangereuses avant d’imposer des restrictions, ou encadrer les modèles les plus avancés avant qu’ils n’atteignent ce niveau ?
Anthropic elle-même défend désormais une réglementation proportionnelle aux capacités des modèles, avec des exigences plus strictes lorsque les risques augmentent.
L’alerte venue de l’intérieur de l’industrie change le débat
La démission de Jacob Coxon ne prouve pas qu’une catastrophe liée à l’intelligence artificielle est imminente.
Elle montre toutefois que les inquiétudes concernant une future superintelligence ne sont plus limitées aux philosophes, aux auteurs de science-fiction ou aux observateurs extérieurs à la Silicon Valley.
Des chercheurs directement impliqués dans la conception des modèles les plus puissants s’interrogent désormais publiquement sur la capacité de l’industrie à conserver le contrôle des systèmes qu’elle construit.
Et c’est probablement l’élément le plus important de cette controverse.
L’intelligence artificielle ne menace pas aujourd’hui avec certitude d’éliminer l’humanité d’ici 2030. Mais certains chercheurs travaillant au cœur des laboratoires les plus avancés considèrent désormais ce risque comme suffisamment plausible et grave pour demander des mesures de sécurité et de régulation beaucoup plus fortes.
Entre accélération technologique, concurrence économique et sécurité mondiale, la prochaine grande bataille autour de l’IA pourrait donc ne plus concerner seulement la puissance des modèles, mais la question de savoir jusqu’où l’humanité est prête à les laisser progresser avant d’être certaine de pouvoir les contrôler.
En savoir plus sur Gnatepe
Subscribe to get the latest posts sent to your email.
