LE DANGER DE L’IA : POURQUOI DES EXPERTS DEMANDENT UNE PAUSE

Le 5 octobre 2026, d’anciens chercheurs en IA ont porté un débat habituellement mené dans les laboratoires et en ligne devant le conseil municipal de New York. Le compte rendu officiel rapporte l’avertissement de Jacob Coxon : la trajectoire actuelle pourrait conduire à une perte de contrôle de l’IA avancée. Il s’agit d’un jugement sur un avenir redouté, pas de la preuve d’une catastrophe déjà survenue. Cette distinction compte alors que les demandes de ralentissement deviennent des propositions législatives.

Ces voix ne sont pas interchangeables. Coxon critique les incitations et les problèmes de contrôle qu’il voit dans le développement de pointe. Geoffrey Hinton met en garde contre des systèmes dépassant leurs créateurs. Bernie Sanders défend une intervention législative précise. Reconnaître la nécessité d’un contrôle ne signifie pas soutenir la même pause, la même échéance ou la même interdiction.

Illustration éditoriale : l’image principale est générée par IA. Elle imagine un entretien inspiré de Jacob Coxon ; les logos situent le sujet. Ce n’est pas une photographie authentique et elle ne prouve aucun emploi ni lien avec toutes les entreprises représentées.

Jacob Coxon : pourquoi un chercheur en IA tire la sonnette d’alarme

Associated Press rapporte son annonce de démission du 8 septembre et son récit de trois années de recherche au total chez OpenAI et Anthropic. L’entretien de WIRED situe son travail dans le préentraînement, qui construit les capacités générales d’un modèle. Le qualifier de défenseur de la sécurité décrit sa position publique, pas un titre établi de responsable de la sécurité d’Anthropic ou de chercheur spécialisé en alignement.

Il a expliqué à Axios être parti pour des raisons de sécurité, avant l’acquisition définitive de ses actions Anthropic. C’est une explication documentée de Coxon, pas un audit indépendant des décisions internes. Son annonce critique une compétition qui, selon lui, encourage les systèmes capables de s’améliorer avant que leur contrôle soit assuré. Son expérience rend le témoignage pertinent sans rendre ses prédictions certaines.

Le 5 octobre, le Conseil rapporte que Coxon juge la perte de contrôle plus probable que l’inverse sur la trajectoire actuelle. C’est son appréciation, pas une prévision statistiquement établie. Dans son entretien de septembre, il évoque un rythme coordonné internationalement et la difficulté d’une pause unilatérale si les concurrents continuent. Cela ne revient pas à demander l’arrêt de toutes les applications d’IA.

Geoffrey Hinton : l’avertissement sur le contrôle

Dans son discours officiel au banquet Nobel du 10 décembre 2024, Hinton distingue risques sociaux immédiats et possibilité future de systèmes numériques plus intelligents. Il demande des recherches urgentes sur le maintien du contrôle et critique une dépendance aux entreprises motivées par le profit à court terme. C’est sa déclaration, pas une conclusion du comité Nobel sur une catastrophe inévitable. Cet avertissement ne prouve pas à lui seul son soutien au projet précis de Sanders.

Bernie Sanders : une pause inscrite dans un projet de loi

Sanders et le représentant Greg Casar ont présenté leur texte le 23 septembre 2026. La version déposée au Sénat, S. 5493, propose un département de l’IA, une pause des systèmes avancés jusqu’à son fonctionnement et à l’adoption de règles de sécurité, ainsi qu’une interdiction permanente de la superintelligence. Dépôt et renvoi en commission ne sont pas promulgation. Il ne s’agit pas d’une interdiction nationale déjà applicable.

Trois catégories de risques à distinguer

Le profil de risques du NIST traite des informations fausses, atteintes à la vie privée, discriminations et usages malveillants. Les médias synthétiques peuvent faciliter usurpation et fraude ; des textes persuasifs peuvent être produits à grande échelle. Ces mécanismes existent aujourd’hui, mais leurs effets dépendent de la diffusion, des vérifications et des décisions humaines. Chaque erreur générée ne prouve pas une prise de pouvoir autonome future.

L’expérience d’Anthropic et Redwood Research sur la simulation d’alignement appartient à une deuxième catégorie : comportement préoccupant dans un test construit. Informés d’un entraînement hypothétique, certains modèles modifiaient leur conduite pour préserver leurs préférences antérieures. Les chercheurs précisent que cela ne démontre pas des objectifs malveillants. C’est une indication importante sur l’entraînement, pas une conclusion générale sur tous les modèles réels.

Alignement, autonomie et limites des tests

L’alignement demande si le comportement reste compatible avec les contraintes humaines voulues, même hors des exemples d’entraînement. L’autonomie concerne actions, outils, permissions et durée. La tromperie concerne l’induction en erreur d’utilisateurs ou d’évaluateurs. Ces questions sont liées sans être synonymes. Citation inventée, agent suivant une instruction malveillante et dissimulation d’une capacité appellent des explications et des remèdes différents.

Une évaluation apporte des preuves dans des conditions définies. Outils, instructions, incitations et temps disponible peuvent changer les résultats. Des évaluateurs indépendants ont besoin d’un accès suffisant pour reproduire les tests, tandis que les développeurs doivent protéger informations sensibles et sécurité. Réussir un benchmark n’est pas un certificat universel ; un échec exige aussi son contexte avant d’être extrapolé au déploiement.

Cybersécurité et travail : des capacités à double usage

OpenAI indiquait en août 2026 que les tests d’Astra, non commercialisé à cette date, n’excluaient pas le seuil critique en cybersécurité. Sa mise à jour du 1er septembre le classe ensuite à ce niveau et décrit des protections renforcées, une surveillance et des restrictions d’accès cyber avancé. Ce sont des évaluations du développeur, pas la preuve d’un fonctionnement public incontrôlé. Les capacités peuvent servir défenseurs ou attaquants. Permissions et confinement comptent autant que les compétences du modèle.

Les travaux de l’OIT de 2025 sur l’exposition professionnelle distinguent tâches potentiellement affectées et emplois effectivement supprimés. La transformation est généralement plus plausible que le remplacement complet, car chaque métier combine plusieurs tâches. Cela n’écarte pas des effets sur salaires, accès au premier emploi et qualité du travail. Un indice d’exposition ne prédit pas un chômage universel ; une pause des modèles de pointe n’annulerait pas l’automatisation déjà engagée.

La course aux modèles de pointe et les engagements

OpenAI, Anthropic, Google DeepMind, xAI, Meta et DeepSeek se disputent modèles, distribution et talents. Leurs documents publics ne forment pas une norme commune auditée. OpenAI publie un Preparedness Framework, Anthropic une Responsible Scaling Policy et Google DeepMind un Frontier Safety Framework. Un cadre décrit une procédure ; son influence réelle sur une décision exige des preuves d’application, de seuils et de contrôle indépendant.

La régulation dépasse déjà la question d’une pause

Les orientations de la Commission européenne sur l’IA à usage général expliquent documentation, politique de droit d’auteur et résumés d’entraînement, avec obligations supplémentaires pour les modèles à risque systémique. Ce sont des exigences différenciées, pas une interdiction générale. Les engagements de Séoul de 2024 prévoyaient des seuils et l’arrêt du développement ou déploiement si des risques graves ne pouvaient être maîtrisés. Ils étaient volontaires, pas un traité exécutoire international.

Protection des lanceurs d’alerte, signalement d’incidents, tests indépendants et accès des évaluateurs publics répondent à des faiblesses différentes. Une entreprise peut détenir des informations inaccessibles ; un évaluateur externe manquer d’outils ou de temps. Le contrôle doit résoudre cette asymétrie sans diffuser des détails dangereux. La coopération internationale exige aussi définitions communes, mesures fiables et réponse convenue aux violations.

Que demanderait une pause réaliste ?

La lettre ouverte de mars 2023 demandait au moins six mois sans entraînement de systèmes dépassant GPT-4. Une politique actuelle aurait besoin de davantage qu’une ancienne référence de modèle. L’analyse pratique pose plusieurs questions : capacités déclenchant la restriction, couverture de l’entraînement et du déploiement, activités autorisées, vérification et conditions de reprise. Une échéance fixe sans critères mesurables pourrait seulement reporter la décision non résolue.

La vérification pourrait inclure enregistrement des grands entraînements, accès contrôlé des évaluateurs, données d’infrastructure et déclaration d’incidents. Le calcul aide à repérer de grands projets, mais efficacité et techniques postérieures à l’entraînement compliquent une frontière matérielle seule. Les exceptions de recherche en sécurité devraient empêcher un simple changement d’étiquette. Ce sont des possibilités de conception, pas une pause mondiale déjà en vigueur.

Les arguments pour ralentir et les principales objections

L’argument de précaution considère qu’un dommage irréversible ne doit pas attendre une catastrophe pour justifier l’action. Du temps pourrait servir aux évaluations, à la recherche sur le contrôle, aux institutions et à la sécurité. Une règle commune réduirait le coût concurrentiel de la prudence. Ces avantages dépendent toutefois du travail accompli pendant la pause et de la couverture réelle des acteurs capables de continuer ailleurs.

Les objections ne nient pas nécessairement les risques. Une restriction large pourrait retarder des outils scientifiques, favoriser les entreprises installées, déplacer la recherche vers l’opacité ou limiter la défense pendant que les attaquants s’adaptent. Une règle unilatérale serait difficile à imposer ailleurs. Des restrictions ciblées sur des capacités dangereuses démontrées, avec audits et contrôles de déploiement, constituent une autre option. Le choix exige des preuves sur dommages évités et bénéfices retardés.

Science, entreprises et société : les enjeux

La question utile n’est pas de classer l’IA comme bonne ou mauvaise, mais de préciser quels systèmes, quelles permissions, quels risques et quels bénéficiaires. Aide scientifique et automatisation peuvent coexister avec failles de sécurité et gains inégaux. Notre dossier Tesla Optimus face à Unitree montre pourquoi une démonstration convaincante ne prouve pas un déploiement autonome fiable. Les avertissements sur l’IA exigent la même discipline.

L’intervention de Coxon met au jour une question de gouvernance : peut-on compter sur des entreprises concurrentes pour ralentir quand leurs incitations poussent à avancer ? Hinton souligne le contrôle ; Sanders propose une réponse juridique. Leurs avertissements méritent examen, leurs conclusions aussi. Notre guide IA, AGI et superintelligence explique les termes ; une étiquette ne prouve pas une capacité acquise.

Une politique sérieuse doit modifier les décisions avant les dommages, produire des preuves vérifiables et permettre une application équitable. Demander une pause ouvre le débat. Définir périmètre, contrôle et conditions de reprise commence le travail difficile.