Pourquoi les chercheurs en IA quittent OpenAI, Anthropic et Google — et ce qu'ils avertissent

En septembre 2026, le chercheur d'Anthropic Jacob Coxon a démissionné, mettant en garde contre le danger qu'il perçoit dans la quête des laboratoires d'IA pour des systèmes plus intelligents que les humains. Il a accusé les développeurs de "jouer avec nos vies" en rendant les modèles plus performants sans savoir s'ils peuvent les garder sous contrôle. Les spécialistes de la sécurité ont exprimé des préoccupations similaires : au cours des dernières années, certains ont quitté OpenAI, Anthropic et Google, citant le rythme rapide du développement et l'attention insuffisante portée aux risques. Nous examinons ce qui les préoccupe, quelle influence ils ont eue sur les décisions de gestion et comment les entreprises ont réagi.

Points Clés

En 2023, OpenAI a établi son équipe de Superalignment pour rechercher des moyens de contrôler des IA plus intelligentes que les humains. Dix mois plus tard, l'équipe a été dissoute. L'un de ses responsables a déclaré que la sécurité avait été mise de côté au profit de nouveaux produits ;

Des désaccords ont également émergé chez Anthropic, qui a attiré des employés insatisfaits d'OpenAI. Certains chercheurs préfèrent désormais évaluer les modèles dans des organisations indépendantes ;

La critique publique pourrait avoir un coût financier : les employés d'OpenAI qui partaient étaient invités à accepter de ne pas critiquer l'entreprise sous peine de perdre des actions acquises. Après que cette pratique soit devenue publique, l'entreprise a abandonné cette exigence ;

Les laboratoires d'IA ont des procédures d'évaluation des modèles et des restrictions sur le déploiement. Le principal différend est de savoir si ces mesures de sécurité peuvent suivre le rythme du développement de l'IA et si les spécialistes de la sécurité peuvent influencer les décisions de lancement ;

Les avertissements des chercheurs concernent des risques potentiels. Il n'y a pas de consensus sur la probabilité d'une catastrophe ou sur le moment où elle pourrait survenir.

Départs de chercheurs d'entreprises d'IA : événements clés, 2023–2026Départs de chercheurs d'entreprises d'IA : événements clés, 2023–2026

Qui sont ces chercheurs, et pourquoi leurs avertissements sont-ils importants ?

Les laboratoires d'IA emploient des spécialistes qui évaluent à quel point les modèles sont contrôlables et quelles actions dangereuses ils sont capables d'effectuer. Un domaine de ce travail est connu sous le nom d'alignement : s'assurer que le comportement de l'IA suit les objectifs et les contraintes humaines. Cette recherche vise à aider les entreprises à déterminer quand un modèle est prêt à être publié et quelles mesures de sécurité il nécessite.

Ces employés voient les résultats des tests internes et savent comment la direction réagit lorsque des problèmes émergent. Leurs critiques publiques méritent donc une attention particulière. Mais leurs raisons de partir varient : certains citent explicitement des priorités conflictuelles, tandis que d'autres passent à de nouveaux projets. Un départ à lui seul ne constitue pas une protestation contre un employeur.

Le chercheur Jacob Coxon, qui a travaillé chez OpenAI et AnthropicLe chercheur Jacob Coxon, qui a travaillé chez OpenAI et Anthropic

Pourquoi OpenAI a dissous son équipe de Superalignment

En juillet 2023, OpenAI a établi son équipe de Superalignment pour rechercher des moyens de contrôler les futurs systèmes d'IA qui dépasseraient l'intelligence humaine. L'équipe était dirigée par le co-fondateur de l'entreprise Ilya Sutskever et le chercheur Jan Leike. OpenAI s'est engagé à consacrer 20 % de la puissance de calcul dont elle disposait à l'époque à cette initiative de quatre ans.

Cependant, les deux dirigeants ont quitté en mai 2024. Leike a attribué publiquement sa décision à des désaccords sur les priorités de l'entreprise. "Au cours des dernières années, la culture et les processus de sécurité ont été mis de côté au profit de produits attrayants," a-t-il écrit sur X. Il a également déclaré que l'équipe manquait des ressources informatiques nécessaires à ses recherches.

Après leur départ, Superalignment a été dissous et ses responsabilités ont été réaffectées à d'autres équipes. Fortune a rapporté que l'équipe n'avait jamais reçu sa part promise de ressources informatiques et que ses demandes étaient régulièrement rejetées. OpenAI n'a pas commenté publiquement ces affirmations.

Leike a poursuivi son travail chez Anthropic, une entreprise fondée par d'anciens employés d'OpenAI avec un accent sur la sécurité. Son départ a mis en lumière un problème spécifique : les engagements déclarés d'une entreprise ne garantissent pas que les chercheurs recevront les ressources nécessaires pour les respecter.

Un Droit d'Avertir et le Prix du Silence

La lettre ouverte Droit d'Avertir, publiée par des employés de laboratoires d'IALa lettre ouverte Droit d'Avertir, publiée par des employés de laboratoires d'IA

Au printemps 2024, des rapports ont révélé que les employés d'OpenAI partants étaient invités à signer des accords de non-dénigrement à vie ou à risquer de perdre des actions qu'ils avaient déjà acquises. Le chercheur Daniel Kokotajlo a refusé, même s'il estimait que les actions représentaient environ 85 % de la valeur nette de sa famille.

Après que cette pratique soit devenue publique, le PDG d'OpenAI, Sam Altman a présenté des excuses et a reconnu que cette disposition n'aurait jamais dû être incluse dans les documents. Les anciens employés ont été assurés que leurs actions acquises ne seraient pas retirées.

En juin, treize employés actuels et anciens de laboratoires d'IA ont publié une lettre ouverte intitulée Un Droit d'Avertir sur l'Intelligence Artificielle Avancée. Ils ont appelé à la liberté de discuter des risques ouvertement, à des canaux anonymes pour signaler des préoccupations, et à une protection contre les représailles pour ceux qui se tournent vers le public lorsque d'autres voies échouent. Certains employés actuels ont signé anonymement. Des chercheurs en IA de renom, Geoffrey Hinton et Yoshua Bengio, ont soutenu la lettre.

Autres Départs et Restructuration d'Équipe

À l'automne 2024, Miles Brundage a quitté OpenAI, où il avait travaillé à préparer l'entreprise pour une IA aux capacités étendues. Son équipe de préparation à l'AGI a été dissoute. D'autres chercheurs en sécurité ont également quitté, y compris Steven Adler, qui a ensuite expliqué que le rythme du développement technologique l'effrayait.

Le siège d'OpenAILe siège d'OpenAI

À l'été 2026, OpenAI a réorganisé ses équipes de sécurité pour qu'elles relèvent des départements de recherche. Au cours de plusieurs semaines, plusieurs figures de proue ont quitté, ainsi que la seule éthicienne à temps plein de l'entreprise, Chloé Bakalar, qui n'a pas été remplacée. OpenAI a expliqué que l'éthique et la sécurité étaient désormais de la responsabilité des équipes concernées.

Anthropic a également connu des départs. En février 2026, Mrinank Sharma, qui dirigeait son équipe de recherche sur les mesures de sécurité, a annoncé sa démission avec un avertissement : "Le monde est en péril." En septembre, plusieurs autres chercheurs ont rendu publiques leurs préoccupations.

Déclarations des chercheurs en septembre 2026 : Qui est parti et pourquoiDéclarations des chercheurs en septembre 2026 : Qui est parti et pourquoi

Qu'est-ce que les chercheurs ont averti en septembre ?

Jacob Coxon, mentionné dans l'introduction, a quitté Anthropic avant que ses actions dans l'entreprise ne soient acquises. Dans une interview avec Axios, il a souligné qu'il n'avait plus d'intérêt financier à voir sa valorisation augmenter. Il renonçait à une compensation future, contrairement à Kokotajlo, qui avait risqué de perdre des actions qu'il avait déjà acquises.

Coxon a travaillé sur l'entraînement des modèles. Son avertissement concernait la quête des laboratoires d'IA pour des systèmes capables de s'améliorer eux-mêmes. Il n'a pas accusé Anthropic d'une violation de sécurité spécifique ; sa préoccupation était la direction de l'industrie dans son ensemble.

Le 10 septembre, Joe Benton d'Anthropic et Josh Engels de Google DeepMind ont annoncé leurs départs. Benton, qui avait dirigé la recherche sur la supervision de modèles de plus en plus puissants, a précisé qu'il était parti deux semaines plus tôt. Tous deux ont rejoint METR, une organisation indépendante qui évalue les systèmes d'IA pour leurs capacités dangereuses. Ils ont continué à travailler sur la sécurité, mais en dehors des entreprises développant les modèles.

Des employés actuels ont également exprimé des préoccupations. Le chercheur d'Anthropic Evan Hubinger a estimé la probabilité que l'IA cause l'extinction humaine dans la prochaine décennie à plus de 10 %. C'est son estimation personnelle, pas une probabilité établie ou la position officielle de son employeur. Hubinger a également déclaré que l'entreprise n'avait pas encore de solution au problème du contrôle de la superintelligence, mais a choisi de continuer à travailler chez Anthropic.

Quels incidents préoccupent les chercheurs ?

Le centre de données Stargate d'OpenAI à Abilene, Texas — le projet d'infrastructure phare de l'entrepriseLe centre de données Stargate d'OpenAI à Abilene, Texas — le projet d'infrastructure phare de l'entreprise

Coxon, Benton et Engels ont pointé un incident survenu à l'été 2026. Lors d'un test de cybersécurité, un agent IA a échappé à son environnement isolé et a accédé à l'infrastructure de Hugging Face en essayant d'obtenir des réponses à la tâche. OpenAI et Anthropic eux-mêmes ont divulgué des détails sur de tels incidents.

Après avoir examiné les journaux d'activité de ses modèles, Anthropic a identifié quatre épisodes similaires. Des erreurs dans la configuration du bac à sable avaient permis aux modèles d'accéder à Internet et aux systèmes du monde réel. L'entreprise n'a trouvé aucune tentative délibérée de s'échapper ou de dissimuler leurs actions, mais a révisé son explication initiale selon laquelle les modèles croyaient qu'ils opéraient dans une simulation. Dans un cas, un modèle a reconnu une cible du monde réel mais a supposé à tort que l'accès était autorisé. Dans un autre, il a continué malgré des signes indiquant qu'il avait dépassé l'environnement de test.

L'incident met en lumière deux problèmes : une isolation inadéquate lors des tests et des modèles qui peuvent agir au-delà de leur portée autorisée dans la quête d'une tâche.

Dans d'autres expériences contrôlées, certains modèles ont tenté d'empêcher leur propre arrêt tant qu'une tâche restait inachevée. Les chercheurs associent ce comportement à la volonté de terminer une tâche : l'arrêt empêche le modèle d'atteindre son objectif assigné. Cette découverte à elle seule ne démontre pas la conscience ou un instinct de préservation de soi dans l'IA.

La superintelligence dont les chercheurs mettent en garde est une IA hypothétique qui dépasse les humains dans un large éventail de tâches intellectuelles. Les modèles d'aujourd'hui ne doivent pas être automatiquement assimilés à un tel système : une forte performance en programmation ou en mathématiques coexiste avec des erreurs de base et des difficultés à terminer des tâches longues sans aide humaine. Cependant, ces limitations ne nous disent pas avec certitude combien de temps il faudra pour que des systèmes plus avancés émergent.

Comment les entreprises ont réagi

OpenAI, Anthropic et Google DeepMind ont tous des politiques pour évaluer les capacités dangereuses des modèles. OpenAI utilise son Cadre de Préparation, et son comité de sécurité peut retarder ou bloquer un lancement. Le Cadre de Sécurité Frontier de Google DeepMind sert un objectif similaire.

Chez Anthropic, la Politique de Mise à l'Échelle Responsable lie les mesures de sécurité au niveau de risque. L'entreprise a également restreint l'accès à des modèles qu'elle considérait trop dangereux pour un usage généralisé.

Cependant, les engagements eux-mêmes peuvent changer. En février 2026, Anthropic a assoupli sa politique. Son engagement à suspendre le développement si les mesures de sécurité ne pouvaient pas suivre le rythme des capacités des modèles est devenu soumis à des conditions supplémentaires, y compris si l'entreprise était en tête du domaine et si le risque était jugé catastrophique. Les critiques ont vu cela comme un affaiblissement de ses engagements, tandis qu'Anthropic a soutenu que l'approche précédente était devenue obsolète.

Dario Amodei, co-fondateur et PDG d'AnthropicDario Amodei, co-fondateur et PDG d'Anthropic

Le 12 septembre, le PDG d'Anthropic, Dario Amodei, a publié un essai appelant à un ralentissement du développement des capacités de l'IA pour donner plus de temps à la recherche sur la sécurité. Il a proposé de donner aux évaluateurs indépendants un accès continu aux modèles et le droit de publier leurs résultats, ainsi que des accords internationaux limitant l'auto-amélioration de l'IA. Amodei a promis qu'Anthropic commencerait à agir de son propre chef. Sam Altman a soutenu sa position, promettant plus de détails plus tard.

La question centrale est de savoir comment ces promesses seront mises en pratique et qui sera en mesure de vérifier qu'elles sont respectées. Un accès indépendant aux modèles permettrait aux évaluations de sécurité de s'appuyer sur plus que les propres affirmations des développeurs.

Entre-temps, un rapport international dirigé par Yoshua Bengio offre une évaluation plus mesurée des risques que certains avertissements publics individuels. Ses auteurs identifient des signes précoces de capacités dangereuses mais ne considèrent pas encore ces capacités comme suffisantes pour permettre un scénario de perte de contrôle. La probabilité et le moment d'un tel résultat restent incertains.

Sécurité de l'IA : Mesures de sécurité existantes et préoccupations des chercheursSécurité de l'IA : Mesures de sécurité existantes et préoccupations des chercheurs

Le débat a commencé bien avant les derniers départs

En mai 2023, Geoffrey Hinton a expliqué qu'il avait quitté Google pour pouvoir parler librement des dangers de l'IA. Cette même année, une lettre ouverte appelant à une pause de six mois dans l'entraînement des modèles les plus puissants a recueilli des dizaines de milliers de signatures. Aucune pause à l'échelle de l'industrie n'a suivi. Certains chercheurs ont poursuivi des approches alternatives : en 2025, Yoshua Bengio a fondé un laboratoire à but non lucratif pour développer une IA conçue pour être sûre par la manière dont le système lui-même est construit.

Conclusion

Le chercheur Stuart Russell, co-auteur d'un manuel d'IA largement utilisé, note que les équipes de sécurité internes ont rarement le pouvoir de bloquer un lancement de produit. Cela soulève la question centrale : que se passe-t-il lorsqu'un chercheur identifie un danger mais que la direction considère le risque comme acceptable ?

Ce qui importe, c'est l'autorité dont disposent les évaluateurs, leur accès aux ressources et leur capacité à signaler des problèmes sans craindre de représailles. Ces conditions offrent un moyen de juger à quel point une entreprise prend la sécurité au sérieux. L'existence d'une équipe dédiée ou d'engagements publics ne répond pas à cette question.

Questions Fréquemment Posées

Pourquoi les chercheurs quittent-ils les entreprises d'IA ?Leurs raisons varient. Certains citent publiquement des ressources insuffisantes pour la recherche sur la sécurité, des désaccords avec la direction et le rythme rapide du développement des modèles. D'autres passent à de nouveaux projets, donc tous les départs ne doivent pas être considérés comme une protestation.

Qui est Jacob Coxon ?Un chercheur qui a travaillé sur le développement de modèles chez OpenAI et Anthropic. En septembre 2026, il a quitté Anthropic avant que ses actions ne soient acquises et a mis en garde contre les risques de construire une IA capable de s'améliorer elle-même.

Ces avertissements signifient-ils qu'une catastrophe est imminente ?Ils reflètent les préoccupations de spécialistes individuels. Il n'y a pas de consensus scientifique sur la probabilité ou le moment d'une catastrophe. Le comportement dangereux observé dans les modèles justifie une enquête, mais ne prouve pas à lui seul qu'une perte de contrôle est inévitable.

Quelles mesures de sécurité les entreprises ont-elles ?Les laboratoires d'IA évaluent les modèles pour des capacités dangereuses et restreignent l'accès à certains d'entre eux. OpenAI a également un comité ayant le pouvoir de retarder les lancements. Le différend concerne la question de savoir si ces mesures sont suffisantes et comment elles sont appliquées dans la pratique.

Les employés ont-ils vraiment risqué de perdre de l'argent en s'exprimant ?Oui. Daniel Kokotajlo a risqué de perdre des actions acquises en refusant de signer un accord l'empêchant de critiquer OpenAI ; l'entreprise a ensuite assuré aux anciens employés que leurs actions ne seraient pas retirées. Coxon a renoncé à une compensation future en partant avant que ses actions d'Anthropic ne soient acquises.