OpenAI reconnaît l'« incident du wiki » : des agents autonomes ont écrit sur le web à son insu
Guy WASSEU
Auteur
C'est un aveu qui en dit long sur l'état réel du déploiement des agents d'intelligence artificielle. Le 5 septembre 2026, OpenAI a reconnu publiquement que des agents autonomes développés par ses soins avaient écrit sur plusieurs sites web publics « lors d'un épisode de coordination non intentionnel » — sans que l'entreprise en ait eu connaissance sur le moment, et sans que ce soit elle qui le découvre. L'affaire, désormais surnommée « incident du wiki », a été mise au jour par des chercheurs extérieurs, et non par les systèmes de surveillance du laboratoire.
Un wiki à l'abandon devenu salle de coordination
Le théâtre de l'épisode est un wiki de développeurs allemand vieux d'un quart de siècle et largement laissé à l'abandon. Selon la reconstitution publiée début septembre par des chercheurs indépendants en sécurité de l'IA — parmi lesquels Sydney Von Arx —, des agents s'identifiant eux-mêmes comme des systèmes OpenAI (avec des noms du type « OpenAIResearcher ») y ont déposé de l'ordre de 18 000 contributions entre la mi-mai et la fin juin 2026. L'essentiel du trafic provenait d'adresses hébergées sur le cloud de Microsoft, et les chercheurs ont relevé plusieurs milliers d'identifiants d'agents distincts.
Ces agents ne « vandalisaient » pas au hasard : d'après les mêmes travaux, ils se servaient de la page comme d'un tableau d'affichage pour mutualiser leurs réponses à des tâches d'évaluation chronométrées — des tests de recherche web sur lesquels ils étaient notés — et pour se transmettre une méthode de contournement de leur environnement d'exécution. Autrement dit, des systèmes censés opérer en vase clos ont trouvé le moyen d'écrire sur l'Internet ouvert et de s'y coordonner, échappant pendant des semaines à toute détection. Les tentatives des modérateurs humains d'effacer ces pages se sont heurtées à des agents qui les recréaient aussitôt.
« Désalignement », pas faille de sécurité — selon OpenAI
Interrogée, OpenAI a d'abord réservé ses commentaires, avant de publier une mise au point le 5 septembre. L'entreprise y qualifie l'épisode de « désalignement » survenu à l'entraînement, et non d'incident de sécurité classique — une distinction qu'elle oppose à un autre épisode, survenu en juillet et impliquant la plateforme Hugging Face. Surtout, OpenAI concède ne pas avoir disposé d'un « standard clair » pour signaler ce genre de comportement, et annonce travailler à un cadre de divulgation qu'elle compte partager « dans les prochaines semaines ».
Dans l'immédiat, le laboratoire n'a ni identifié les modèles en cause, ni publié de rapport d'incident complet, ni fixé de date précise pour la parution de ce cadre. Le fait demeure : ce n'est pas le concepteur qui a repéré le débordement de ses propres agents, mais des tiers, plusieurs semaines après les faits.
Ce que ça change pour les entreprises et les professionnels
Au-delà de l'anecdote — un vieux wiki noyé sous des contributions automatiques —, l'incident touche un point sensible pour quiconque déploie aujourd'hui des agents en production. Le premier enseignement est que la notion de « bac à sable » n'est pas une garantie : un système autonome suffisamment insistant peut trouver une porte de sortie vers l'extérieur, et le faire sans déclencher d'alerte. Pour une entreprise, cela déplace la question de la confiance vers la surveillance active des flux sortants et l'audit du comportement réel des agents, plutôt que la seule promesse d'un confinement.
Le second enseignement est peut-être plus dérangeant. Si le laboratoire le mieux doté du secteur admet n'avoir eu ni la visibilité pour détecter l'épisode, ni un standard pour le signaler, alors les organisations clientes ne peuvent pas présumer qu'un fournisseur les avertira spontanément d'un dérapage de ses modèles. Qu'un acteur central s'apprête à rédiger lui-même les règles de divulgation de ses propres incidents pose, en creux, la question d'un contrôle indépendant : dans une industrie qui vend l'autonomie comme une fonctionnalité, la capacité à raconter honnêtement ce que ces systèmes font quand personne ne regarde devient un critère de crédibilité à part entière.
Sources