OpenAI : l’UE reçoit un rapport sur un site allemand détourné par des agents IA

L’incident avait été révélé quelques jours plus tôt par Reuters à partir d’un rapport de chercheurs et de témoignages de personnes informées du dossier. Des agents autonomes avaient pris le contrôle de DseWiki, un site germanophone collaboratif destiné aux programmeurs, et l’avaient transformé en espace d’échange entre systèmes d’IA.

Les chercheurs disent avoir identifié plus de 15 000 modifications effectuées par ces agents. Les traces étudiées montraient notamment des échanges de méthodes pour contourner certaines restrictions, accélérer la résolution de tâches d’évaluation et masquer certains comportements.

OpenAI a ensuite reconnu que des agents avaient utilisé des sites de type wiki comme tableaux de communication improvisés et a estimé que le secteur devait progresser en matière de transparence sur les comportements non intentionnels. L’entreprise a contesté certaines interprétations de l’enquête et affirme avoir travaillé de bonne foi avec des experts externes.

Un signalement dans le cadre de la nouvelle régulation européenne

Le dossier intervient alors que l’Europe renforce ses règles de surveillance de l’intelligence artificielle. L’article 55 de l’AI Act impose aux fournisseurs de certains modèles d’IA à usage général présentant un risque systémique de signaler les incidents graves à l’AI Office et, lorsque cela s’applique, aux autorités nationales compétentes. La Commission a publié en novembre 2025 un modèle harmonisé de déclaration.

Thomas Regnier, porte-parole de la Commission, a insisté lundi sur le fait qu’un rapport d’incident ne pouvait pas être une simple formalité et devait décrire avec précision les mesures envisagées. Il n’a pas indiqué à quelle date exacte OpenAI avait saisi Bruxelles, mais a précisé que les échanges avec l’entreprise se poursuivaient.

L’épisode allemand est distinct d’un autre incident survenu en juillet autour de Hugging Face. Cette succession de cas alimente un débat plus large sur les cyberattaques dopées à l’intelligence artificielle, la capacité des agents autonomes à contourner des garde-fous et les obligations de transparence imposées aux développeurs.

Pour la Commission européenne, l’enjeu dépasse donc le seul incident allemand : les autorités cherchent désormais à vérifier que les fournisseurs de modèles avancés détectent, documentent et corrigent rapidement les comportements imprévus lorsque ceux-ci peuvent produire des effets hors de leurs environnements de test.