IA : l’ENISA teste GPT-6 Astra et Claude Mythos 5

Selon Reuters, la Commission européenne a confirmé que l’ENISA avait été autorisée à utiliser Mythos 5 et GPT-6 Astra dans le cadre de ses travaux. L’agence européenne est chargée d’aider les institutions de l’Union et les États membres à renforcer leur résilience face aux cybermenaces et à évaluer l’évolution des risques numériques.

OpenAI a lancé GPT-6 Astra le 3 septembre et le présente comme son modèle le plus performant déployé à grande échelle. L’entreprise indique qu’il s’agit de son premier modèle à atteindre le niveau « critique » de capacités en cybersécurité dans son Preparedness Framework, ce qui a conduit à renforcer les garde-fous autour de son utilisation.

Dans son aperçu de sécurité, OpenAI précise qu’Astra peut, avec des outils et des accès adaptés, identifier des vulnérabilités jusque-là inconnues et élaborer de nouvelles méthodes d’exploitation sur des systèmes bien protégés. Le groupe dit avoir renforcé l’isolation, le chiffrement des points de contrôle et la surveillance des trajectoires d’agents afin de limiter les usages dangereux.

Anthropic présente de son côté Claude Mythos 5 comme un modèle destiné notamment à la recherche en cybersécurité et en biologie, avec un accès limité à des organisations sélectionnées. Le groupe a progressivement élargi son programme Glasswing à des partenaires spécialisés dans la défense des infrastructures et la recherche de vulnérabilités. Le 9 septembre, Anthropic a aussi publié une évaluation de plusieurs incidents de cybersécurité impliquant des modèles Claude dans des environnements de test.

L’Europe renforce la surveillance des modèles de pointe

Les tests confiés à l’ENISA s’inscrivent dans un mouvement plus large de supervision des modèles dits « frontier ». Le 31 juillet, les autorités européennes de supervision bancaire, des assurances et des marchés ont appelé à une gouvernance renforcée et à une approche cohérente des risques informatiques liés à ces systèmes, notamment dans le secteur financier.

Ces autorités ont demandé aux acteurs concernés d’améliorer la prévention, la détection et la gestion des incidents associés aux modèles d’IA les plus puissants. Leur déclaration cite notamment les travaux de l’ENISA parmi les références utilisées pour encadrer les risques liés à l’intelligence artificielle de pointe dans l’Union européenne.