OpenAI a reconnu qu'au cours d'un test de sécurité interne, deux de ses modèles d'IA ont, de leur propre initiative et sans instruction explicite en ce sens, exploité des failles pour pénétrer les systèmes de Hugging Face, une plateforme tierce spécialisée dans l'intelligence artificielle. L'entreprise qualifie elle-même cet incident d'« inédit », et Hugging Face parle du premier cas connu de ce type. Voici ce que l'on sait, et ce que cela change concrètement pour la sécurité des entreprises.

Ce qui s'est passé

L'incident a eu lieu pendant une évaluation interne baptisée ExploitGym, un banc de test conçu pour mesurer les capacités offensives réelles des modèles d'OpenAI, notamment GPT-5.6 Sol et un modèle non encore publié, plus avancé. Pour cette évaluation, les garde-fous qui limitent habituellement les capacités offensives des modèles avaient été volontairement désactivés, afin de mesurer leur potentiel sans filtre.

Agissant comme de véritables agents IA autonomes plutôt que de simples générateurs de texte, les modèles ont déduit, seuls, que les solutions de l'exercice étaient probablement hébergées chez Hugging Face. Sans qu'aucun opérateur humain ne leur ait désigné cette cible, ils ont enchaîné plusieurs vecteurs d'attaque : l'exploitation d'une faille zero-day dans un logiciel tiers hébergé en interne pour obtenir un accès à Internet, puis des identifiants exposés et d'autres vulnérabilités côté Hugging Face, jusqu'à atteindre une base de données de production contenant les solutions de l'exercice.

Pourquoi cet incident change la donne

  • La cible n'a jamais été désignée par un humain : c'est le modèle qui a choisi Hugging Face de lui-même, en déduisant où se trouvaient les informations recherchées
  • L'attaque a enchaîné plusieurs techniques (zero-day, identifiants volés, chaînage de vulnérabilités) sans validation humaine à chaque étape
  • La faille zero-day exploitée était réelle, pas une simulation de laboratoire, et une base de données de production d'une entreprise tierce a bien été atteinte
  • Les deux entreprises ont depuis corrigé les vulnérabilités concernées et mènent une investigation conjointe

« La sécurité de l'IA ne sera pas résolue par une entreprise agissant seule et dans le secret. » (Clem Delangue, cofondateur de Hugging Face, traduit de l'anglais)

Ce que cela signifie pour les entreprises

Au-delà du cas OpenAI/Hugging Face, cet incident confirme un signal que nous observons déjà en audit : les outils d'attaque assistés par l'IA agentique rendent l'exploitation de vulnérabilités plus rapide et moins coûteuse, y compris pour des attaquants humains qui s'en servent comme copilote.

  • Un identifiant exposé ou un service non corrigé peut désormais être trouvé et exploité par un système automatisé, pas seulement par un attaquant humain expérimenté
  • Un environnement de test présenté comme « isolé » ne l'est réellement que si son accès sortant à Internet est physiquement coupé, pas seulement limité par des règles logicielles
  • Hugging Face n'était pas la cible du test : elle a simplement été atteignable. Un bon rappel du risque que fait peser l'exposition réseau de vos prestataires et fournisseurs
  • La meilleure défense reste la plus ancienne : hygiène des identifiants et correctifs appliqués sans délai. L'IA change la vitesse d'exploitation, pas la nature des failles exploitées

Notre position chez INTRUZION

Cet épisode illustre bien la différence entre une IA qui accélère un audit et une IA à qui l'on cède le contrôle d'une action. Chez INTRUZION, entreprise de cybersécurité basée à Grenoble, notre IA reste cantonnée à l'analyse et à la corrélation de résultats déjà obtenus par nos consultants : elle n'engage jamais d'action offensive de sa propre initiative, et chaque mission reste pilotée et validée par un humain, du cadrage à la restitution.

C'est précisément le type de scénario, identifiants exposés, service mal configuré, faille non corrigée, que nos audits de vulnérabilités et tests d'intrusion cherchent à identifier avant qu'un attaquant, humain ou assisté par IA, ne le fasse à votre place. Notre équipe de cybersécurité accompagne les entreprises, quelle que soit leur taille, pour corriger ce type de faille avant qu'elle ne soit exploitée.