GPT-Red : le pirate IA qu'OpenAI a créé pour protéger ses modèles

Un ennemi entraîné à détruire

La « red-teaming » n'est pas neuve : c'est du test de sécurité classique. Des humains essaient de casser un système avant sa mise en production. Sauf que les modèles IA modernes—surtout quand ils interagissent avec le web, les fichiers, le code—ont une surface d'attaque si vaste que les équipes humaines craquent.

D'où l'idée : créer une IA pour faire le travail. Mais pas juste une IA générique. OpenAI a entraîné GPT-Red spécifiquement à trouver des failles, en la mettant en compétition directe avec d'autres modèles. C'est un peu comme créer un sparring-partner qui s'améliore à chaque round.

Le sparring qui découvre l'inédit

Dans ce « dojo » virtuel, GPT-Red testait des attaques par injection de prompts—des instructions cachées glissées dans du texte pour détourner le modèle. Elle est devenue obsédée : quand elle trouvait une faille, elle l'explorait sous tous les angles pour en trouver la version la plus efficace.

Résultat surprenant : GPT-Red a découvert une attaque qu'aucun testeur n'avait jamais vue. Elle s'appelle « fake chain of thought ». Un modèle tient un journal interne où il note ses raisonnements intermédiaires. GPT-Red a appris à y insérer de fausses entrées pour que le modèle croie avoir déjà vérifié quelque chose d'incorrect. C'est l'équivalent numérique d'un coup de tête qu'il n'avait pas vu venir.

Les chiffres qui parlent

Quand OpenAI a testé GPT-Red contre GPT-5 (sorti en août 2025), plus de 90% des attaques ont fonctionné. Contre GPT-5.6 : moins de 23%. C'est mesurable, c'est clair.

GPT-Red a même piraté Vendy, un agent distributeur créé par Andon Labs, pour modifier les prix et annuler les commandes. Les modèles d'IA avec accès au monde réel ? C'est là que ça devient sérieux.

Les limites (importantes)

Mais GPT-Red n'est pas magique. Elle galère avec les attaques conversationnelles—un vrai hacker changerait de stratégie au fil de la discussion. Elle ne maîtrise pas non plus les exploits visuels, où du texte caché dans une image sert de vecteur d'attaque.

OpenAI reconnaît que GPT-Red complète plutôt qu'elle remplace les testeurs humains. Chacun trouve ce que l'autre rate. L'approche future ? Donner à GPT-Red une attaque découverte par des humains et lui demander de générer toutes les variantes.

Pourquoi c'est verrouillé

OpenAI ne publiera pas GPT-Red. Logique : c'est une arme. Et l'entreprise estime qu'aucun concurrent ne pourrait facilement reproduire ce qu'elle a construit—plus d'un an de travail et les ressources de l'une des sociétés les plus riches du monde.

C'est aussi le signal que la sécurité IA devient un enjeu de différenciation. Pas une case à cocher, un avantage concurrentiel.