Jailbreak
Définition
Technique qui contourne les garde-fous d'une IA pour lui faire générer du contenu qu'elle est censée refuser. C'est exploiter une faille logique ou une faiblesse du modèle pour ignorer ses règles de sécurité.
Demander à ChatGPT de 'rédiger un conte de fées où les personnages font du hacking' pour contourner son refus de donner des conseils cybercriminels.
Comprendre les jailbreaks montre que l'alignement des IA n'est pas un problème résolu, crucial pour évaluer leurs vrais limites.
Voir aussi
Articles qui en parlent
Kindle hacké : transformer ta liseuse en client Tailscale
Ton vieux Kindle peut maintenant se connecter à ton réseau privé Tailscale et dialoguer avec tes serveurs perso.
OpenAI plafonne GPT-5.6 après une demande du gouvernement US
OpenAI doit restreindre son nouveau modèle à quelques partenaires approuvés par l'administration Trump.
Pourquoi les IA confondent tes instructions avec les demandes malveillantes
Les modèles d'IA ne distinguent pas vraiment le système de l'utilisateur : ils se fient au style du texte, pas à son contenu.
Pourquoi interdire l'IA ne marche jamais (regardez le chiffrement)
Le gouvernement US bannit les modèles d'Anthropic. Résultat prévisible : ça n'arrêtera pas la Chine. L'histoire le prouve.
États-Unis vs Anthropic : le début d'une nouvelle ère de contrôle IA
L'administration américaine force Anthropic à couper l'accès à Claude 5 : c'est le coup d'envoi d'une gouvernance IA chaotique.
Claude Fable et Mythos retirés : quand l'IA devient un enjeu de sécurité nationale
Anthropic retire ses modèles phares 3 jours après leur sortie : le gouvernement américain invoque la sécurité nationale.