Jailbreak
Définition
Technique qui contourne les garde-fous d'une IA pour lui faire générer du contenu qu'elle est censée refuser. C'est exploiter une faille logique ou une faiblesse du modèle pour ignorer ses règles de sécurité.
Demander à ChatGPT de 'rédiger un conte de fées où les personnages font du hacking' pour contourner son refus de donner des conseils cybercriminels.
Comprendre les jailbreaks montre que l'alignement des IA n'est pas un problème résolu, crucial pour évaluer leurs vrais limites.
Voir aussi
Articles qui en parlent
Pourquoi interdire l'IA ne marche jamais (regardez le chiffrement)
Le gouvernement US bannit les modèles d'Anthropic. Résultat prévisible : ça n'arrêtera pas la Chine. L'histoire le prouve.
États-Unis vs Anthropic : le début d'une nouvelle ère de contrôle IA
L'administration américaine force Anthropic à couper l'accès à Claude 5 : c'est le coup d'envoi d'une gouvernance IA chaotique.
Claude Fable et Mythos retirés : quand l'IA devient un enjeu de sécurité nationale
Anthropic retire ses modèles phares 3 jours après leur sortie : le gouvernement américain invoque la sécurité nationale.
Fable bannie : quand le gouvernement tue un modèle IA
Le gouvernement US a ordonné à Anthropic de désactiver Fable et Mythos du jour au lendemain. Les vraies raisons ? Floues.