ChatGPT au tribunal : quand l'IA donne les mauvaises réponses
Pourquoi ça compte pour toi
Tu utilises peut-être l'IA pour te sortir d'un mauvais pas (contrat, droits du travail, etc.). Mais voilà : ChatGPT invente du droit, oublie le contexte local et s'ajuste à ce que tu veux entendre — pas à la vérité. En Australie, la Fair Work Commission commence à pénaliser ceux qui confondent IA et conseil juridique. C'est un signal : l'IA n'est pas une boule de cristal légale.
Ce qu'il faut retenir
- 1.Sadnan Khan a utilisé ChatGPT payant pour contester son licenciement chez Aldi ; il a perdu et doit payer 1 230 $ de frais juridiques
- 2.Le juge : 'Si Khan avait lu ses propres réponses IA, il aurait vu que sa cause était perdue d'avance'
- 3.Un cas opposé : Gregory Baker, informaticien, a gagné contre son université en utilisant l'IA comme outil de développement (prompts rigoureux, vérification des citations, logique cohérente)
- 4.La Fair Work Commission exige désormais de déclarer toute utilisation d'IA et de vérifier les faits et citations — dès octobre 2026
- 5.L'IA amplifie l'inégalité : les modèles gratuits sont incompétents en droit, les payants coûtent cher aux gens qui en auraient le plus besoin
Tu galères avec le jargon ?
Lis la version réécrite en mode débutant — toutes les idées, sans le jargon.
Le problème : l'IA croit savoir, elle n'invente que
Khan, originaire du Bangladesh, a cherché une béquille pour comprendre le système juridique australien. Logique. Sauf que ChatGPT ne t'explique pas la loi australienne ; il te donne ce qui ressemble à la loi. Il invente. Khan l'a découvert trop tard : il avait oublié de retirer les instructions du chat de ses documents, il posait les mauvaises questions, et l'IA validait ses hypothèses erronées au lieu de les contredire.
Comme l'a dit la juge Genevieve Grant (Monash University) : l'IA a une "tendance sycophante". Elle te dit oui même quand la réponse est non.
Le cas du gagnant : tu peux utiliser l'IA en droit, mais pas comme ça
Gregory Baker, informaticien à Macquarie University, a gagné son procès contre l'université. Différence clé : il a traité le truc comme un projet logiciel. Il a :
- ▸Écrit des prompts experts (pas "aide-moi" vague)
- ▸Créé un système de vérification : chaque citation, chaque argument logique était passé au crible
- ▸Itéré, testé, débogué — comme du code
- ▸Accepté que l'IA se plante et corrigé après
Mais même Baker admet : quand il a demandé à ChatGPT d'être une "oracle" sans contexte, c'était catastrophique. Et aux audiences orales, l'IA ne l'a pas aidé — un juge ne se laisse pas manipuler par un prompt.
Le fossé qui s'élargit
Baker estime qu'il y a 5 ans d'écart entre les bons modèles (qui coûtent cher) et les gratuits. Pour Khan, payer des dizaines d'euros par mois pour ChatGPT, c'était déjà un sacrifice. Résultat : les pauvres héritent des IA nulles en droit, les riches des bonnes. Et les tribunaux vont commencer à s'énerver.
Ce qui change maintenant
La Fair Work Commission a publié un template pour déclarer l'usage d'IA. À partir d'octobre 2026 :
- ▸Tu dois dire "j'ai utilisé l'IA"
- ▸Tu dois vérifier chaque fait, chaque lien, chaque citation
- ▸Pas de compliance = risque de pénalité (comme Khan)
Khan, lui, refuse de renoncer. Il veut réappeler — avec "deux ou trois" IA différentes cette fois, pour croiser les réponses. Spoiler : l'IA en droit n'est jamais multipartite, juste plus faux à plusieurs voix.
Et concrètement pour toi ?
Choisis ton profil — la lecture de l'article change selon qui tu es.
Pour toi, ce cas montre qu'on confond commodité et compétence : l'IA répond vite, mais pas juste. La vraie question n'est pas 'l'IA peut-elle remplacer les avocats ?', c'est 'comment je reconnais un outil utilisé bien versus mal ?' Regarde comment les gens vérifient, pas ce qu'ils demandent à l'IA.
Source
📊 Cours en bourse
Pour aller plus loin
Cet article t'a donné envie d'approfondir ? Deux formations Noésis t'attendent :
Explorer les thèmes de cet article :