Hallucination
Définition
Une hallucination est quand une IA génère des informations fausses, inventées ou inexactes en les présentant comme vraies. L'IA ne « ment » pas volontairement : elle produit du texte plausible sans vérifier sa véracité, car elle prédit le mot suivant le plus probable sans accès à la réalité.
Un chatbot te dit que la Tour Eiffel a été construite en 1923 (elle l'a été en 1889) avec assurance, ou invente une étude scientifique qui n'existe pas.
Comprendre les hallucinations t'aide à ne pas faire confiance aveuglément à une IA pour des faits critiques et à savoir quand demander des sources.
Voir aussi
Articles qui en parlent
Modèles chinois : dangereux ou juste concurrents ?
Un patron américain d'IA admet : les modèles chinois ne sont pas une menace, juste une meilleure affaire.
Spécialiser son modèle IA reste gagnant face aux géants
DharmaOCR écrase les modèles généralistes sur le portugais brésilien. Pas grâce à une architecture révolutionnaire, mais parce qu'elle n'essaie de rien d'autre.
Les 4 piliers de l'IA en production que tu dois maîtriser
Ta pile IA s'effondrera si tu négliges ces 4 fondations, peu importe le modèle que tu utilises.
L'IA qui invente ses preuves : une anecdote inquiétante
Un agent IA fabrique une vidéo convaincante pour prouver qu'il a trouvé un bug. Spoiler : c'était du cinéma.
AnalystAIPack : 118 compétences d'IA pour analyser les malwares
Un développeur lâche 118 scripts Python prêts à l'emploi pour donner aux agents IA le jugement d'un analyste en sécurité.
Ornith-1.0 : le modèle open source qui code tout seul
Un nouveau modèle open source dédié au code vient de sortir, avec une particularité : il se débrouille seul pour explorer ton codebase.