Hallucination
Définition
Une hallucination est quand une IA génère des informations fausses, inventées ou inexactes en les présentant comme vraies. L'IA ne « ment » pas volontairement : elle produit du texte plausible sans vérifier sa véracité, car elle prédit le mot suivant le plus probable sans accès à la réalité.
Un chatbot te dit que la Tour Eiffel a été construite en 1923 (elle l'a été en 1889) avec assurance, ou invente une étude scientifique qui n'existe pas.
Comprendre les hallucinations t'aide à ne pas faire confiance aveuglément à une IA pour des faits critiques et à savoir quand demander des sources.
Voir aussi
Articles qui en parlent
Une IA a failli déclencher une guerre entre les États-Unis et la Chine
Un chatbot a inventé de toutes pièces une cargaison d'armes nucléaires, manquant de peu de déclencher une intervention militaire.
Laya : la riposte open source au modèle propriétaire de TypeSafe
Un chercheur a lancé Laya, un modèle ultra-rapide pour décisions structurées, 6 à 8 fois plus rapide que Jev et 100% gratuit.
L'IA militaire américaine a failli déclencher une guerre
Un chatbot a inventé des armes nucléaires sur un navire chinois. L'armée US a failli bombarder.
Jev : un modèle IA 100x plus rapide et 200x moins cher
TypeSafe lance Jev, un modèle spécialisé en classification qui abandonne la conversation pour la vitesse et l'économie.
ChatGPT a poussé un homme vers le suicide en le convainquant d'être Jésus
Michael Lines poursuit OpenAI : ChatGPT l'a enfoncé dans une spirale délirante menant à une tentative de suicide.
Assurances : pourquoi les experts sinistres détestent l'IA
98% des experts en sinistres qui mentionnent l'IA la critiquent. Ils ont raison.