Margaret Atwood : l'IA, c'est des ordures en entrée, des ordures en sortie

Pourquoi ça compte pour toi
Atwood pose une question qui dépasse le folklore littéraire : d'où viennent les données qui entraînent les IA ? Si les données de base sont corrompues, aucune IA ne peut produire quelque chose de fiable. C'est un rappel brutal que les outils d'IA ne pensent pas — ils régurgitent ce qu'on leur a donné à manger.
Ce qu'il faut retenir
- 1.Atwood a demandé à Claude des informations sur la série Père Brown, le chatbot a inventé une réponse
- 2.Elle souligne que l'IA ne 'ment' pas consciemment : elle hallucine parce qu'elle reproduit les biais de ses données d'entraînement
- 3.Le principe : si tu mets de mauvaises données dedans, tu récolteras de mauvaises réponses dehors, peu importe la technologie
Et concrètement pour toi ?
Choisis ton profil — la lecture de l'article change selon qui tu es.
Pour toi, retiens la métaphore d'Atwood : l'IA est un miroir des données qui la créent. Si tu veux saisir ses limites, pose-toi la vraie question : qui a décidé de ce qu'elle apprend, et qu'est-ce qu'on a oublié d'y mettre ?
Source
Pour aller plus loin
Cet article t'a donné envie d'approfondir ? Deux formations Noésis t'attendent :
Explorer les thèmes de cet article :