Les flics achètent de l'IA : ce qu'on ne te dit pas
Pourquoi ça compte pour toi
La police aux États-Unis commence à déployer des systèmes d'IA pour des tâches qui structurent le processus judiciaire lui-même. Si ces outils se plantent, c'est des gens qui perdent leur liberté. Et contrairement à ChatGPT, personne ne peut tester l'algorithme avant qu'il t'arrête.
Ce qu'il faut retenir
- 1.L'IACP (Association Int'l des Chefs de Police) vante l'IA pour 'automatiser les tâches de routine' — sauf que ces tâches ne sont pas routinières, elles alimentent le système judiciaire.
- 2.Zéro transparence : les entreprises vendent ces systèmes sans vérification publique réelle sur leur fonctionnement ou leurs biais.
- 3.Le risque : des décisions judiciaires dépendront bientôt d'algorithmes fermés, propriétaires, vendus par des startups qui optimisent pour les profits, pas pour la justice.
Tu galères avec le jargon ?
Lis la version réécrite en mode débutant — toutes les idées, sans le jargon.
Pourquoi c'est grave maintenant
Journaliste chez The Verge, tu as mené l'enquête sur la conférence technologique annuelle de l'IACP à Fort Worth. Là, les vendeurs d'IA vantaient des solutions pour automatiser des tâches policières censées être 'routinières'. Sauf que rien n'est routinier en justice.
Écrire un PV ? C'est déjà entré dans le dossier judiciaire. Analyser les vidéos de caméra ? L'algorithme qui détecte un suspect oriente toute l'enquête. Prédire les zones à patrouiller ? Ça crée un biais : plus de flics = plus d'arrestations = plus de données alimentant le modèle = sur-ciblage des mêmes quartiers.
Le modèle commercial qui s'installe
Les entreprises de sécurité et de tech ont flairé l'opportunité : les budgets publics sont énormes, les contrats à long terme. Une fois qu'un département de police adopte un système d'IA, il en devient dépendant. Migrer vers un concurrent ? Impossible, les données sont verrouillées.
Et comme c'est du code propriétaire (« secret commercial »), aucun avocat ne peut vraiment contester son fonctionnement devant un tribunal. Les prévenus ne voient jamais comment l'algo a décidé qu'ils étaient suspects.
Le problème de fond
L'IA en police ne distribue pas les ressources équitablement. Elle reproduit les biais historiques des données d'entraînement. Si les données passées montrent qu'on arrête plus de gens noirs pour les mêmes crimes, l'algorithme apprendra que c'est « normal ».
Et personne n'a vraiment de recours. Pas de code ouvert, pas d'audit indépendant obligatoire, pas même de publication des taux d'erreur.
À faire
- ▸Si tu travailles en juridique ou dans le civil : suis le déploiement de ces outils chez les flics de ta région. C'est de l'information publique (demandes FOIA aux États-Unis).
- ▸Curieux ? Lis le rapport du Stanford Internet Observatory sur la prédiction policière — bien plus équilibré que le marketing des vendeurs.
- ▸Politiquement engagé ? Demande à tes élus locaux si ta police utilise déjà de l'IA pour les décisions d'arrestation ou de patrouille.
Et concrètement pour toi ?
Choisis ton profil — la lecture de l'article change selon qui tu es.
Pour toi, le vrai risque n'est pas que l'IA soit 'méchante' — c'est qu'elle soit invisible dans les décisions qui t'affectent (crédit, embauche, police). Regarde qui achète ces outils sans débat public et exige de tes représentants qu'ils sachent comment ça marche avant de le déployer.
Source
Pour aller plus loin
Cet article t'a donné envie d'approfondir ? Deux formations Noésis t'attendent :
Explorer les thèmes de cet article :