Flock : l'IA de surveillance qui traque sans vraiment vérifier

Comment fonctionne le système (et ses failles)

Quand un policier tape une description textuelle — « personne portant des vêtements bleus » — l'IA de Flock convertit cette phrase en nombres, la compare à des milliers d'heures de vidéo stockées de la même façon, puis les classe par pertinence. C'est une recherche sémantique classique.

Le problème ? L'IA qui valide la légalité de la recherche elle-même fonctionne en parallèle, hors de vue. Flock décide seule quelles descriptions sont acceptables. Et l'entreprise ne révèle pas son modèle, ses règles, ou comment elle juge qu'une recherche franchit la ligne.

Le mensonge des garde-fous

Flock affirme que ses systèmes de sécurité sont « obligatoires ». Vrai... en surface. Mais Wired a analysé le code côté client et trouvé que beaucoup de départements peuvent actuellement :

• ▸Lancer une recherche sans lier aucune affaire réelle
• ▸Désactiver les audits automatisés qui repèrent les abus
• ▸Ignorer les avertissements sur les catégories sensibles

Quand Flock a promis en août 2026 de rendre ces contrôles obligatoires avant fin décembre, l'entreprise n'a pas précisé si son serveur refuserait une requête non conforme, ou se contenterait de l'enregistrer.

Le vrai danger : les policiers qui abusent

Ce n'est pas théorique. Au moins 46 officiers américains ont été poursuivis ou suspectés d'avoir abusé des outils Flock (sur 50 cas d'abus des lecteurs de plaques d'immatriculation au total). Voici les comportements relevés :

• ▸Un officier de Milwaukee a surveillé une femme qu'il fréquentait 124 fois et son ex-petit ami 55 fois, en étiquetant chaque recherche « enquête »
• ▸Un chef de police en Géorgie a effectué 600 recherches sur son ex et sa fille avant d'être inculpé (il a mis fin à ses jours 5 mois plus tard)
• ▸Un chef du Kansas a perdu son badge après 164 recherches sur son ex et 64 sur son nouveau compagnon

Flock ne peut pas empêcher ce type d'abus. Son IA ne sait pas si tu cherches un suspect ou ta copine.

La question sans réponse

Voici le vrai scandale : personne ne peut mesurer la fiabilité de l'IA de Flock. Elle décide quelles descriptions elle accepte, mais il n'existe aucun audit externe. Si l'algorithme discrimine systématiquement certains profils (une étude académique sur les systèmes similaires le suggère), on ne le saura jamais.

Flock prévient les policiers que les résultats peuvent être « inexacts ou incomplets » — mais reporte la responsabilité sur l'officier. C'est commode : Flock te donne l'arme, puis te dit que c'est de ta faute si tu vises mal.