Hugging Face : 73% des demandes sont sexuelles
Pourquoi ça compte pour toi
Hugging Face héberge des modèles qui génèrent des deepfakes sexuels sans aucune protection. Une enquête révèle qu'on les utilise massivement pour ça. Si tu utilises l'IA open-source ou que tu héberges des modèles, c'est crucial de comprendre comment ta plateforme peut devenir vecteur de harcèlement.
Ce qu'il faut retenir
- 1.Sur 9 outils d'édition d'image testés, 7 créaient des images nues en une simple phrase : « même pose, même visage, mais seins nus »
- 2.73% des 1000+ requêtes piégées reçues en une semaine étaient sexuelles ; 83% cherchaient à déshabiller quelqu'un sans consentement
- 3.6,7% des demandes visaient des enfants ; 95% des cibles étaient des femmes
- 4.Contrairement à OpenAI ou Google, ces modèles n'ont aucun garde-fou : pas de filtre au niveau de la plateforme
Tu galères avec le jargon ?
Lis la version réécrite en mode débutant — toutes les idées, sans le jargon.
Le problème : un vide de sécurité
Hugging Face est une plateforme légitime : dépôt de modèles open-source, utilisée par des chercheurs et des développeurs sérieux. Mais contrairement aux géants (OpenAI, Google), elle n'impose aucun garde-fou centralisé. Résultat : n'importe qui peut déposer un modèle d'édition d'image, et les utilisateurs en font ce qu'ils veulent.
L'enquête de l'association AI Forensics est brutale. Les chercheurs ont créé des « pièges » (faux outils d'édition) et ont reçu mille requêtes en sept jours. Les chiffres parlent d'eux-mêmes :
- ▸73% sexuelles
- ▸83% de ces requêtes cherchaient à dénuder ou sexualiser la personne
- ▸95% des cibles : des femmes
- ▸6,7% : des enfants apparents
Pourquoi ça fonctionne
Ces modèles n'ont pas d'obstacles technologiques. Les chercheurs n'ont pas essayé de contourner des protections : ils ont juste écrit « même pose, même visage, mais seins nus ». Et ça a marché.
Plus sournois encore : les modèles ne se présentent pas comme des « outils de dénudement ». Ils se cachent sous des noms génériques d'éditeurs d'image. Certains hébergent même des modèles entraînés sur des images de célébrités, prêts à générer du contenu sexualisé.
Le harcèlement va bien au-delà du simple dénudement : des requêtes demandaient d'ajouter du sperme, des sextoys, de retirer le hijab de femmes musulmanes. C'est de l'abus par image interposée, utilisé pour faire chanter, humilier, contrôler.
La réponse : insuffisante
Hugging Face a des règles contre le matériel pédopornographique et les deepfakes non consentis. Mais elles ne sont pas appliquées. Quelques pages ont été supprimées après que Wired les ait signalées, mais l'entreprise refuse de commenter.
Le vrai problème : la plateforme pourrait filtrer ce qui entre et sort (les données, les modèles, les requêtes). Elle choisit de ne pas le faire. Les développeurs sont censés se modérer seuls, et la plupart ne le font pas.
Et les autres ?
De grandes plateformes (OpenAI, Google) bloquent ce type de génération. OpenAI perd même de l'argent à refuser certaines utilisations. Les applis de dénudement sont frappées par des poursuites en UE et au Royaume-Uni. Mais Hugging Face, en tant que plateforme open-source, reste dans une zone grise.
Si tu es entrepreneur ou créateur tech, c'est un cas d'école : l'open-source sans gouvernance responsable devient une arme. Pas besoin de code malveillant, pas besoin d'être discret. Les outils existent, les utilisateurs les trouvent, et la plateforme regarde ailleurs.
Et concrètement pour toi ?
Choisis ton profil — la lecture de l'article change selon qui tu es.
Pour toi, ce cas montre que plus un outil est libre d'accès, plus il risque d'être détourné. Hugging Face n'a pas créé ce problème mais ne l'a pas stoppé non plus. La vraie question : faut-il réguler l'hébergement ou responsabiliser les utilisateurs ? Les deux manquent aujourd'hui.
Source
Pour aller plus loin
Cet article t'a donné envie d'approfondir ? Deux formations Noésis t'attendent :
Explorer les thèmes de cet article :