Baseten crée un standard de sécurité pour l'IA open-source

Qu'est-ce que l'ablitération ?

C'est simple : tu prends un modèle de langage « safe » (avec des garde-fous intégrés), et tu le modifies pour supprimer les restrictions. Résultat ? Un modèle qui peut générer n'importe quoi sans filtre. Ça se fait via fine-tuning, pruning ou d'autres techniques. Facile à faire. Difficile à détecter.

Pourquoi c'est un problème maintenant ?

Le nombre de modèles ablitérés a explosé. Hugging Face en liste plus de 6 000. Ça veut dire que si tu télécharges un modèle open-source sans vérifier sa provenance, tu risques d'embarquer quelque chose d'imprévisible. Et si tu le déploies en production ? Responsabilité civile, risque réputationnel, ou pire.

Que propose cette alliance ?

Baseten (qui fournit l'infrastructure d'inférence) + Goodfire (spécialiste en interprétabilité des modèles) + Hugging Face (la plus grande plateforme de modèles open) travaillent sur un cadre de sécurité construit dans les modèles dès l'entraînement, pas ajouté après. L'idée centrale : la transparence et l'accès ouvert aux rouages internes du modèle offrent plus de visibilité et de contrôle qu'un système fermé.

Concrètement ? Goodfire peut déjà expliquer comment un modèle prend ses décisions (sa « boîte noire »). Combiné avec Baseten et Hugging Face, ça signifie des outils pour surveiller, évaluer et vérifier qu'un modèle n'a pas été « désarmé de ses garde-fous ».

Et ensuite ?

Baseten lance un appel à contributions auprès des développeurs. L'objectif : transformer ça en standard de facto pour tout ce qui touche à l'open-source. C'est un jeu long, mais si ça marche, tu auras une liste de vérification claire avant de déployer n'importe quel modèle.

Le point financier

Baseten vient de lever 1,5 milliard (Series F, juin 2026), valorisation 13 milliards. Goodfire a levé 150 millions en Series B. Ces boîtes ont les ressources pour tenir long terme.