Intermédiaire·4 min·14 septembre 2026

Qui dicte les règles de l'IA ? Pas les 3 géants de la Silicon Valley

🎧 Résumé audio0:00 / 0:00

Les grands labs IA demandent aux gouvernements de les laisser fixer les normes mondiales. C'est déjà mal tourné avant.

Pourquoi ça compte pour toi

Aidan Gomez (Cohere) dénonce un mécanisme qui ressemble furieusement aux cartels du passé : quelques firmes dominantes écrivent les règles de sécurité pour tout le monde, sans débat public ni participation externe. Si tu bâtis une startup IA ou que tu dépends d'infrastructures critiques, c'est ton avenir qui se joue derrière des portes fermées.

Ce qu'il faut retenir

1.Anthropic demande une exemption antitrust pour que les labs s'accordent sur des normes sans être poursuivis en entente
2.Le modèle proposé : une poignée de firmes définit les standards, les gouvernements les imposent à tous les autres, zéro débat public
3.Historique : en 1975, la SEC avait créé un cartel de 3 agences de notation (triple-A sur les subprimes). En 1985, l'UE a laissé les constructeurs autos fixer les normes de sécurité (monopole 25 ans)
4.Les risques qu'on ignore : le cadre proposé ne capture que les risques liés à la taille brute du modèle, pas les architectures distribuées, les essaims d'agents, ou les outils de vérification

Tu galères avec le jargon ?

Lis la version réécrite en mode débutant — toutes les idées, sans le jargon.

Pourquoi ce débat devrait t'inquiéter

Tu as probablement entendu parler de sécurité dans l'IA. C'est un sujet légitime. Mais le piège, c'est de confondre "on a besoin de sécurité" avec "la sécurité doit être définie par 3 boîtes californiennes".

Aidan Gomez, qui dirige Cohere (ils vendent de l'IA à des banques, des télécoms, des ministères de la défense), explique pourquoi c'est une mauvaise idée avec des leçons historiques qu'aucun régulateur ne devrait ignorer.

Le piège historique

En 1975, la SEC aux États-Unis avait un problème : elle avait besoin d'agences de notation fiables pour les obligations. Elle en a désigné 3 (Moody's, S&P, Fitch) et a fermé la porte à tous les autres. 25 ans plus tard, il y en avait toujours 3. Et puis ? Elles ont noté les subprimes triple-A et ont failli faire s'effondrer l'économie mondiale.

Europe, 1985 : les constructeurs automobiles demandent une exemption antitrust "pour la sécurité". Vu qu'une voiture moderne est complexe et critique, leur argument semble raisonnable. Résultat : ils fixent les normes pour qui a le droit de réparer, servir, équiper une auto. Monopole tranquille pendant 25 ans. Il a fallu que la Commission européenne démantèle ça petit à petit.

Dans les deux cas, personne n'a intentionnellement construit un cartel. L'intention était sincère. Mais le résultat structurel était toujours le même : les dominants écrivent les règles, les concurrents sont bloqués, l'innovation ralentit.

Ce que demande Anthropic (et pourquoi c'est le même schéma)

La semaine où Gomez écrit ça, Dario Amodei (PDG d'Anthropic) publie une feuille de route qui demande une exemption antitrust aux gouvernements. Traduction : "Laissez-nous (quelques labs majeurs) nous mettre d'accord sur des normes et des limites de progression sans que ce soit illégal".

Sur le papier : "On va avoir des audits indépendants de nos systèmes IA." Honnêtement, c'est pas bête.

Mais creuse un peu :

▸Qui rédige les standards que les auditeurs vont appliquer ? Les labs eux-mêmes.
▸Qui conduit l'audit ? Les mêmes ou leurs pairs proches.
▸Qui participe à la conversation pour définir ce qui compte comme "risque" ? Personne d'autre.

Et voilà le nœud : les gouvernements sont priés de rendre ces normes obligatoires pour tous les autres développeurs d'IA, même ceux qui n'ont jamais été écoutés. Pas de période de commentaires publics. Pas de vote. Tu dois juste obéir.

Le piège conceptuel : définir le risque

Le vrai problème selon Gomez : cette architecture ne capture que les risques que les géants ont déjà bâti leurs systèmes de sécurité pour évaluer.

Par exemple : le secteur se passionne pour les gros modèles. Mais il y a un débat scientifique réel : est-ce que le risque vient de la taille brute du modèle ou de la manière de l'orchestrer (outils, étapes de vérification) ? Un petit modèle bien agencé peut faire des choses qu'un gros modèle ne peut pas. Un essaim d'agents IA présente une surface de risque totalement différente de celle d'un seul gros modèle.

Mais dans le cadre proposé, seuls les seuils de calcul massifs sont jugés pertinents. Tout ce qui relève de l'architecture distribuée ? Ignoré.

Résultat : les normes entérinent l'avantage actuel des dominants (accès au calcul massif) en le transformant en socle "de sécurité". Pour être "sûr", faut être gros et riche. Seuls Anthropic, OpenAI, et peut-être Google restent debout.

Ce qui devrait être différent

Gomez ne dit pas "pas de règles". Il dit :

▸Les règles doivent réduire le risque, pas protéger les parts de marché de qui domine aujourd'hui.
▸La définition du risque doit être un débat scientifique ouvert, pas pré-ordonnée par 3 labs.
▸Les gouvernements doivent consulter les acteurs extérieurs (startups, académie, société civile) avant de verrouiller un régime pour une génération.
▸Les critères d'entrée doivent permettre la concurrence, pas la bloquer.

Si l'IA est vraiment "la technologie la plus importante de l'histoire" (comme on le dit), alors les règles ne peuvent pas être écrites par un club fermé de mecs en costume californien. Sinon, on rejoue 1975 ou 1985, et on sait comment ça se termine.

Et concrètement pour toi ?

Choisis ton profil — la lecture de l'article change selon qui tu es.

🔭 Curieux

Pour toi, retiens que c'est pas l'IA qui inquiète vraiment les gouvernements : c'est qui contrôle l'IA et qui écrit les règles. Regarde comment ça s'est passé avec les agences de notation en 2008 — l'histoire se répète rarement mais elle rime souvent.

Source