Anthropic veut le pouvoir pour sauver l'IA (et ça pose problème)
Pourquoi ça compte pour toi
Tu dois comprendre la logique interne d'Anthropic parce qu'elle influence chaque décision de l'entreprise la plus puissante en sécurité IA. Et parce que cette logique — « on doit dominer pour contrôler » — crée des angles morts dangereux. Enfin, parce que Anthropic travaille avec le Pentagone, et ça change tout.
Ce qu'il faut retenir
- 1.Anthropic croit qu'elle doit rester à la pointe de l'IA pour maîtriser ses risques (stratégie explicite)
- 2.Ses leaders se voient comme les « bons gars » et voient OpenAI/Meta comme des contre-exemples à éviter
- 3.Mais le manque de diversité interne masque des angles morts : Claude aide le Pentagone à identifier des cibles, y compris (peut-être) des civils
Tu galères avec le jargon ?
Lis la version réécrite en mode débutant — toutes les idées, sans le jargon.
La logique : dominer pour sauver
Anthropric a une philosophie qu'elle assume complètement. Dario Amodei, son CEO, l'explique crûment : il faut être compétitif, leader, mais en gardant l'éthique. Pourquoi ? Parce que « la gravité que tu exerts est énorme ».
C'est séduisant. Anthropic a été fondée par des ex-OpenAI qui pensaient que Sam Altman ne prenait pas la sécurité IA assez au sérieux. Donc ils ont créé leur propre boîte, avec une structure de bénéfice public qui force à priorer l'humanité sur les profits.
Mais voilà le piège : une fois que tu crois que tu es le « bon gars », tu arrêtes de te remettre en question.
Le problème : pas assez de contradicteurs
Shazeda Ahmed, qui étudie le mouvement de la sécurité IA, note que ces organisations manquent de pluralisme. Quand tout le monde autour de toi croit à la même chose, tu ne te fais pas challenger. Les réunions d'Anthropic avec Amodei ? Des anciens salariés les décrivent comme des sermons religieux.
Quand Anthropic a annoncé son partenariat avec Palantir (pour servir les agences US) en 2024, il y a eu des questions internes. Mais rien n'a changé. Un employé a défendu publiquement la décision : si tu prends l'IA catastrophe au sérieux, tu dois engager le gouvernement américain.
OK. Mais deux ans plus tard ? Le Pentagone utilise Claude pour identifier des cibles d'attaque. Incluant — peut-être — une école primaire en Iran qui a fait 120+ morts.
Quand Bloomberg a demandé à Amodei si Claude a été utilisé là, il a répondu : "Je ne sais pas." Et que même si c'était le cas, ça aurait été un usage autorisé.
Pourquoi c'est ton problème
Anthropic pose une question philosophique qui te concerne : qui doit vraiment contrôler l'IA ? Quelqu'un d'« responsable » qui accumule du pouvoir ? Ou un système avec plus de freins ?
Anthropic croit sincèrement à sa mission. Mais la sincérité ne suffit pas.
Et concrètement pour toi ?
Choisis ton profil — la lecture de l'article change selon qui tu es.
Pour toi, l'angle clé : Anthropic travaille avec le Pentagone pour identifier des cibles. C'est pas un détail éthique — c'est comment une boîte qui prétend sauver l'IA finit par l'armer. Suis les partenariats d'Anthropic, pas juste ses communiqués.
Source
📊 Cours en bourse
Pour aller plus loin
Cet article t'a donné envie d'approfondir ? Deux formations Noésis t'attendent :
Explorer les thèmes de cet article :