Transformer
Définition
Architecture de réseau de neurones fondée sur le mécanisme d'attention, qui permet au modèle de comprendre les relations entre tous les mots d'un texte simultanément. Introduite en 2017, elle est devenue la base de tous les grands modèles de langage actuels comme GPT et Claude.
Quand tu écris un email, le Transformer comprend que « il » dans la phrase se rapporte à « Jean » mentionné trois lignes plus haut, pas à « Paul » de la dernière phrase.
C'est l'invention clé qui a rendu possibles ChatGPT et tous les IA modernes. Comprendre ce mot te permet de saisir pourquoi l'IA d'aujourd'hui fonctionne si différemment de celle d'hier.
Voir aussi
Articles qui en parlent
Kindle hacké : transformer ta liseuse en client Tailscale
Ton vieux Kindle peut maintenant se connecter à ton réseau privé Tailscale et dialoguer avec tes serveurs perso.
Le marché caché des tokens IA au rabais (et ses risques)
Des revendeurs chinois exploitent les API IA via des failles systématiques : essais gratuits, bots non sécurisés, cartes volées.
Plier du papier pour créer des circuits électroniques
Des chercheurs ont trouvé comment transformer l'origami en technique d'électronique : plier du papier imprégné de métal liquide crée des traces conductrices.
Claude Opus 5 : le modèle qui invente ses propres solutions
Anthropic sort Opus 5 : même puissance que son prédécesseur, moitié moins cher, et bizarrement autonome.
NVIDIA sort Cosmos 3 Edge : l'IA robotique sur ton appareil
Un modèle de 4 milliards de paramètres qui apprend aux robots à comprendre leur environnement et agir en temps réel, directement sur ton matériel.
Kimi vs GPT : pourquoi Wall Street panique (à tort ?)
La Chine sort un modèle IA compétitif, le Nasdaq chute d'1%, et les politiques américains sortent l'artillerie lourde.