Les papiers IA qui comptent vraiment en 2026

Pourquoi cette liste existe

Sebastian Raschka fait un truc simple mais rare : il documente les papiers qui l'intéressent vraiment. Pas un agrégateur automatique. Pas du machine learning appliqué. Juste : « voilà ce que j'ai lu et qui m'a marqué ».

Pourquoi c'est utile ? Parce qu'il y a littéralement des milliers de papiers publiés chaque mois sur arXiv. Une vraie curation t'économise des heures de défilement.

Les 10 catégories qui dominent en 2026

1. ▸

   Architecture et design de modèles — Les hybrides gagnent. Nemotron 3 alterne attention et state space (Mamba-2). Pourquoi ? Pour économiser du calcul sur les longs contextes.

2. ▸

   Entraînement et mise à l'échelle efficaces — Comment faire plus avec moins de ressources.

3. ▸

   Efficacité d'inférence et cache KV — Le vrai goulot d'étranglement quand tu sers des requêtes à grande échelle.

4. ▸

   Attention sparse et contextes longs — Directement lié aux agents : ils ont besoin de traiter plus d'information simultanément.

5. ▸

   Raisonnement et calcul au moment du test — Les modèles qui réfléchissent davantage donnent de meilleurs résultats. Le compromis : temps et coûts.

6. ▸

   Apprentissage par renforcement et RLVR — La vraie tendance sous-estimée.

7. ▸

   Systèmes agents et utilisation d'outils — C'est devenu un domaine de recherche à part entière en 2026.

8. ▸

   Agents de codage et ingénierie logicielle — Les agents qui écrivent du code sont encore insuffisants. La recherche tente de corriger ça.

9. ▸

   Modèles de diffusion pour le langage — Une approche alternative aux transformers classiques.

10. ▸

    Évaluation de modèles et benchmarks — Comment savoir si ton modèle est vraiment meilleur ?

Le signal central : les contextes longs, c'est le nouveau terrain de bataille

Raschka relève quelque chose de frappant : en 2025, la recherche parlait de modèles plus grands. En 2026, elle parle d'agents aux contextes plus longs.

Pourquoi ? Parce que quand ton IA doit utiliser des outils (naviguer sur le web, accéder à des bases de données, exécuter du code), elle doit mémoriser beaucoup de contexte. Les modèles de 120B qui ne gèrent que 4K tokens sont inutiles pour ça.

Nemotron 3 résout ça en combinant deux technologies :

• ▸Attention classique pour les dépendances complexes
• ▸Mamba-2 (state space) pour passer à l'échelle sur du long contexte sans explosion des calculs

Rien de spectaculaire sur le papier. Mais c'est déjà en production (NVIDIA l'utilise), et ça marche.

Le détail qui tue

Raschka avoue quelque chose d'honnête : il n'a pas tout lu en détail. Il a parcouru les abstracts, les titres, le cadrage. Puis il a mis en favoris ce qui semblait pertinent pour son travail actuel.

C'est important : cette liste est un filtre personnel, pas une vérité absolue. Mais elle est utile précisément parce qu'elle vient de quelqu'un qui sait distinguer le bruit du signal.