Intermédiaire·2 min·8 mai 2026

Entraîner une IA médicale sans NVIDIA : le pari gagnant d'AMD

🎧 Résumé audio0:00 / 0:00

Un modèle d'IA clinique affiné sur du matériel AMD en 5 minutes, sans une seule ligne de CUDA.

Pourquoi ça compte pour toi

Si tu développes en IA ou cherches des alternatives à NVIDIA, c'est la preuve que l'écosystème HuggingFace fonctionne vraiment sur AMD ROCm — zéro ajustement de code. Pour les startups médicales, ça signifie aussi qu'affiner un modèle spécialisé reste accessible sans dépendre du monopole CUDA.

Ce qu'il faut retenir

1.Affinage LoRA sur Qwen3-1.7B avec 192 Go de mémoire AMD MI300X, sans quantisation
2.3 variables d'environnement suffisent : aucun changement de code, même pipeline que CUDA
3.2 000 exemples d'entraînement = 5 minutes et un modèle qui explique ses réponses cliniques

Tu galères avec le jargon ?

Lis la version réécrite en mode débutant — toutes les idées, sans le jargon.

Pourquoi AMD change la donne

NVIDIA contrôle l'IA par CUDA. Point. Mais ce projet prouve que l'écosystème open-source (Transformers, PEFT, TRL, Accelerate) marche aussi bien sur AMD ROCm avec trois lignes d'environnement :

os.environ["ROCR_VISIBLE_DEVICES"] = "0"
os.environ["HIP_VISIBLE_DEVICES"] = "0"
os.environ["HSA_OVERRIDE_GFX_VERSION"] = "9.4.2"

C'est tout. Ton code Python ne change pas.

Le défi médical

Le question-réponses clinique n'est pas un jeu. Un modèle qui donne la mauvaise réponse à un QCM médical n'est pas juste faux — c'est dangereux. MedQA répond à une question médicale ET explique le raisonnement clinique. Exemple réel :

Question : « Quel est le traitement de première ligne en cas d'urgence hypertensive ? » Réponse du modèle : « B) Labetalol IV ou Nitroprussiate IV. L'explication : ces deux molécules réduisent rapidement la tension en urgence. Les agents oraux agissent trop lentement pour prévenir les lésions d'organes terminaux. »

Pas juste une lettre. Une justification.

Comment c'est fait

Base : Qwen3-1.7B (Alibaba) — assez léger pour être économe, assez capable pour raisonner.

Affinage : LoRA injecte des matrices de décomposition de rang faible dans les couches d'attention. Résultat : 2,2 millions de paramètres entraînés sur 1,5 milliard. Mémoire économe, temps réduit.

Jeu de données : MedMCQA — 2 000 questions issues des examens d'entrée médicale indiens. Chaque exemple inclut la question, quatre options, la bonne réponse et une explication clinique.

Gabarit de prompt uniforme :

### Question: {question}
### Options:
A) {opa}
B) {opb}
C) {opc}
D) {opd}
### Answer: {answer_letter}) {answer_text}
### Explanation: {explanation}

Uniformité = qualité. L'affinage par instruction exige de la cohérence.

Les pièges évités

Deux problèmes majeurs et leurs solutions :

▸Perte NaN en bfloat16 → Passage en fp16. Résolu.
▸GPU non détecté → Variables ROCm manquantes. Quelques lignes d'environnement, c'est fini.

Pas de surcouches CUDA personnalisées. Pas de noyaux sur mesure. Juste du Python standard sur ROCm.

Charger et utiliser

Depuis HuggingFace Hub, sans cloner le dépôt :

from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel
import torch

tokenizer = AutoTokenizer.from_pretrained("Qwen/Qwen3-1.7B", trust_remote_code=True)
base = AutoModelForCausalLM.from_pretrained(
    "Qwen/Qwen3-1.7B",
    torch_dtype=torch.bfloat16,
    device_map="auto",
    trust_remote_code=True,
)
model = PeftModel.from_pretrained(base, "HK2184/medqa-qwen3-lora")
model = model.merge_and_unload()
model.eval()

L'adaptateur LoRA ne pèse que quelques Mo. À côté des points de contrôle multi-Go classiques, c'est un vrai gain d'efficacité.

Et concrètement pour toi ?

Choisis ton profil — la lecture de l'article change selon qui tu es.

🔭 Curieux

Pour toi, comprends que le monopole NVIDIA sur l'IA commence à craquer : AMD prouve que le code reste identique, seul l'hardware change. C'est comme la transition AMD/Intel en CPU — sauf que là, c'est pour le machine learning qui domine le coût d'entraînement.

Essayer maintenant

Charger le modèle depuis HuggingFace Hub →

Source