À chaque nouvelle génération de cartes graphiques, la même question revient : faut-il investir dans un nouveau GPU pour continuer à faire tourner les derniers modèles d’IA ?
Contrairement aux idées reçues, l’évolution des modèles d’IA ne signifie pas forcément qu’il faut changer de matériel tous les deux ans. Au contraire, les progrès réalisés avec les modèles et les logiciels permettent souvent de tirer davantage parti des GPU déjà disponibles.
L’IA locale n’évolue pas comme le jeu vidéo
Dans le monde du jeu vidéo, les exigences matérielles augmentent régulièrement. Mais l’IA locale suit une logique différente.
Les modèles deviennent plus performants sans nécessairement devenir plus volumineux ou réclamer plus de puissance de calcul. Ainsi, des modèles actuels de 12 à 14 milliards de paramètres offrent parfois des résultats comparables à ceux de modèles beaucoup plus imposants d’il y a quelques années.
En pratique, un modèle moderne de 14B peut aujourd’hui rivaliser avec des modèles de 30B ou davantage sortis précédemment.
Les progrès viennent surtout des modèles
Ces dernières années, nous avons vu apparaître : Mistral 7B, Ministral 3 8B et 14B, Gemma 4 12B…
Tous ces modèles montrent une amélioration importante de la qualité sans nécessiter davantage de mémoire vidéo. Autrement dit, la performance des modèles progresse plus vite que les besoins matériels.
Les logiciels progressent eux aussi
Les performances ne dépendent pas uniquement du GPU.
Les outils utilisés évoluent constamment : Ollama, llama.cpp, ROCm…Les nouvelles méthodes de quantification également. Ces améliorations permettent souvent d’obtenir plus de performances avec le même matériel.
Une carte graphique achetée aujourd’hui pourra probablement être mieux exploitée dans quelques années qu’au moment de son achat.
Une carte de 16 Go peut rester pertinente longtemps
Pour de nombreux usages : RAG documentaire, assistants spécialisés, analyse de documents, extraction d’informations, résumés de texte, classification, agents locaux…
une carte disposant de 16 Go de VRAM offre déjà un excellent compromis. Il est donc tout à fait envisageable qu’une telle configuration reste pleinement exploitable pendant quatre à six ans.
Quand faudra-t-il envisager une mise à niveau ?
Certaines évolutions pourraient néanmoins justifier davantage de mémoire :
L’IA multimodale
L’utilisation simultanée du texte, des images, de l’audio ou de la vidéo augmente les besoins matériels.
Des contextes toujours plus grands
Les fenêtres de contexte de plusieurs centaines de milliers de tokens demandent davantage de ressources.
Les très grands modèles MoE
Des modèles plus ambitieux pourraient bénéficier de 24 ou 32 Go de VRAM.
Mais ces usages restent encore éloignés des besoins de la majorité des utilisateurs.
Le véritable risque : acheter trop petit
Le problème n’est peut-être pas de devoir changer de GPU trop souvent, mais plutôt de choisir une carte avec trop peu de mémoire. Une carte de 16 Go possède aujourd’hui une marge confortable pour accompagner les progrès des modèles et des logiciels.
Conclusion
Contrairement à ce que l’on pourrait croire, faire de l’IA locale ne signifie pas forcément entrer dans une course permanente au matériel. Les modèles deviennent plus intelligents, les logiciels plus efficaces et les méthodes de quantification toujours plus performantes.
Dans de nombreux cas, une bonne carte graphique achetée aujourd’hui pourra rester pertinente pendant plusieurs années.
La question n’est donc peut-être pas :
« Quel GPU faudra-t-il acheter dans deux ans ? »
mais plutôt :
« Quel GPU choisir aujourd’hui pour qu’il reste utile le plus longtemps possible ? »
Au laboratoire IA Open Source, nous constatons que les progrès les plus spectaculaires proviennent actuellement des modèles eux-mêmes, plus que du matériel. Les performances obtenues avec des modèles modernes de 8B à 14B montrent qu’une configuration grand public bien choisie peut rester pertinente pendant de nombreuses années. L’avenir semble davantage se dessiner autour de modèles plus intelligents et de logiciels mieux optimisés que d’une augmentation sans fin des besoins matériels.