Le GPU (Graphics Processing Unit) est un processeur conçu pour exécuter des milliers de calculs simples en parallèle. Pensé à l'origine pour l'affichage graphique, il est devenu la puce de référence pour entraîner et faire tourner les modèles d'IA.
Là où un CPU enchaîne quelques tâches complexes très vite, un GPU applique la même opération à d'énormes tableaux de nombres en même temps. C'est exactement ce que demandent les réseaux de neurones : des multiplications de matrices, à très grande échelle. La mémoire embarquée sur la carte (VRAM) compte autant que la puissance brute, car elle limite la taille du modèle qu'on peut charger.
Nvidia domine ce marché grâce à ses puces et surtout à CUDA, son environnement logiciel. AMD, Google (avec ses TPU) et d'autres proposent des alternatives. On loue des GPU chez les hyperscalers ou des clouds spécialisés, ou on les achète pour ses propres serveurs.
Pourquoi ça compte quand on recrute
Savoir « utiliser des GPU » ne veut pas dire grand-chose. Le vrai signal : un candidat qui sait expliquer pourquoi un entraînement sature la mémoire, comment répartir un modèle sur plusieurs cartes, ou qui a déjà optimisé du code CUDA ou des kernels. Ces profils (ML engineers orientés infra, ingénieurs performance) sont rares. Ne confondez pas avec un data scientist qui lance des notebooks sur un GPU loué.