Le compute désigne la puissance de calcul mobilisée pour faire tourner des logiciels, et en IA plus précisément les ressources (GPU, accélérateurs, serveurs) nécessaires pour entraîner et servir des modèles.
Le mot est passé du jargon d'ingénieur au vocabulaire des dirigeants avec l'essor des grands modèles de langage. Les capacités d'un modèle progressent en grande partie avec la quantité de compute investie à l'entraînement, ce qui en fait un poste de dépense et un enjeu stratégique. On parle d'« accès au compute » comme on parlerait d'accès au capital.
Concrètement, le compute s'achète (serveurs et datacenters en propre) ou se loue (cloud, fournisseurs spécialisés en GPU). Les entreprises d'IA arbitrent sans cesse entre compute d'entraînement, pour créer ou adapter un modèle, et compute d'inférence, pour le servir aux utilisateurs.
Pourquoi ça compte quand on recrute
Dans une start-up IA, la contrainte de compute façonne les profils à recruter : il faut des ingénieurs capables de tirer le maximum d'un budget de calcul limité. En entretien, demandez comment le candidat a réduit un coût d'entraînement ou d'inférence, et avec quels compromis. Une réponse chiffrée en heures GPU ou en latence vaut plus qu'un discours général sur « le scaling ».