GPU cloud : louer de la puissance pour entraîner un modèle
Pas besoin d’acheter une carte à 10 000 € : le GPU se loue à l’heure.
Entraîner ou faire tourner un gros modèle demande des GPU. Plutôt que d’investir, on en loue à l’heure chez des fournisseurs spécialisés ou les grands clouds — du petit GPU à plusieurs cartes haut de gamme.
Pour de l’inférence ponctuelle ou du fine-tuning léger, quelques heures suffisent. Surveillez deux pièges : laisser une instance allumée (la facture grimpe vite) et le coût du transfert de données.
Chez les spécialistes, le modèle de facturation est le vrai différenciateur. RunPod facture à la milliseconde et propose des endpoints serverless qui retombent à zéro quand ils sont inactifs — de quoi désamorcer le premier piège. Vast.ai, Lambda et Paperspace occupent le même créneau avec des modèles de prix différents. Avant de choisir, comparez trois lignes plutôt qu'une : le prix horaire du GPU visé, le coût de stockage entre deux sessions, et les frais de sortie des données.
Pour expérimenter en local d’abord, notre tuto Llama 3 sur une RTX 3060 montre qu’on va loin avec une carte grand public.