GPU cloud : louer de la puissance pour entraîner un modèle
Pas besoin d’acheter une carte à 10 000 € : le GPU se loue à l’heure.
Entraîner ou faire tourner un gros modèle demande des GPU. Plutôt que d’investir, on en loue à l’heure chez des fournisseurs spécialisés ou les grands clouds — du petit GPU à plusieurs cartes haut de gamme.
Pour de l’inférence ponctuelle ou du fine-tuning léger, quelques heures suffisent. Surveillez deux pièges : laisser une instance allumée (la facture grimpe vite) et le coût du transfert de données.
Pour expérimenter en local d’abord, notre tuto Llama 3 sur une RTX 3060 montre qu’on va loin avec une carte grand public.