Alors que les industries du monde entier adoptent des technologies à forte intensité de données comme l’intelligence artificielle, l’apprentissage automatique et l’analyse en temps réel, la demande pour le cloud computing accéléré par GPU croît rapidement. Toutes les plateformes ne peuvent pas offrir les performances et la flexibilité que ces charges de travail exigent. FishOS de Sardina Systems change cela, permettant aux opérateurs de construire et de gérer facilement des clouds évolutifs propulsés par GPU.
Le cloud computing accéléré par GPU exploite la puissance des unités de traitement graphique (GPU) pour accélérer considérablement les charges de travail nécessitant un traitement parallèle à grande échelle. Comparés aux CPU, les GPU sont optimisés pour gérer des milliers de tâches simultanément, les rendant idéaux pour les tâches de calcul haute performance comme l’entraînement de modèles d’IA, l’exécution de simulations ou l’analyse de données à grande échelle.
Alors que le besoin d’insights en temps réel et de calcul haute vitesse s’accroît, davantage d’entreprises (et pas seulement les géants de la technologie !) adoptent des plateformes cloud propulsées par GPU pour répondre à ces exigences avec de meilleures performances et une plus grande flexibilité. De l’entraînement de modèles d’IA/ML et l’analyse de données à grande échelle aux simulations scientifiques et au rendu en temps réel, de nombreuses industries dépendent désormais des GPU pour traiter rapidement et de manière fiable de grands volumes de données.
L’exigence fondamentale pour ces entreprises est simple : fournir aux utilisateurs un accès au matériel de manière flexible et fiable, à un coût optimal. Qu’il s’agisse d’exécution sur métal nu, de machines virtuelles ou de conteneurs avec Kubernetes, il est crucial d’utiliser la puissance de GPU sans ralentissements.
Atteindre les performances du cloud GPU sans les désagréments de licence
NVIDIA s’est imposé comme un leader de l’infrastructure GPU, particulièrement dans l’IA et le calcul haute performance. Son écosystème, soutenu par des frameworks comme CUDA, cuDNN et le SDK Deep Learning, est largement adopté dans divers secteurs. Cependant, par exemple, les applications basées sur CUDA peuvent fonctionner sur différents modèles de déploiement, tels que le PCI passthrough ou la virtualisation, sans être liées à des structures de licence NVIDIA spécifiques.
Bien que le matériel de NVIDIA soit réputé pour ses performances, ses licences logicielles, en particulier pour la virtualisation, peuvent être coûteuses et parfois moins productives, notamment dans les environnements à grande échelle où les problèmes de licence peuvent entraîner une dégradation des performances de GPU si elles ne sont pas gérées correctement. Par exemple, si une machine virtuelle ne parvient pas à acquérir une licence valide, les performances de GPU peuvent se dégrader après 20 minutes, et la fonctionnalité CUDA peut être désactivée après 24 heures. Bien que NVIDIA puisse améliorer ces problèmes à l’avenir, les fournisseurs de services doivent gérer ces risques aujourd’hui.
En pratique, de nombreux fournisseurs de services cloud, en particulier ceux axés sur la fiabilité, recherchent des alternatives pour minimiser la dépendance aux logiciels de virtualisation sous licence. Par exemple, l’accès dédié à GPU via le PCI passthrough offre un moyen direct, rentable et robuste d’attribuer des ressources GPU aux machines virtuelles ou aux conteneurs. Cette approche ne nécessite pas le logiciel vGPU sous licence de NVIDIA.
La plateforme de gestion cloud FishOS offre une compatibilité avec les logiciels NVIDIA, permettant aux utilisateurs de profiter des outils d’accélération GPU de NVIDIA si nécessaire. Cependant, FishOS ne dépend pas des logiciels NVIDIA pour offrir une expérience cloud complète accélérée par GPU.
Une plateforme agnostique en matière de matériel et compatible avec GPU
FishOS de Sardina Systems est conçu pour être agnostique en matière de matériel. Que vous travailliez avec NVIDIA, AMD ou d’autres fournisseurs, cette solution cloud peut gérer efficacement les charges de travail GPU.
Bien que FishOS ne reproduise pas chaque fonctionnalité spécifique des gestionnaires de clusters tiers comme NVIDIA FleetCommand ou Bright Cluster Manager, il fournit des alternatives équivalentes grâce à une puissante combinaison d’outils ouverts et d’intégration native :
Cette approche modulaire et ouverte signifie que même si une fonctionnalité tierce spécifique est manquante, FishOS offre des moyens flexibles et fiables d’atteindre les mêmes objectifs.
En intégrant des outils open source tels que OpenStack et Kubernetes, FishOS offre aux opérateurs une plateforme flexible et robuste pour construire et gérer des environnements alimentés par GPU sur du matériel nu, des machines virtuelles ou des conteneurs :
- Nova permet l’utilisation de GPU dans des machines virtuelles via le passage direct PCI.
- Ironic provisionne des serveurs bare metal avec un accès direct à GPU.
- Magnum prend en charge les clusters Kubernetes qui peuvent exécuter des charges de travail GPU à grande échelle.
Cette flexibilité signifie que les opérateurs ne sont pas contraints de s’enfermer dans un seul fournisseur ou écosystème. Au contraire, ils peuvent construire leur infrastructure en fonction des performances, de la fiabilité et de l’efficacité des coûts.
De nombreuses plateformes populaires, telles que Red Hat OpenShift ou Ubuntu OpenStack de Canonical, utilisent des déploiements OpenStack conteneurisés pour offrir flexibilité et portabilité des applications. Cette configuration convient aux environnements où l’agilité et l’évolutivité des charges de travail sont des priorités essentielles.
Cependant, pour les fournisseurs de services axés sur la fourniture d’un accès dédié à GPU, de hautes performances et une disponibilité élevée, un déploiement sur matériel nu peut être plus approprié. FishOS peut déployer OpenStack directement sur du matériel nu, sans ajouter de couche de conteneurisation. Cette approche réduit la complexité du système, minimise les frais généraux et améliore la fiabilité — tous ces éléments étant cruciaux pour les opérateurs visant à optimiser les performances et à réduire les coûts d’exploitation.
Lors de la fourniture de locations GPU sur matériel nu, par exemple, FishOS avec Ironic permet une gestion directe du matériel sans nécessiter d’orchestration de conteneurs.
Déploiements GPU qui produisent des résultats : flexibilité et contrôle total avec FishOS
Les clients de FishOS à travers le monde tirent parti des ressources GPU via le passage direct PCI, évitant les contraintes de licence tout en maintenant les performances et la flexibilité.
VMAccel, un fournisseur mondial d’infrastructure d’IA, exploite un environnement géré par FishOS de 19 nœuds de calcul avec à la fois des technologies GPU et FPGA. Leur cloud prend en charge des charges de travail exigeantes en IA, apprentissage automatique, génomique et finance, où les machines virtuelles sont continuellement lancées et retirées pour s’adapter à une demande dynamique. FishOS assure une haute disponibilité, une évolutivité et une agilité opérationnelle dans cet environnement en évolution rapide.
Un autre exemple est l’Université de Tübingen, l’une des principales institutions de recherche d’Allemagne. Leur infrastructure alimentée par FishOS prend en charge les charges de travail GPU sur des hyperviseurs et du matériel nu, permettant des projets critiques en imagerie médicale, recherche sur le cancer, analyse de l’activité cérébrale, simulation climatique, et plus encore. Pour optimiser les performances, les nœuds GPU sont priorisés pour les tâches intensives, tandis que les nœuds CPU gèrent la gestion des ensembles de données et d’autres fonctions standard. Leur architecture hybride intègre des déploiements de virtualisation et de matériel nu, soutenus par le stockage Ceph pour l’archivage.
La plateforme de Sardina Systems prend également en charge la multi-location hiérarchique, permettant aux fournisseurs de services d’héberger plusieurs entreprises, départements et utilisateurs avec un contrôle d’accès granulaire et des quotas de ressources à chaque niveau.
Avec FishOS, les fournisseurs de services n’ont pas besoin de faire de compromis entre performance, coût et flexibilité. Que vous construisiez un cloud pour la recherche en IA, que vous offriez des bureaux virtuels alimentés par GPU, ou que vous lanciez un HPC-as-a-Service, FishOS vous donne les outils pour :
- Exécuter n’importe quel fournisseur GPU (NVIDIA, AMD, et plus encore)
- Éviter les limitations de licence et réduire le coût total de possession
- Déployer à grande échelle, sans complexité supplémentaire de la plateforme
Consultez nos experts et découvrez comment FishOS peut vous aider à déployer un cloud GPU haute performance et rentable. Réservez une consultation gratuite dès aujourd’hui.