Comment nous avons testé FishOS sur les DPU Nvidia Bluefield

Comment nous avons testé FishOS sur les DPU Nvidia Bluefield

Nous avons testé la capacité du DPU Bluefield-2 à gérer le déchargement OVN/OVS dans l’environnement FishOS. Les résultats ont montré un fonctionnement fluide, une latence réduite et des ressources CPU libérées, démontrant le potentiel de FishOS et des DPU Bluefield pour optimiser les opérations des centres de données modernes.

FishOS : améliorer la gestion des nuages
FishOS de Sardina Systems est une plateforme avancée de gestion du cloud basée sur OpenStack. Conçue pour améliorer l’efficacité et l’évolutivité des centres de données modernes, FishOS s’appuie sur l’automatisation et la gestion intelligente des ressources pour rationaliser les opérations, réduire les coûts et améliorer les performances globales.

DPU Nvidia Bluefield : Révolutionner le traitement des données
Les DPU Nvidia Bluefield sont des processeurs spécialisés qui déchargent et accélèrent les tâches de réseau, de stockage et de sécurité, libérant ainsi les CPU principaux. Ces unités améliorent les performances et l’efficacité des centres de données en gérant les charges de travail intensives en données, en offrant une programmabilité et des performances élevées pour répondre aux exigences de l’informatique moderne.

Architectures traditionnelles et modernes des centres de données
Les centres de données traditionnels s’appuient largement sur des unités centrales polyvalentes pour toutes les tâches, ce qui entraîne des goulets d’étranglement au niveau des performances, un manque d’efficacité au niveau des ressources et des coûts opérationnels plus élevés. L’avènement de l’informatique en nuage et de la virtualisation a considérablement transformé les centres de données. L’informatique en nuage offre une allocation flexible des ressources, une évolutivité à la demande et une rentabilité, tandis que la virtualisation fait abstraction du matériel physique, améliorant ainsi l’utilisation et la gestion de l’infrastructure.













L’intégration des DPU Bluefield dans les centres de données permet de relever ces défis. En déchargeant le CPU des tâches intensives, elles améliorent les performances et offrent des fonctions de sécurité basées sur le matériel.

Objectif :
Tester si Bluefield-2 (BF2) peut gérer de manière transparente le délestage OVN/OVS dans l’environnement FishOS OpenStack, permettant aux utilisateurs de provisionner des machines virtuelles.
Conditions de test : Une plateforme de test a été déployée avec un fournisseur de services en nuage qui a alloué du matériel avec des DPU BF2. Sardina Systems a ensuite déployé l’environnement FishOS OpenStack sur cette configuration.

Guide de l’utilisateur étape par étape
Déploiement : FishOS OpenStack (version Bobcat) a été déployé sur des nœuds de serveurs utilisant AlmaLinux 9 comme système d’exploitation de base.
BF2 DPU Mode and OS Options : Le mode DPU BF2 requis était « Embedded CPU ». Différentes options de système d’exploitation ont été testées sur les DPU BF2. Après avoir étudié la documentation, nous avons décidé qu’il n’était pas possible de prendre en compte tous les inconvénients d’un système d’exploitation personnalisé pour ce test. Par conséquent, une version officielle Nvidia d’un système d’exploitation Ubuntu pour BF2 a été déployée via l’interface RShim à l’aide de la commande bfb-install.

Ce que nous avons découvert durant la phase de déploiement :
– L’installation d’AlmaLinux 9 s’est faite facilement via PXE.
– Debian 12 a nécessité des ajustements initramfs.
– L’installation du paquet DOCA de Nvidia a été nécessaire pour une bonne fonctionnalité de BF2.
– L’interface RShim est nécessaire pour le déploiement du système d’exploitation Ubuntu de Nvidia sur BF2.
– Test de la bande passante : La bande passante entre deux DPUs BF2 a été testée en utilisant iPerf3, atteignant 100 Gbit/sec.


Les hôtes DPU BF2 ont été déployés dans le cloud et configurés pour héberger des agents OpenStack Neutron OVN. Nous avons suivi la documentation officielle pour activer le support SmartNIC DPU dans OpenStack : OpenStack Neutron SmartNIC DPU Support.

Mise en réseau de machines virtuelles déchargées :
Pour utiliser la mise en réseau de machines virtuelles déchargées, le SR-IOV a dû être activé. Alors que BF2 supporte jusqu’à 127 fonctions virtuelles, la plateforme matérielle du nœud fourni ne démarrait pas avec cette configuration, la limite a donc été fixée à 63 dans les paramètres du firmware de BF2.
Lors de la création de la machine virtuelle, il a été constaté qu’OpenStack Nova et Neutron nécessitaient des correctifs supplémentaires pour que le réseau de locataire déchargé fonctionne correctement.
Le calcul Nova filtrait le périphérique SR-IOV demandé par le chef d’orchestre Nova. Ce problème a été atténué en commentant la ligne de filtrage.
Le serveur Neutron a refusé de lier des ports en raison d’une incompatibilité de capacités, probablement un bogue.
La ligne dans le fichier neutron/common/ovn/utils.py a été modifiée :




à cela :





Test de la machine virtuelle :
Lors du test de la machine virtuelle, aucune charge significative du processeur n’a été détectée sur le nœud principal ou le DPU. Nous avons également testé les cartes BF2 en  » mode NIC « , où leur fonctionnalité est similaire à celle d’une carte ConnectX 6. L’un des avantages du  » mode DPU  » est qu’aucun pilote OFED n’est nécessaire sur les nœuds de calcul, contrairement au  » mode NIC « . Par conséquent, pour permettre le déchargement du réseau superposé, nous avons installé les derniers pilotes OFED de Mellanox sur les nœuds principaux. Cela a entraîné une charge administrative supplémentaire pour les futures mises à jour, en particulier les mises à niveau du noyau (qui nécessitent la reconstruction des modules) et les mises à niveau OFED (qui ne sont prises en charge que par une désinstallation et une réinstallation complètes).

Le test de la machine virtuelle en mode BF2 NIC était similaire au test en mode DPU, à l’exception de l’utilisation des ports Neutron de type « direct ». Le test iPerf3 à 8 threads entre machines virtuelles a montré un débit d’environ 70 Gbps.

Test des machines virtuelles :
– Neutron ML2/OVN a utilisé des tunnels GENEVE pour le réseau superposé des locataires.
– Un réseau de locataires séparé a été créé avec deux ports Neutron du type géré à distance.
– Deux machines virtuelles fonctionnant sous AlmaLinux 9 ont été déployées sur des nœuds distincts.
– Test iPerf3 à un seul processeur : ~25 Gbit/sec.
– Test iPerf3 à 8 threads : ~86 Gbit/sec.
– Une charge CPU insignifiante a été détectée sur le nœud principal et le DPU.

Résumé
La demande croissante de connexions à large bande passante pour traiter des volumes de données massifs, y compris les opérations d’IA, nécessite des solutions efficaces pour éliminer les goulots d’étranglement. FishOS résout ce défi en déchargeant ces goulets d’étranglement sur du matériel spécialisé comme les DPU Bluefield. En supprimant le logiciel de réseau nécessaire du nœud principal et en tirant parti de technologies avancées telles que les pilotes OFED, FishOS améliore considérablement les performances, réduit la latence et libère des ressources CPU pour le traitement des applications critiques. Il en résulte des opérations de centre de données transparentes et efficaces.

2628 1382 Egine Nalbandian
Start Typing