Diese Fallstudie untersucht die strategische Partnerschaft zwischen Sardina Systems und VMAccel – globale KI-Infrastruktur und KI-Rechenzentren. Sie zeigt auf, wie ihre Bemühungen um die beschleunigte Cloud Innovation und technologischen Fortschritt in verschiedenen Sektoren gefördert haben.
Seit 2021 arbeiten Sardina Systems und VMAccel zusammen, um robuste Rechenleistung für eine Reihe von Branchen bereitzustellen, darunter künstliche Intelligenz (KI), maschinelles Lernen, Genomik und Finanzen. Diese Partnerschaft nutzt das maximale Potenzial eines von FishOS verwalteten Systems, das aus 19 Rechenknoten besteht, die sowohl mit GPU- als auch FPGA-Technologien ausgestattet sind. Zu den Kunden von VMAccel gehören namhafte Marken wie die Yale University, Hedgehog, Aleo und viele andere.
Während der gesamten Zusammenarbeit hat FishOS einen ununterbrochenen Betrieb aufrechterhalten und damit seine Effizienz und Zuverlässigkeit unter Beweis gestellt.
Über die Teilnehmer der Fallstudie
VMAccel ist ein Rechenzentrum, das sich auf KI-Anwendungen spezialisiert hat.
Das umfangreiche Partnernetzwerk des Unternehmens fördert die Zusammenarbeit und Innovation bei der Entwicklung neuer Produkte.
Darüber hinaus zeichnet sich VMAccel durch seine Infrastruktur aus, die mit der Immersions-Flüssigkeitskühltechnologie arbeitet. Bei diesem innovativen Ansatz werden die Serverkomponenten direkt in eine nichtleitende Flüssigkeit getaucht, wodurch das Wärmemanagement und die Energieeffizienz erheblich verbessert werden.
Dank dieser Methode kann das VMAccel AI Data Center selbst bei den hohen Rechenanforderungen von KI und maschinellem Lernen eine optimale Hardwareleistung aufrechterhalten.
Sie reduziert auch die Umweltbelastung und senkt die Betriebskosten, was sie zu einem Eckpfeiler der Infrastruktur von VMAccel macht.
VMAccel-Funktionen
Durch die Zusammenarbeit mit mehreren Partnern entwickelt VMAccel kontinuierlich neue Dienste für KI-Workloads. Derzeit arbeiten sie an einem Mikro-Rechenzentrum , um KI-Tools und fortschrittliche Rechenkapazitäten an den Rand zu bringen.
„Wenn man sich die sich verändernde Landschaft für Unternehmen ansieht, muss man nur das Aufkommen der generativen KI betrachten, um zu erkennen, dass Innovation und Chancen nicht im Bereich der heutigen öffentlichen Clouds zu finden sind.
In Zeiten rasanter Innovationen müssen Unternehmen ihre Daten in ihre Nähe bringen und sich darauf konzentrieren, in bestehenden Abläufen Möglichkeiten zu finden, um in ihrem Markt zu expandieren und zu wachsen.„
Matt Fields, CEO von VMAccel AI Data Center
FishOS mit der intelligenten Cloud-Management-Plattform von Sardina Systems können Unternehmen von Open-Source-Software profitieren, ohne dass ihnen zusätzliche Kosten entstehen. Diese intelligente Software für das Infrastrukturmanagement optimiert die Bereitstellung, den Betrieb und die Leistung von großen Umgebungen.
Sie bietet eine umfassende Suite von Verwaltungstools, die die Orchestrierung, Automatisierung und Optimierung von Cloud-Ressourcen vereinfachen. FishOS passt sich nahtlos an wachsende Anforderungen an und ist damit eine ideale Lösung für Unternehmen, die das volle Potenzial von Open-Source-Lösungen nutzen möchten.
FishOS Produkt Schema
Hochskalieren: Von 10 auf 19 Rechenknoten
Ursprünglich hatte VMAccel AI Data Center seine eigene OpenStack-Cloud verwaltet und ein internes Support-Team unterhalten. Schließlich erwies sich dieser aufwändige Ansatz als unpassend für das Kerngeschäft des Unternehmens. Deshalb suchte das Unternehmen nach einem zuverlässigen Anbieter, den es in Sardina Systems fand.
FishOS wurde auf einem System mit 10 Rechenknoten unter Verwendung von CPU-, GPU- und FPGA-Technologien eingesetzt. Diese grundlegende Einrichtung stellte sicher, dass die Software die vielfältigen Rechenanforderungen von KI, maschinellem Lernen, Genomik und Finanzen effektiv bewältigen konnte. Durch den erfolgreichen Einsatz von FishOS wurde eine wichtige Grundlage für Leistung und Zuverlässigkeit geschaffen, die Möglichkeiten für eine zukünftige Skalierung bietet.
Als die Rechenanforderungen von VMAccel stiegen, beschlossen sie, das System um 9 Knoten zu erweitern und damit ihre Infrastruktur fast zu verdoppeln.
Dies war mehr als nur ein quantitativer Zuwachs an Hardware: Es war eine erhebliche Verbesserung der Fähigkeiten des Systems.
Um eine erfolgreiche Ausführung zu gewährleisten, wurde FishOS zunächst auf seine Skalierbarkeit getestet, ohne den laufenden Betrieb zu unterbrechen.
Nachdem die Tests abgeschlossen waren, fuhr das Team mit der Planung des eigentlichen Upgrades fort.
Der Upgrade-Prozess wurde sorgfältig geplant, wobei der Schwerpunkt auf der Fähigkeit von FishOS lag, neue Knotenpunkte nahtlos zu integrieren.
Die flexible Architektur der Plattform und die fortschrittlichen Verwaltungsfunktionen führten schließlich zu einer einwandfreien Ausführung.
Neue Rechenknoten wurden erfolgreich hinzugefügt, und das System wurde von 10 auf 19 Knoten erweitert.
Noch wichtiger ist, dass das Upgrade ohne Betriebsunterbrechung durchgeführt wurde.
Dies ist ein entscheidender Faktor in Branchen, in denen selbst minimale Unterbrechungen zu erheblichen Betriebsverlusten führen können.
Cloud-Dynamik und System-Upgrades von VMAccel
VMAccel AI Data Center hebt sich in der Cloud Computing-Landschaft durch die Bereitstellung einer beschleunigten Cloud als Service ab.
Es handelt sich um eine Umgebung, in der virtuelle Maschinen (VMs) kontinuierlich erstellt und außer Betrieb genommen werden.
Dies ist besonders wichtig für Unternehmen, die mit schnell schwankenden Arbeitslasten zu tun haben und für die die Betriebszeit und die Skalierbarkeit der Systeme oberste Priorität haben.
In diesem Ökosystem können VMs eine Lebensdauer von Wochen bis Monaten haben, was ein äußerst anpassungsfähiges und robustes Verwaltungssystem erfordert.
FishOS eignet sich hervorragend für diese beschleunigte Cloud-as-a-Service-Konfiguration.
Dank seiner robusten Architektur kann die Plattform verschiedene Systemlasten bewältigen und gleichzeitig eine hohe Leistung und Stabilität gewährleisten.
Dies ist besonders wichtig für Aufgaben wie KI-Berechnungen und anspruchsvolle Hardwareimplementierungen.
Darüber hinaus wird die Stabilität und Zuverlässigkeit der Plattform durch die Verwendung von OpenStack, einem führenden Open-Source-Projekt, gewährleistet.
FishOS ermöglicht es Cloud-Betreibern, virtuelle Maschinen mit nur wenigen Klicks in der Benutzeroberfläche schnell zu erstellen und zu skalieren und sich nahtlos an schwankende Anforderungen an Rechenressourcen anzupassen.
System-Upgrades
Im Rahmen seines Engagements, die beste Cloud-Erfahrung zu bieten, aktualisiert VMAccel AI Data Center seine Systeme, um sicherzustellen, dass sie sicher sind und die neuesten Funktionen enthalten. Im Jahr 2023 haben sie mit Sardina Systems zusammengearbeitet, um ein Zero-Downtime-Upgrade auf die neueste OpenStack Zed-Version durchzuführen. Es brachte eine Reihe neuer Funktionen, verbesserte Leistung und erhöhte Skalierbarkeit. Das Upgrade bot außerdem erweiterte Sicherheitsfunktionen sowie neue APIs und Integrationen. Das neue System-Upgrade wird in Kürze verfügbar sein.
Das erfolgreiche Upgrade wurde durch den FishOS Upgrader gewährleistet, eine einzigartige Komponente, die einen reibungslosen Upgrade-Prozess ohne Betriebsunterbrechung garantiert .
FishOS Upgrader Schema
- Sobald eine neue OpenStack-Version verfügbar ist, bereitet das Team von Sardina Systems die neuen Daten für die Integration vor und gleicht sie mit den vorkonfigurierten Vorlagen und Variablen des FishOS Upgrader ab.
- Der nächste Schritt umfasst eine Reihe von individuell entwickelten Ansible-basierten Playbooks und Rollen zur Konfiguration der Systemeinstellungen. Die Komponente richtet die erforderlichen Einstellungen ein und sorgt für ein reibungsloses Upgrade ohne Unterbrechung des laufenden Betriebs. Dieser vollständig automatisierte Prozess aktualisiert die Pakete und Daten Schritt für Schritt und führt je nach den spezifischen Systemanforderungen zusätzliche Operationen durch.
- Am Ende überprüft der FishOS Upgrader automatisch, ob alle Dienste in Betrieb sind, und führt einen nahtlosen Übergang aller Dienste auf die neue OpenStack-Version durch.
FishOS-Umgebung für den reibungslosen Betrieb der Accelerated Cloud
Die flüchtige Natur von VMs in beschleunigten Cloud-Umgebungen stellt einzigartige Herausforderungen dar. Die Betreiber benötigen eine intuitive und dennoch vertraute Umgebung, die die Verwaltung von Cloud-Ressourcen und Berechnungen vereinfacht. Dieses Bedürfnis nach Einfachheit und Vertrautheit ist entscheidend für die Gewährleistung von Effizienz und die Minimierung der Lernkurve, die mit der Verwaltung komplexer Cloud-Infrastrukturen verbunden ist.
FishOS, das von Sardina Systems entwickelt wurde und auf OpenStack basiert, dient als Eckpfeiler der Lösung.
Es ist vorkonfiguriert und richtet sich sowohl an erfahrene OpenStack-Nutzer als auch an Neueinsteiger.
Für diejenigen, die mit OpenStack vertraut sind, bietet FishOS einen unkomplizierten Übergang, so dass sie vom ersten Tag an effektiv mit der Plattform arbeiten und ihr Fachwissen nutzen können.
Neueinsteiger wiederum profitieren von dem benutzerfreundlichen Design von FishOS, das die Komplexität von OpenStack abstrahiert und gleichzeitig den Zugang zu allen Funktionen ermöglicht.
Angebot von Sardina Systems
Die Benutzerfreundlichkeit von FishOS hat sich für viele Innovatoren und Start-ups, die VMAccel unterstützt hat, als entscheidender Vorteil erwiesen. Darüber hinaus hat das Team von VMAccel dank der integrierten Skripting- und Deployment-Tools die Projekte der Kunden in schnellen Iterationszyklen vorantreiben können.
Darüber hinaus schaltet die FishOS-Lizenz unbegrenzte Beratungen durch das technische Support-Team von Sardina Systems frei.
Diese Funktion ist besonders wertvoll für Betreiber, die neu in OpenStack sind, da sie ihre Erfahrungen mit der Open-Source-Software erheblich vereinfacht.
Sie können sich auf fachkundige Anleitung und Unterstützung verlassen, um ihren Betrieb innerhalb der dynamischen Cloud-Umgebung von VMAccel zu optimieren.
Gesundheitsüberwachung für unterbrechungsfreien Betrieb bei VMAccel
VMAccel AI Data Center profitiert auch von dem fortschrittlichen Health Monitoring Service von Sardina Systems, der eine stabile Leistung und einen unterbrechungsfreien Betrieb gewährleistet. Der einzigartige Service ist eine ausgeklügelte Kombination aus Open-Source-Softwarekomponenten und der proprietären Health Engine von Sardina Systems.
FishOS Health Monitoring ist ein einzigartiger, umfassender Satz von Komponenten, der die Cloud-Infrastruktur vor Ausfällen schützt. Seine datengesteuerten Algorithmen sagen kritische Systemzustände voraus und beugen ihnen vor.
Mehrere Komponenten innerhalb der Gesundheitsüberwachung sammeln Metriken und Protokolle und analysieren sie mit proprietären intelligenten Algorithmen, um potenzielle Gesundheitsprobleme vorherzusagen. Sie können Millionen von Datenpunkten pro Sekunde verarbeiten.
Wenn das System in Gefahr ist, benachrichtigt die Komponente den Administrator, damit er handeln kann, um einen Ausfall zu vermeiden.
Für das KI-Rechenzentrum und die KI-Infrastruktur von VMAccel ist ein unterbrechungsfreier Betrieb von entscheidender Bedeutung, da ihre globalen Kunden in hohem Maße auf eine unterbrechungsfreie Bereitstellung angewiesen sind. Die FishOS-Plattform sorgt dafür, dass es zu keinerlei Unterbrechungen kommt, während der Support von Sardina Systems eine schnelle Reaktion auf potenzielle Bedrohungen für die Workloads der Kunden garantiert.
Was passiert, wenn das System ausfällt?
Selbst mit der fortschrittlichsten Überwachung können unerwartete Situationen eintreten. Ein solches Ereignis ereignete sich einmal im VMAccel AI-Rechenzentrum, als ein längerer Stromausfall im Gebäude dazu führte, dass das gesamte System, einschließlich der Controller, ausfiel.
Zitat von VMAccel
Herausforderung und Lösung für die Controller: FishOS verfügt standardmäßig über eine Hochverfügbarkeitsarchitektur, die das System vor verschiedenen Situationen schützt, einschließlich längerer Stromausfälle. Das einzige Szenario, von dem sich FishOS nicht erholen kann, ist der physische Verlust von Servern, der nur in außergewöhnlichen Situationen auftritt.
Die Cloud-Architektur ist so konzipiert, dass sie Probleme wie Stromausfälle voraussehen kann.
Wir verwenden mindestens drei Controller, um das System gleichzeitig zu verwalten.
Diese Controller sind austauschbar und spiegeln sich gegenseitig.
Wenn die Funktionalität zu irgendeinem Zeitpunkt unterbrochen wird, kann das System die neueste Version erkennen und alle Controller in den erforderlichen Zustand zurückversetzen .
Der Neustart des Systems nach einem größeren Stromausfall dauert durchschnittlich 5-15 Minuten.
Die Steuerungen sind jedoch nicht der am meisten gefährdete Teil des Systems bei plötzlichen Stromausfällen. Das Hauptrisiko für Benutzerdaten liegt bei den Speichergeräten. Innerhalb eines Systems sind die Speicherplatten in der Regel die langsamste Hardwarekomponente.
Um die Systemleistung zu verbessern, werden die Daten normalerweise über den Cache-Speicher auf die Festplatte geschrieben.
Herausforderung bei der Speicherung: Daten werden in einen Puffer eingegeben, dann verarbeitet die Festplatte sie und schreibt sie auf das permanente Speichergerät.
Ein plötzlicher Stromausfall kann verhindern, dass die im Puffer verbliebenen Daten auf die Festplatte geschrieben werden, was zu einem Datenverlust führt.
Dies ist ein häufiges Problem und leider oft unwiderruflich.
Lösungen: Um dieses Problem zu lösen und die Daten unserer Kunden zu schützen, hat Sardina Systems FishOS Ceph entwickelt . FishOS kann zwar mit jeder Speicherlösung arbeiten, wir empfehlen jedoch Ceph, die führende Open-Source-Software-definierte Speicherlösung.
Dieses verteilte Speichersystem schreibt Daten direkt auf die Festplatte und umgeht so den Puffer, während es gleichzeitig eine hohe Leistung und Zuverlässigkeit bietet.
FishOS Ceph, das in unsere Software integriert ist, geht über die Datenspeicherung hinaus.
Es wird auch für Controller-Operationen verwendet.
Diese Architektur gewährleistet einen reibungslosen Betrieb auch bei erheblichen Stromausfällen.
Transparente Lizenzbedingungen und die Macht von Open Source
VMAccel arbeitet mit einer großen Anzahl von Kunden aus verschiedenen Branchen zusammen. Für sie sind ein strategischer Ansatz bei der Budgetierung und eine langfristige Planung von entscheidender Bedeutung. Dank einer effizienten Kombination aus Open-Source-Technologien und den proprietären Lösungen von Sardina Systems kann VMAccel AI Data Center seinen Kunden faire Preise, Zugang zu den neuesten Technologien und Freiheit von Herstellerbindung bieten.
Zitat von VMAccel
Ein bemerkenswerter Vorteil des FishOS-Lizenzierungsmodells ist seine Unabhängigkeit von der Hardware-Preisgestaltung.
Sardina Systems behält eine konsistente Preisstruktur pro Kern bei, unabhängig von der verwendeten Hardware, was es sowohl für beschleunigte als auch für traditionelle Cloud-Umgebungen kosteneffizient macht.
Dadurch wird sichergestellt, dass die Kunden von den leistungsstarken Cloud-Funktionen profitieren können, ohne dass ihnen die mit beschleunigten Computing-Umgebungen typischerweise verbundenen Zusatzkosten entstehen.
Im Gegensatz zu vielen proprietären Plattformen, bei denen versteckte Kosten und zusätzliche Gebühren für wesentliche Dienste schnell eskalieren können, bietet FishOS vollständige Transparenz und Vorhersehbarkeit.
Es bietet alles, was Sie brauchen, zu einem Festpreis für die gesamte Lizenzdauer, die bis zu 5 Jahre betragen kann.
Darüber hinaus sind in allen FishOS-Lizenzstufen umfassender Support, Beratung bei der Infrastrukturentwicklung und System-Upgrades enthalten – ohne zusätzliche Kosten.