Este estudo de caso explora a parceria estratégica entre a Sardina Systems e a VMAccel – infraestrutura global de IA e centro de dados de IA. Destaca a forma como os seus esforços com a nuvem acelerada promoveram a inovação e o avanço tecnológico em vários sectores.
Desde 2021, a Sardina Systems e a VMAccel têm vindo a colaborar para fornecer um poder de computação robusto a uma série de indústrias, incluindo inteligência artificial (IA), aprendizagem automática, genómica e finanças.
Esta parceria utiliza o potencial máximo de um sistema gerido por FishOS, composto por 19 nós de computação equipados com tecnologias GPU e FPGA.
Entre os clientes da VMAccel encontram-se marcas notáveis como a Universidade de Yale, a Hedgehog, a Aleo e muitas outras.
Durante toda a cooperação, a FishOS manteve operações ininterruptas, demonstrando a sua eficiência e fiabilidade.
Sobre os participantes no estudo de caso
VMAccel é um centro de dados especializado em aplicações de IA.
A sua extensa rede de parceiros promove a colaboração e a inovação para criar novos produtos.
Além disso, o VMAccel destaca-se pela sua infraestrutura, que utiliza tecnologia de arrefecimento líquido por imersão. Esta abordagem inovadora implica submergir os componentes do servidor diretamente num líquido não condutor, melhorando consideravelmente a gestão térmica e a eficiência energética.
O método permite ao VMAccel AI Data Center manter o desempenho ideal do hardware , mesmo sob as intensas exigências computacionais das cargas de trabalho de IA e de aprendizagem automática.
Reduz também o impacto ambiental e os custos operacionais, tornando-o um aspeto fundamental da infraestrutura da VMAccel.
Caraterísticas do VMAccel
Através da colaboração com vários parceiros, o VMAccel está continuamente a desenvolver novos serviços para cargas de trabalho de IA. Atualmente, estão a trabalhar num microcentro de dados para trazer ferramentas de IA e capacidades de computação avançadas para o limite.
“Olhando para o cenário em mudança para os negócios, basta olhar para o advento da IA generativa para perceber que a inovação e a oportunidade não serão encontradas no domínio das nuvens públicas de hoje.
Em tempos de inovação rápida, as empresas devem trazer seus dados para perto de si e se concentrar em encontrar oportunidades nas operações existentes para expandir e crescer em seu mercado.“
Matt Fields, CEO do VMAccel AI Data Center
FishOS a plataforma de gestão inteligente da nuvem da Sardina Systems permite que as organizações beneficiem de software de código aberto sem incorrer em custos adicionais. Este software inteligente de gestão de infra-estruturas optimiza a implementação, a operação e o desempenho de ambientes de grande escala.
Fornece um conjunto abrangente de ferramentas de gerenciamento que simplificam a orquestração, a automação e a otimização dos recursos da nuvem. Notavelmente, o FishOS adapta-se perfeitamente às necessidades crescentes, tornando-o uma solução ideal para empresas que procuram utilizar todo o potencial das soluções de código aberto.
Esquema de produtos FishOS
Aumenta a escala: De 10 a 19 nós de computação
Inicialmente, o VMAccel AI Data Center geria a sua própria nuvem OpenStack, mantendo uma equipa de suporte interna. Eventualmente, essa abordagem onerosa mostrou-se desalinhada com o seu negócio principal. Isso levou a empresa a procurar um fornecedor fiável, que encontrou na Sardina Systems.
O FishOS foi implementado num sistema com 10 nós de computação que utilizam tecnologias CPU, GPU e FPGA. Esta configuração fundamental garantiu que o software pudesse gerir eficazmente as diversas exigências computacionais de IA, aprendizagem automática, genómica e finanças. A implementação bem-sucedida do FishOS estabeleceu uma importante linha de base de desempenho e fiabilidade, proporcionando oportunidades para escalas futuras.
Como as exigências computacionais do VMAccel aumentaram, decidiram expandir o sistema adicionando 9 nós, quase duplicando a sua infraestrutura.
Isto foi mais do que um simples aumento quantitativo de hardware: foi uma melhoria significativa das capacidades do sistema.
Para garantir uma execução bem-sucedida, o FishOS foi primeiro testado quanto à sua capacidade de escalar sem interromper as operações em curso.
Após a conclusão dos testes, a equipa começou a planear a atualização.
O processo de atualização foi meticulosamente planeado, com um enfoque fundamental na capacidade do FishOS para integrar sem problemas novos nós.
Por fim, a arquitetura flexível da plataforma e as funcionalidades de gestão avançadas resultaram numa execução sem falhas.
Novos nós de computação foram adicionados com sucesso, e o sistema expandiu-se de 10 para 19 nós.
Mais importante ainda, a atualização foi executada sem qualquer tempo de inatividade operacional.
Este é um fator crítico em indústrias onde mesmo interrupções mínimas podem levar a perdas operacionais significativas.
Dinâmica da nuvem do VMAccel e actualizações do sistema
O VMAccel AI Data Center destaca-se no cenário da computação em nuvem ao fornecer nuvem acelerada como serviço.
É um ambiente em que as máquinas virtuais (VMs) são continuamente criadas e desativadas.
Isso é especialmente importante para as empresas que lidam com cargas de trabalho que flutuam rapidamente, para as quais o tempo de atividade e as oportunidades de escalabilidade dos sistemas são as principais prioridades.
Neste ecossistema, as VMs podem ter períodos de vida que variam de semanas a meses, o que requer um sistema de gestão altamente adaptável e robusto.
FishOS destaca-se nesta configuração acelerada de cloud-as-a-service.
A sua arquitetura robusta permite que a plataforma lide com diversas cargas de sistema, garantindo simultaneamente um elevado desempenho e estabilidade.
Isto é especialmente importante para tarefas como cálculos de IA e implementações de hardware sofisticadas.
Além disso, a estabilidade e a fiabilidade da plataforma são ainda mais asseguradas pela sua dependência do OpenStack, um projeto líder de código aberto.
O FishOS permite aos operadores da nuvem criar e escalar rapidamente máquinas virtuais com apenas alguns cliques na interface, adaptando-se perfeitamente às flutuações da procura de recursos computacionais.
Actualizações do sistema
Como parte do seu compromisso de fornecer a melhor experiência de nuvem, o VMAccel AI Data Center actualiza os seus sistemas para garantir que são seguros e incluem as funcionalidades mais recentes. Em 2023, colaborou com a Sardina Systems para efetuar uma atualização sem tempo de inatividade para a versão mais recente do OpenStack Zed. Trouxe uma série de novas funcionalidades, melhor desempenho e maior escalabilidade. A atualização também forneceu funcionalidades de segurança avançadas e novas APIs e integrações. A atualização dos novos sistemas está para breve.
A atualização bem sucedida foi assegurada pelo FishOS Upgrader, um componente único que garante um processo de atualização sem problemas e sem tempo de inatividade operacional.
Esquema de atualização do FishOS
- Quando uma nova versão do OpenStack está disponível, a equipa da Sardina Systems prepara os novos dados para integração e alinha-os com modelos e variáveis pré-configurados do FishOS Upgrader.
- O passo seguinte envolve um conjunto personalizado de manuais e funções baseados em Ansible para configurar as definições do sistema. O componente define as definições necessárias, garantindo uma atualização sem problemas e sem perturbar as operações em curso. Este processo totalmente automatizado actualiza os pacotes e os dados passo a passo e executa operações adicionais, com base nos requisitos específicos do sistema.
- No final, o FishOS Upgrader verifica automaticamente se todos os serviços estão a funcionar e procede à transição perfeita de cada um deles para a nova versão do OpenStack.
Ambiente FishOS para o bom funcionamento da Nuvem Acelerada
A natureza transitória das VMs em ambientes de nuvem acelerada apresenta desafios únicos. Os operadores precisam de uma configuração intuitiva e familiar que simplifique o gerenciamento e os cálculos dos recursos da nuvem. Essa necessidade de simplicidade e familiaridade é fundamental para garantir a eficiência e minimizar a curva de aprendizado associada ao gerenciamento de infraestruturas de nuvem complexas.
O FishOS, desenvolvido pela Sardina Systems e baseado no OpenStack, serve como uma solução fundamental.
Está pré-configurado para satisfazer tanto os utilizadores experientes do OpenStack como os recém-chegados.
Para os que estão familiarizados com o OpenStack, o FishOS proporciona uma transição simples, permitindo-lhes trabalhar eficazmente com a plataforma e utilizar os seus conhecimentos desde o primeiro dia.
Os recém-chegados, por sua vez, se beneficiam do design amigável do FishOS, que abstrai as complexidades do OpenStack enquanto fornece acesso a todos os seus recursos.
Orçamento da Sardina Systems
A facilidade de uso do FishOS tem sido um divisor de águas para muitos inovadores e start-ups que a VMAccel ajudou. Além disso, as ferramentas integradas de scripting e de implementação permitiram à equipa da VMAccel fazer avançar os projectos dos clientes em ciclos de iteração rápidos.
Além disso, a licença FishOS desbloqueia consultas ilimitadas da equipa de apoio técnico da Sardina Systems.
Esta funcionalidade é particularmente valiosa para os operadores novos no OpenStack, uma vez que simplifica drasticamente a sua experiência com software de código aberto.
Eles podem contar com orientação e suporte especializados para otimizar suas operações no ambiente dinâmico de nuvem do VMAccel.
Monitorização de saúde para operações ininterruptas no VMAccel
O VMAccel AI Data Center também beneficia do avançado Health Monitoring Service da Sardina Systems, que garante um desempenho estável e operações ininterruptas. O serviço exclusivo é uma combinação sofisticada de componentes de software de código aberto e do Health Engine proprietário da Sardina Systems.
O FishOS Health Monitoring é um conjunto único e abrangente de componentes que protege a infraestrutura da nuvem contra falhas. Os seus algoritmos orientados por dados prevêem e previnem estados críticos do sistema.
Vários componentes da Monitorização da Saúde recolhem métricas e registos e analisam-nos com algoritmos inteligentes proprietários para prever potenciais problemas de saúde. Podem processar milhões de pontos de dados por segundo.
Se o sistema estiver em perigo, o componente notifica o administrador para que este possa agir de forma a evitar falhas.
Para o Centro de Dados e Infra-estruturas de IA da VMAccel, as operações contínuas são críticas, uma vez que os seus clientes globais dependem fortemente de implementações ininterruptas. A plataforma FishOS assegura zero interrupções, enquanto o suporte da Sardina Systems garante respostas rápidas a quaisquer potenciais ameaças colocadas aos workloads dos clientes.
E se o sistema for abaixo?
Mesmo com a monitorização mais avançada, podem ocorrer situações inesperadas. Este tipo de situação ocorreu uma vez no centro de dados VMAccel AI, quando uma falha de energia prolongada do edifício provocou a queda de todo o sistema, incluindo os controladores.
Citação de VMAccel
Desafio e solução dos controladores: Por defeito, o FishOS tem uma arquitetura de alta disponibilidade, que ajuda a proteger o sistema de várias situações, incluindo falhas de energia prolongadas. O único cenário do qual o FishOS não consegue recuperar é a perda física de servidores, o que só acontece em situações extraordinárias.
A arquitetura da nuvem foi concebida para antecipar problemas como falhas de energia.
Utilizamos um mínimo de três controladores para gerir o sistema em simultâneo.
Estes controladores são intermutáveis e reflectem-se uns aos outros.
Se a funcionalidade for interrompida em qualquer fase, o sistema pode identificar a versão mais recente e repor todos os controladores no estado necessário.
Reiniciar o sistema após uma falha de energia significativa demora em média 5 a 15 minutos.
No entanto, os controladores não são a parte mais vulnerável do sistema durante as falhas de energia súbitas. O principal risco para os dados do utilizador reside nos dispositivos de armazenamento. Dentro de um sistema, os discos de armazenamento são normalmente o componente de hardware mais lento. Para melhorar o desempenho do sistema, os dados são normalmente escritos no disco através da memória cache.
Desafio de armazenamento: os dados entram num buffer, depois o disco processa e grava-os no dispositivo de armazenamento permanente. Uma falha de energia súbita pode impedir que os dados que permanecem no buffer sejam gravados no disco, resultando em perda de dados. Este é um problema comum e, infelizmente, muitas vezes irrevogável.
Soluções: Para resolver este problema e proteger os dados dos nossos clientes, a Sardina Systems desenvolveu o FishOS Ceph. Embora o FishOS possa funcionar com qualquer solução de armazenamento, recomendamos o Ceph, a principal solução de armazenamento definido por software de código aberto. Este sistema de armazenamento distribuído grava os dados diretamente no disco, ignorando o buffer, mantendo um elevado desempenho e fiabilidade.
O FishOS Ceph, integrado no nosso software, vai para além do armazenamento de dados. Utiliza-o também para as operações do controlador. Esta arquitetura garante um funcionamento sem problemas, mesmo durante falhas de energia significativas.
Termos de Licença Transparentes e o Poder do Código Aberto
O VMAccel trabalha com um grande número de clientes de vários sectores de atividade. Para eles, uma abordagem estratégica à orçamentação e ao planeamento a longo prazo é crucial. Uma combinação eficiente de tecnologias de código aberto e soluções proprietárias da Sardina Systems permitiu que o VMAccel AI Data Center oferecesse aos seus clientes preços justos, acesso às tecnologias mais recentes e liberdade em relação ao bloqueio do fornecedor.
Citação de VMAccel
Uma vantagem notável do modelo de licenciamento FishOS é a sua independência do preço do hardware.
A Sardina Systems mantém uma estrutura de preços consistente por núcleo, independentemente do hardware utilizado, tornando-o rentável tanto para ambientes de nuvem acelerados como tradicionais.
Isto garante que os clientes podem beneficiar de capacidades de nuvem de elevado desempenho sem incorrerem em custos adicionais normalmente associados a ambientes de computação acelerada.
Ao contrário de muitas plataformas proprietárias, onde custos ocultos e taxas extras para serviços essenciais podem aumentar rapidamente, FishOS oferece total transparência e previsibilidade.
Fornece tudo o que é necessário a um preço fixo para todo o período de licença, que pode se estender até 5 anos.
Além disso, todos os níveis de licença FishOS incluem suporte abrangente, consultas de desenvolvimento de infraestrutura e atualizações de sistema – sem custo adicional.