À medida que indústrias em todo o mundo adotam tecnologias de uso intensivo de dados como IA, aprendizagem automática e análise em tempo real, a procura por computação em nuvem acelerada por GPU está a crescer rapidamente. Nem todas as plataformas conseguem proporcionar o desempenho e a flexibilidade que estas cargas de trabalho exigem. O FishOS da Sardina Systems altera isso, facilitando aos operadores a construção e gestão de nuvens escaláveis potenciadas por GPU.
A computação em nuvem acelerada por GPU aproveita o poder das Unidades de Processamento Gráfico (GPUs) para acelerar drasticamente as cargas de trabalho que requerem processamento paralelo em larga escala. Em comparação com as CPUs, as GPUs são otimizadas para lidar com milhares de tarefas simultaneamente, tornando-as ideais para tarefas de computação de alto desempenho como o treino de modelos de IA, a execução de simulações ou a realização de análises de dados em larga escala.
À medida que a necessidade de insights em tempo real e computação de alta velocidade cresce, mais empresas (e não apenas gigantes tecnológicos!) estão a adotar plataformas de nuvem potenciadas por GPU para atender a essas exigências com maior desempenho e flexibilidade. Desde o treino de modelos de IA/AM e análise de dados em larga escala até simulações científicas e renderização em tempo real, muitas indústrias dependem agora de GPUs para processar grandes volumes de dados de forma rápida e fiável.
O requisito fundamental para estas empresas é simples: proporcionar aos utilizadores acesso ao hardware de forma flexível e fiável, a um custo otimizado. Quer seja executado em bare metal, máquinas virtuais ou contentores com Kubernetes, é crucial utilizar a potência do GPU sem abrandamentos.
Alcançar o desempenho da nuvem GPU sem complicações de licenciamento
A NVIDIA estabeleceu-se como líder em infraestrutura GPU, particularmente em IA e computação de alto desempenho. O seu ecossistema, suportado por frameworks como CUDA, cuDNN e o SDK de Aprendizagem Profunda, é amplamente adotado em várias indústrias. No entanto, por exemplo, as aplicações baseadas em CUDA podem ser executadas em diferentes modelos de implementação, como PCI passthrough ou virtualização, sem estarem vinculadas a estruturas de licenciamento específicas da NVIDIA.
Embora o hardware da NVIDIA seja reconhecido pelo seu desempenho, as suas licenças de software, especialmente para virtualização, podem ser dispendiosas e ocasionalmente menos produtivas, especialmente em ambientes de grande escala onde problemas de licenciamento podem levar a desempenho degradado do GPU se não forem geridos adequadamente. Por exemplo, se uma máquina virtual não conseguir adquirir uma licença válida, o desempenho do GPU pode degradar-se após 20 minutos, e a funcionalidade CUDA pode ser desativada após 24 horas. Embora a NVIDIA possa melhorar estas questões no futuro, os fornecedores de serviços devem gerir estes riscos atualmente.
Na prática, muitos fornecedores de serviços em nuvem, particularmente aqueles focados na fiabilidade, procuram alternativas para minimizar a dependência de software de virtualização licenciado. Por exemplo, o acesso dedicado ao GPU através de PCI passthrough oferece uma forma direta, económica e robusta de atribuir recursos GPU a máquinas virtuais ou contentores. Esta abordagem não requer o software vGPU licenciado da NVIDIA.
A plataforma de gestão de nuvem FishOS oferece compatibilidade com o software da NVIDIA, permitindo aos utilizadores tirar partido das ferramentas de aceleração GPU da NVIDIA, se necessário. No entanto, o FishOS não depende do software da NVIDIA para proporcionar uma experiência completa de nuvem acelerada por GPU.
Uma plataforma agnóstica em termos de hardware e compatível com GPU
O FishOS da Sardina Systems foi concebido para ser agnóstico em termos de hardware. Quer esteja a trabalhar com NVIDIA, AMD ou outros fornecedores, esta solução em nuvem pode gerir eficazmente cargas de trabalho GPU.
Embora o FishOS não replique todas as funcionalidades específicas de gestores de clusters de terceiros como o NVIDIA FleetCommand ou o Bright Cluster Manager, proporciona alternativas equivalentes através de uma poderosa combinação de ferramentas abertas e integração nativa:
Esta abordagem modular e aberta significa que, mesmo que falte uma funcionalidade específica de terceiros, o FishOS oferece formas flexíveis e fiáveis de alcançar os mesmos objetivos.
Ao integrar ferramentas de código aberto como o OpenStack e o Kubernetes, o FishOS oferece aos operadores uma plataforma flexível e robusta para construir e gerir ambientes alimentados por GPU em metal nu, máquinas virtuais ou contentores:
- O Nova permite a utilização de GPU em máquinas virtuais através de passagem PCI.
- O Ironic aprovisiona servidores de metal nu com acesso direto a GPU.
- O Magnum suporta clusters Kubernetes que podem executar cargas de trabalho GPU em larga escala.
Esta flexibilidade significa que os operadores não têm de se limitar a um único fornecedor ou ecossistema. Em vez disso, podem construir a sua pilha com base no desempenho, fiabilidade e eficiência de custos.
Muitas plataformas populares, como o Red Hat OpenShift ou o Ubuntu OpenStack da Canonical, utilizam implementações containerizadas do OpenStack para oferecer flexibilidade e portabilidade de aplicações. Esta configuração adequa-se a ambientes onde a agilidade e a escalabilidade das cargas de trabalho são prioridades fundamentais.
No entanto, para os fornecedores de serviços focados em fornecer acesso dedicado a GPU, alto desempenho e tempo de atividade, uma implementação em metal nu pode ser mais adequada. O FishOS pode fornecer o OpenStack diretamente em metal nu, sem adicionar uma camada de contentores. Esta abordagem reduz a complexidade do sistema, minimiza o overhead e melhora a fiabilidade — tudo crucial para os operadores que visam otimizar o desempenho e reduzir os custos operacionais.
Ao fornecer aluguer de GPU em metal nu, por exemplo, o FishOS com Ironic permite a gestão direta do hardware sem a necessidade de orquestração de contentores.
Implementações de GPU que produzem resultados: flexibilidade e controlo total com o FishOS
Os clientes do FishOS em todo o mundo aproveitam os recursos GPU através de passagem PCI, evitando restrições de licenciamento enquanto mantêm o desempenho e a flexibilidade.
A VMAccel, uma fornecedora global de infraestrutura de IA, opera um ambiente gerido pelo FishOS com 19 nós de computação com tecnologias GPU e FPGA. A sua nuvem suporta cargas de trabalho exigentes em IA, aprendizagem automática, genómica e finanças, onde as máquinas virtuais são continuamente iniciadas e desativadas para corresponder à procura dinâmica. O FishOS assegura elevado tempo de atividade, escalabilidade e agilidade operacional em todo este ambiente de rápida evolução.
Outro exemplo é a Universidade de Tübingen, uma das principais instituições de investigação da Alemanha. A sua infraestrutura alimentada pelo FishOS suporta cargas de trabalho GPU tanto em hipervisores como em metal nu, permitindo projetos críticos em imagiologia médica, investigação do cancro, análise da atividade cerebral, simulação climática e muito mais. Para otimizar o desempenho, os nós GPU são priorizados para tarefas intensivas, enquanto os nós CPU gerem conjuntos de dados e outras funções padrão. A sua arquitetura híbrida integra implementações de virtualização e metal nu, suportadas por armazenamento Ceph para arquivo.
A plataforma da Sardina Systems também suporta multi-tenancy hierárquica, permitindo aos fornecedores de serviços hospedar múltiplas empresas, departamentos e utilizadores com controlo de acesso granular e quotas de recursos em todos os níveis.
Com o FishOS, os fornecedores de serviços não precisam de comprometer entre desempenho, custo e flexibilidade. Quer esteja a construir uma nuvem para investigação em IA, a oferecer ambientes de trabalho virtuais alimentados por GPU, ou a lançar HPC-as-a-Service, o FishOS fornece-lhe as ferramentas para:
- Executar qualquer fornecedor de GPU (NVIDIA, AMD e outros)
- Evitar limitações de licenciamento e reduzir o TCO
- Implementar em larga escala, sem complexidade adicional da plataforma
Fale com os nossos especialistas e descubra como o FishOS pode ajudá-lo a implementar uma nuvem GPU de alto desempenho e eficiente em termos de custos. Agende uma consulta gratuita hoje.