Descobre como transformar a tua infraestrutura de cloud para cargas de trabalho de IA: do custo à poupança de recursos.
Esta é uma cópia de um artigo que foi publicado no Spiceworks. Clica aqui para ler a versão original.
Kenneth Tan, doutorado, diretor executivo e líder de tecnologia multilingue da Sardina Systems, analisa a necessidade crescente de as empresas integrarem habilmente a IA nas suas operações, oferecendo ideias estratégicas sobre a criação de uma infraestrutura de IA robusta para desbloquear todo o seu potencial de inovação e eficiência empresarial.
Nos últimos anos, a rápida expansão da inteligência artificial (IA) revolucionou o mundo empresarial, criando uma procura de capacidades de IA que muitas vezes ultrapassam as estratégias organizacionais existentes. Isto levou as empresas a procurar formas eficazes de integrar a IA nas suas operações.
Como e por onde se deve começar com a infraestrutura de IA, concentrando-se numa estratégia a longo prazo para maximizar o potencial da IA?
As empresas estão cada vez mais a automatizar departamentos com IA e a integrar novas funcionalidades de IA nas suas aplicações. Apesar do crescimento da adoção da IA, conforme destacado pela pesquisa da McKinsey, que mostra um aumento significativo desde 2017, a aplicação de ferramentas de IA ainda depende em grande parte do uso pessoal e da otimização da rotina diária.
Ao mesmo tempo, a IA está a desenvolver-se rapidamente a nível empresarial. Os nossos clientes, incluindo os que oferecem IA como um serviço e os que incorporam IA nos seus produtos, ilustram a procura do mercado de ferramentas de IA facilmente integradas e o desenvolvimento de serviços inovadores, como o fornecimento de acesso a recursos computacionais aos investigadores.
Este artigo dirige-se tanto aos fornecedores de serviços como aos incorporadores de produtos e sublinha a importância de uma infraestrutura de TI bem planeada e escalável para evitar despesas desnecessárias e obsolescência devido à rápida evolução das tecnologias. Começar a viagem em direção à integração da infraestrutura de IA requer compreender as capacidades actuais e planear estrategicamente as necessidades futuras. Descrevemos cinco passos essenciais para navegar eficazmente neste processo.
1. Avaliação da infraestrutura atual
É imperativa uma abordagem estratégica à nuvem e à infraestrutura geral de TI.
As mudanças, especialmente na infraestrutura de TI principal, exigem uma avaliação abrangente do modelo de negócios e das cargas de trabalho previstas, talvez com anos de antecedência, destacando a importância crítica de um planejamento meticuloso na era da IA.
O passo inicial nessa transformação envolve a realização de uma avaliação aprofundada da infraestrutura de TI atual, identificando pontos fortes, fracos e lacunas em relação aos requisitos de IA.
Esta avaliação deve abranger o hardware (por exemplo, servidores, armazenamento, redes), o software (por exemplo, bases de dados, plataformas de aplicações) e as práticas de gestão de dados existentes.
Compreender o estado atual da infraestrutura de TI é essencial para planear as actualizações ou alterações necessárias para a adoção da IA.
Tradicionalmente, vários conceitos e estruturas ajudam as organizações a avaliar a sua infraestrutura de TI.
A utilização destas metodologias pode oferecer abordagens estruturadas para avaliar a eficácia, a eficiência, a segurança e o alinhamento dos sistemas de TI com os objectivos comerciais:
- Entre as metodologias clássicas, a ITIL (Information Technology Infrastructure Library) é particularmente relevante, uma vez que a integração da IA deve estar estreitamente alinhada com a estratégia empresarial. Desenvolvida pelo Governo do Reino Unido e actualizada regularmente, a ITIL oferece um quadro detalhado para a gestão de serviços de TI, de modo a alinhar os serviços de TI com as necessidades da empresa, abrangendo desde a conceção do serviço até à sua melhoria. Incentiva uma abordagem flexível à gestão de TI, com a ITIL 4 a proporcionar avanços significativos. Integrar a gestão com a tecnologia é essencial; um mero enfoque técnico pode perder impactos mais amplos, especialmente na integração da IA.
- Outro relevante é o COBIT, da Associação de Auditoria e Controlo de Sistemas de Informação, que fornece uma estrutura abrangente para a gestão e governação de TI empresarial, garantindo o alinhamento com os objectivos empresariais, a gestão de riscos e a otimização do desempenho. A utilização do COBIT garante que as actualizações de TI aumentam a eficiência e estão alinhadas com as melhores práticas de automatização e gestão.
2. Potência computacional e processadores de alto desempenho
A IA, e a aprendizagem profunda em particular, exige processadores com capacidades computacionais significativas, como as unidades de processamento gráfico (GPU), as unidades de processamento tensorial (TPU) ou as matrizes de portas programáveis em campo (FPGA).
O mercado do hardware está em constante evolução, com novos processadores e aceleradores concebidos para a IA a surgirem a nível mundial.
Uma dessas inovações recentes é o processador Gaudi3.
Embora possa ser prematuro adotar precipitadamente novos produtos, é sem dúvida crucial monitorizar o mercado de perto, manter-se informado sobre as novas soluções e explorar minuciosamente este sector.
As principais questões a considerar incluem a forma como estas novas ofertas diferem qualitativamente, que software é capaz de suportar tal infraestrutura e se as novas soluções podem abordar os actuais desafios enfrentados pelo teu sistema.
As GPUs são a escolha mais popular hoje em dia devido à sua ampla disponibilidade comercial e alto desempenho.
Ao selecionar uma GPU para a infraestrutura de IA, é importante considerar os requisitos específicos da tua carga de trabalho.
Isso inclui determinar se o foco está no treinamento ou na inferência, avaliar o tamanho e a complexidade de seus modelos, considerar as restrições de orçamento e avaliar o ecossistema de software.
As GPUs da NVIDIA, especialmente a A100, H100 ou H200, são altamente favorecidas na indústria pelo seu desempenho, suporte de software abrangente e funcionalidades especializadas de aceleração de IA.
No entanto, a AMD e a Intel estão a tornar-se alternativas cada vez mais viáveis, especialmente em cenários em que as suas funcionalidades únicas ou a relação custo-eficácia apresentam vantagens claras.
Outra consideração crítica é a capacidade de escalar recursos de acordo com as exigências da carga de trabalho.
Esta escalabilidade é essencial para gerir os custos e manter a eficiência ao longo das várias fases de desenvolvimento e implementação do modelo de IA.
Para ilustrar o papel crítico da escalabilidade nas operações de IA, considera a procura sazonal regular enfrentada pelas principais plataformas de comércio eletrónico.
A Amazon utiliza a IA para otimizar vários aspectos das suas operações, incluindo a gestão de inventário, recomendações personalizadas e logística.
Durante os períodos de pico de compras, como a Black Friday ou a Cyber Monday, a procura nos sistemas da Amazon aumenta drasticamente.
Para lidar com isso, a Amazon utiliza plataformas de computação em nuvem que permitem o dimensionamento dinâmico de recursos.
Esta escalabilidade é crucial para lidar com o aumento do tráfego e a gestão de custos.
Ao aumentar os recursos apenas quando necessário e reduzindo-os quando a procura diminui, a Amazon pode gerir eficazmente os custos sem sacrificar o desempenho.
Esta abordagem garante que a infraestrutura não é subutilizada durante as horas de vazio e sobrecarregada durante os períodos de elevada procura, mantendo um equilíbrio ótimo que apoia a inovação contínua orientada para a IA e a satisfação do cliente.
3. Armazenamento e gestão de grandes volumes
Os sistemas de IA exigem a capacidade de armazenar e gerir volumes substanciais de dados.
Para tal, são necessárias soluções de armazenamento rápidas e escaláveis, como o armazenamento de objectos para dados não estruturados e bases de dados de elevado desempenho para dados estruturados.
O acesso rápido e fiável a estes dados é imperativo para o treino eficaz dos modelos de IA.
Conseguir isso pode envolver a utilização de cache de dados avançado, a implantação de redes de alta largura de banda e a implementação de sistemas eficientes de recuperação de dados.
O Ceph, como solução de armazenamento, é um exemplo de flexibilidade e eficiência no tratamento de grandes volumes de dados.
Garante a compatibilidade com as aplicações existentes e facilita a integração com plataformas de nuvem, tornando-o uma solução rentável.
Além disso, o Ceph reduz significativamente as despesas associadas ao armazenamento de dados empresariais e apoia as organizações na gestão do crescimento exponencial dos dados. Ao ser executado em hardware de servidor básico, o Ceph pode reduzir as despesas de capital (CapEx) e as despesas operacionais (OpEx) por meio de seus recursos de autogerenciamento e autocorreção.
Uma forma alternativa de fornecer armazenamento de dados em massa e alta capacidade de forma eficiente é usar NVMe over Fabrics (NVMe-oF). Não se trata de um produto de um único fabricante, mas sim de uma norma que várias empresas podem utilizar para criar os seus produtos e soluções.
O NVMe over Fabrics (NVMe-oF) pode ajudar significativamente na criação de sistemas de armazenamento de dados potentes e económicos, especialmente quando é necessário um elevado desempenho e escalabilidade. O NVMe-oF aproveita as vantagens dos SSDs NVMe, como baixa latência e altas velocidades de transferência de dados em conexões de rede. Isto permite que os sistemas remotos acedam aos dados quase tão rapidamente como se os dispositivos de armazenamento estivessem ligados localmente através de PCIe, ideal para aplicações de elevada procura, como bases de dados, grandes cargas de trabalho computacionais e processamento de big data em tempo real.
Outra vantagem é o escalonamento fácil dos sistemas de armazenamento, adicionando mais dispositivos NVMe à rede sem perda de desempenho, permitindo que as organizações satisfaçam as necessidades crescentes de armazenamento de dados sem uma revisão completa da infraestrutura.
Embora os dispositivos NVMe possam ser mais caros do que os SSDs ou HDDs SATA tradicionais, a utilização de NVMe-oF pode criar sistemas de armazenamento mais eficientes e mais rápidos.
As poupanças são conseguidas através de um melhor desempenho por dispositivo, o que pode reduzir o número total de dispositivos necessários e diminuir os custos de manutenção e energia.
4. Fornecedores de software e de plataformas de computação em nuvem
Escolher a plataforma ou o fornecedor de nuvem certo é uma decisão crítica para a infraestrutura de IA. Embora a maioria das plataformas de nuvem seja capaz de suportar cargas de trabalho de IA, a principal consideração deve ser a compatibilidade com o processador selecionado para o teu sistema. No entanto, para que uma infraestrutura seja realmente eficaz, isso por si só não é suficiente.
A experiência da equipa de infraestrutura de IA é vital para alcançar o desempenho ideal.
Apesar da prevalência da virtualização em nuvem, ela pode nem sempre ser a melhor para sistemas de IA.
Um modelo híbrido de nuvem, virtualização e bare metal, como mostrado num caso, pode satisfazer eficazmente as exigências da aprendizagem profunda, combinando a distribuição da potência de computação com o acesso bare metal de elevado desempenho.
Assim, é crucial que os fornecedores compreendam com precisão os objectivos do sistema para adaptarem a solução de tecnologia de nuvem mais eficaz.
Uma das organizações financeiras, a JPMorgan Chase, enfrentou o desafio de processar grandes quantidades de dados para análise financeira em tempo real e gerenciamento de riscos.
Reconhecendo as limitações da virtualização de nuvem tradicional para suas cargas de trabalho de IA específicas, o JPMorgan Chase adotou uma infraestrutura de nuvem híbrida que combina soluções de nuvem, virtualização e bare metal.
Este modelo híbrido permite ao JPMorgan Chase tirar partido da flexibilidade da cloud e da virtualização para obter escalabilidade e rentabilidade, ao mesmo tempo que utiliza a potência dos servidores bare metal para lidar com tarefas de IA de computação intensiva.
Os servidores bare metal fornecem acesso direto aos recursos de hardware, contornando a sobrecarga que vem com a virtualização, o que é crucial para os requisitos de desempenho intensivo dos algoritmos de aprendizagem profunda utilizados na modelação financeira e na avaliação de riscos.
A infraestrutura deve ser suficientemente flexível para se adaptar à evolução das exigências da IA, permitindo a incorporação de novas tecnologias e o ajuste ou expansão de recursos com o mínimo de perturbações.
Muitos fornecedores de serviços na nuvem oferecem serviços de IA e de aprendizagem automática que podem ser integrados na infraestrutura de IA, proporcionando acesso a ferramentas poderosas para o desenvolvimento, formação e implementação de modelos.
Tecnologias como o OpenStack para virtualização e o Kubernetes para contentorização desempenham um papel vital na gestão de aplicações de IA.
Elas simplificam a implantação, o dimensionamento e a operação de cargas de trabalho de IA em ambientes variados, aumentando a agilidade e a capacidade de resposta da infraestrutura às necessidades em constante mudança.
5. Eficiência e consumo de energia
A incorporação da IA na infraestrutura de TI aumenta as capacidades de processamento de dados e de execução de algoritmos, mas suscita preocupações em termos de consumo de energia, especialmente para os modelos de aprendizagem profunda que necessitam de uma potência computacional significativa. A parte energética é o aspeto mais difícil, porque a estratégia convencional para melhorar a eficiência energética envolve a redistribuição de cargas e a desativação de capacidades não utilizadas.
No entanto, no contexto da IA, desligar as máquinas pode ser particularmente difícil e pode apenas aumentar marginalmente a eficiência energética.
Assim, é aconselhável concentrar-se no equilíbrio do desempenho e na identificação e gestão dos componentes da infraestrutura que consomem mais energia.
Na infraestrutura de IA, trata-se normalmente de GPUs, FPGAs e outros componentes de hardware que requerem arrefecimento contínuo ou dissipação de calor.
Se a otimização direta da utilização de energia se revelar difícil, é possível obter poupanças significativas melhorando a eficiência dos sistemas de refrigeração.
Por exemplo, os centros de dados na Islândia, como o Borealis ou o atNorth, ilustram uma abordagem eficaz à gestão de energia.
Aproveitando o clima fresco da Islândia e a abundância de fontes de energia renováveis, estes centros de dados utilizam o arrefecimento natural e a energia geotérmica, reduzindo significativamente a necessidade de arrefecimento artificial e, consequentemente, diminuindo o consumo global de energia das infra-estruturas de IA.
No entanto, operar na Islândia também apresenta desafios, particularmente com latência de rede e conetividade devido à sua localização remota.
Assim, é aconselhável escolher cuidadosamente os tipos de cargas de trabalho e o calendário dos projectos executados nestes centros de dados.
As cargas de trabalho que são menos sensíveis à latência ou aquelas que podem ser programadas durante as horas de menor movimento podem otimizar tanto a utilização de energia como o desempenho da rede, tirando o máximo partido do ambiente único da Islândia e atenuando os potenciais inconvenientes.
Essa abordagem estratégica ressalta a importância do planejamento cuidadoso da infraestrutura para maximizar o desempenho e a eficiência energética nas operações de IA.
Outra forma de explorar o aumento da eficiência energética são as GPUs e TPUs eficientes em termos energéticos e a otimização dos algoritmos de IA através da poda e quantização de modelos, que são fundamentais para reduzir a utilização de energia, mantendo o desempenho. Os avanços tecnológicos em semicondutores e aceleradores de IA também ajudam a reduzir o consumo de energia.
Além disso, a adoção de tecnologias de centros de dados ecológicos, o aproveitamento da virtualização e da computação em nuvem e a utilização de escalonamento dinâmico e de gestão de recursos orientada para a IA melhoram a eficiência energética nas operações de IA, adaptando a utilização de recursos à procura. Isto garante uma utilização eficiente da energia nas infra-estruturas de TI sem sacrificar o desempenho.
Em conclusão, para as organizações que pretendem aproveitar a inovação e obter uma vantagem competitiva, é essencial transformar a infraestrutura de TI para estar pronta para a IA. Dar prioridade à melhoria dos dados, investir em hardware especializado, integrar soluções de nuvem robustas, proteger redes e cultivar uma equipa competente são passos fundamentais que estabelecem as bases para uma implementação eficaz da IA e para o futuro progresso tecnológico. Estes esforços garantem a implementação bem-sucedida da IA e a flexibilidade de adaptação aos avanços e oportunidades emergentes da IA.
Se precisar de assistência especializada para transformar a sua infraestrutura de nuvem, clica aqui para agendar uma consulta gratuita com a nossa equipa. Estamos sempre aqui para ajudar as empresas a tirar o máximo partido da sua infraestrutura de nuvem.