Durante casi dos años de estrecha colaboración con uno de los principales centros de investigación de Alemania, la Universidad de Tübingen, Sardina Systems ha proporcionado un apoyo esencial para mejorar la eficiencia y productividad de la infraestructura de nube de aprendizaje automático de la universidad.
En este estudio de caso, profundizaremos en cómo FishOS, la plataforma de gestión de nube totalmente automatizada, escalable y rentable de Sardina Systems, ayuda a un pequeño equipo de expertos a manejar sus tareas diarias para que los científicos de datos puedan concentrar sus esfuerzos en llevar a cabo investigaciones innovadoras en campos como la medicina, la agricultura, la conducción autónoma y otras áreas, y ofrecer soluciones transformadoras.
Conociendo la Nube de ML
La Nube de ML en la Universidad de Tübingen, que comprende el Centro de IA y el Clúster de Excelencia en ML, impulsa proyectos impactantes en imagen médica, incluyendo estudios de cáncer y cerebro, así como visión por computadora y análisis de movimiento humano, iniciativas de simulación y predicción climática, e incluso el entrenamiento de un robot de Boston Dynamics para tareas agrícolas. Con la participación de 48 grupos de investigación, estos proyectos están empujando los límites y haciendo contribuciones significativas en diversos dominios.
Actualmente, recursos de personal limitados están involucrados en el mantenimiento de un clúster que consta de aproximadamente 200 núcleos, responsables de todas las operaciones de datos. Exploremos los desafíos que enfrentaron los especialistas antes de implementar FishOS, y cómo la plataforma les ayudó a superar estas dificultades.
Abrazando el Desafío
El equipo de TI de la universidad enfrenta desafíos distintivos inherentes a las organizaciones públicas. Operando dentro de estrictas restricciones de financiamiento gubernamental, deben asegurar el funcionamiento sin problemas de un sistema de computación científica en múltiples unidades mientras también abordan las diversas necesidades de computación de varios grupos de investigación. La estabilidad es crucial para los investigadores que buscan resultados precisos, especialmente en campos como la investigación del cáncer y del cerebro, donde el poder de cómputo es indispensable para las aplicaciones de aprendizaje automático.
Navegando los Obstáculos
En respuesta a estos desafíos, el equipo de la universidad optó por aprovechar la infraestructura local para maximizar la eficiencia del presupuesto y cumplir con los requisitos de capacidad. Desarrollaron una arquitectura de hardware adaptada para satisfacer las diversas necesidades de pequeños grupos de investigación dispersos por toda Alemania. Esta arquitectura combina virtualización y metal desnudo de manera equilibrada, complementada por una instalación de almacenamiento distribuido Ceph para fines de archivo.
Aproximadamente 15-20% de los nodos del sistema están asignados a equilibradores de carga, con los nodos restantes dedicados a la potencia de cómputo. Los hipervisores están equipados con configuraciones solo CPU, GPU V100 y GPU A100, con aproximadamente el 70% de los nodos actualmente utilizados a través de metal desnudo. Los recursos de GPU, ubicados tanto en hipervisores como en metal desnudo, se priorizan para mejorar la capacidad de respuesta del sistema. Además, el sistema acomoda tareas más convencionales proporcionando CPUs clásicas para funciones como la gestión de conjuntos de datos.
FishOS: Apoyando una Infraestructura Estable y Simplificando Operaciones
- Interfaz Unificada. Con FishOS, gestionar la infraestructura de la Nube de ML, distribuida en varias áreas, a través de una interfaz unificada se ha vuelto notablemente simplificado.
- Flexibilidad. Quizás una de las ventajas más notables de la Nube de ML es la versatilidad de FishOS: puede ejecutarse tanto en nodos de metal desnudo como en GPUs. Esta flexibilidad aumenta enormemente el rendimiento y facilita sin problemas el logro de los objetivos de investigación.
- Adaptabilidad. Kristina Kapanova, Jefa de la Nube de ML, elogia a FishOS por su adaptabilidad.
“Ofrece una amplia gama de opciones de servicio adaptadas a necesidades específicas: ya sea gestionando cargas de trabajo más pequeñas o más grandes, publicando conjuntos de datos o realizando benchmarks. Para mí, también es un resultado positivo, ya que podemos gestionar fácilmente los cambios a través de FishOS.”, dice la Sra. Kapanova.
- Estabilidad. Otra ventaja crucial de la plataforma que se alinea perfectamente con los requisitos de la universidad es la estabilidad general del sistema.
- Ahorro de Tiempo. Además, el considerable tiempo ahorrado por FishOS para otras tareas y propósitos es de suma importancia, ya que todas las modificaciones necesarias pueden ejecutarse con unos pocos comandos. Por ejemplo, en solo 3-4 sencillos pasos, los expertos en el ML Cloud pueden configurar rápidamente un sistema completamente operativo para los usuarios. El aspecto crucial aquí radica en la efectividad y rapidez con la que se lleva a cabo esta tarea, satisfaciendo las crecientes demandas de los usuarios que siempre buscan más.
“Pude entregar un servicio a los usuarios en una semana que probablemente nos habría llevado un mes. La rápida provisión de funcionalidad para los usuarios y la consiguiente facilidad en mi carga de trabajo son invaluables,” destaca la Sra. Kapanova.
Al abordar las necesidades de los usuarios, el sistema de tickets del ML Cloud sirve como la principal herramienta de comunicación interna de la organización, desempeñando un papel vital en la pronta resolución de cualquier problema emergente. Su buen funcionamiento también se atribuye a FishOS.
- Gestión de Redes. Además de la estabilidad, la gestión de redes es una prioridad. La plataforma supervisa sin problemas todo el sistema asignando y gestionando direcciones IP, liberando a los expertos de otra pesada responsabilidad y permitiéndoles centrarse en tareas de mayor nivel.
- Sin Interrupciones. Kristina Kapanova no observa interrupciones en el uso de la plataforma. Aunque los especialistas del ML Cloud pueden encontrar problemas de hardware ocasionalmente, una vez resueltos, la infraestructura en la nube vuelve a estar operativa en un par de minutos. «Fue la primera vez que experimenté un retorno al servicio tan fluido,» señala la Sra. Kapanova.
- Soporte. Una ventaja innegable de FishOS es su soporte increíblemente rápido y confiable proporcionado a la universidad. Desde el inicio de la adopción de la plataforma por parte del ML Cloud, el equipo técnico de Sardina Systems ofreció una guía detallada. Esto permitió a los especialistas, incluso a aquellos no familiarizados con las operaciones rutinarias, dominarlas rápidamente.
Cuando varias máquinas virtuales experimentaron una desaceleración repentina durante el L2L Challenge, una de las competiciones de aprendizaje automático más significativas para científicos, el problema de la insuficiencia de RAM fue identificado y resuelto rápidamente en unos pocos días. Los esfuerzos efectivos y bien coordinados de los expertos de Sardina Systems fueron fundamentales para prevenir incidentes similares en el futuro. «Considerando su excelente soporte, funcionalidad y beneficios de ahorro de tiempo, así como la disponibilidad continua de todos los sistemas, FishOS parece ofrecer una excelente relación calidad-precio,» añade la Sra. Kapanova.
¿Qué sigue?: Curso de Innovación y Crecimiento de Tübingen
En cuanto a los planes futuros, el Centro de IA dentro del ML Cloud está previsto que duplique su tamaño en los próximos años. En consecuencia, el ML Cloud está expandiendo su infraestructura para satisfacer las crecientes demandas de computación. La universidad pretende ampliar sus capacidades incorporando procesadores no GPU para cargas de trabajo específicas de IA y ML en diferentes áreas. Esta iniciativa tiene como objetivo desarrollar soluciones personalizadas para reducir el consumo de energía mientras se mantiene el rendimiento.
«Estoy encantada de que Sardina Systems haya probado FishOS para compatibilidad con Gaudi2, y los primeros benchmarks parecen prometedores. Además, planeo usar FPGAs con la plataforma para ofrecer más opciones a los usuarios. La oportunidad de implementaciones bare-metal con estos nodos es particularmente gratificante,» comenta la Sra. Kapanova.
Además, el ML Cloud está aumentando su utilización de almacenamiento Ceph, y Sardina Systems proporcionará soporte para esto, dado que FishOS está construido sobre la tecnología Ceph.
El Futuro Paso para el Éxito del Machine Learning Cloud
FishOS se presenta como un cambio de juego para las instituciones académicas. Simplificando los flujos de trabajo y liberando a los investigadores de las complejidades técnicas, empodera a universidades como Tübingen para innovar sin problemas mientras optimizan las actividades operativas.
