В этом кейсе рассматривается стратегическое партнерство Sardina Systems и VMAccel — глобальным поставщиком инфраструктуры и центром обработки данных для ИИ. Мы расскажем, как облачные решения с функционалом для ускоренных вычислений помогли клиенту предоставить исследователям и компаниям из разных отраслей доступ к мощностям для ИИ.
С 2021 года компании Sardina Systems и VMAccel сотрудничают, чтобы обеспечить надежные вычислительные мощности для целого ряда отраслей, включая искусственный интеллект (ИИ), машинное обучение, геномику и финансы. Это партнерство использует максимальный потенциал системы под управлением FishOS, состоящей из 19 вычислительных узлов, оснащенных технологиями GPU и FPGA. Среди клиентов VMAccel такие известные бренды, как Йельский университет, Hedgehog, Aleo и многие другие.
На протяжении всего сотрудничества FishOS поддерживала бесперебойную работу, демонстрируя свою эффективность и надежность.
Об участниках тематического исследования
VMAccel — это центр обработки данных, специализирующийся на приложениях искусственного интеллекта. Их обширная партнерская сеть способствует сотрудничеству и инновациям для создания новых продуктов. Кроме того, VMAccel выделяется своей инфраструктурой, в которой используется технология иммерсионного жидкостного охлаждения. Этот инновационный подход предполагает погружение компонентов сервера непосредственно в непроводящую жидкость, что значительно улучшает терморегуляцию и энергоэффективность.
Этот метод позволяет VMAccel AI Data Center поддерживать оптимальную производительность оборудования даже в условиях интенсивных вычислительных нагрузок, связанных с искусственным интеллектом и машинным обучением. Он также уменьшает воздействие на окружающую среду и снижает эксплуатационные расходы, что делает эту технологию ключевым элементом инфраструктуры VMAccel.
Особенности VMAccel
Сотрудничая с многочисленными партнерами, VMAccel постоянно разрабатывает новые сервисы для поддержки рабочих нагрузок ИИ. В настоящее время компания работает над созданием микро-центра обработки данных, чтобы обеспечить доступ к инструментам ИИ и передовым вычислительным возможностям на периферии сети.
«Если посмотреть на меняющийся ландшафт бизнеса, то достаточно взглянуть на появление генеративного ИИ, чтобы понять, что инновации и возможности не будут найдены в сфере современных публичных облаков. Во времена стремительных инноваций компании должны приблизить свои данные к себе и сосредоточиться на поиске возможностей в существующих операциях для расширения и роста на своем рынке«.
Мэтт Филдс, генеральный директор VMAccel AI Data Center
Интеллектуальная платформа управления облаком FishOS от Sardina Systems позволяет организациям получать преимущества от использования программного обеспечения с открытым исходным кодом без дополнительных затрат. Это интеллектуальное программное обеспечение для управления инфраструктурой оптимизирует развертывание, эксплуатацию и производительность крупномасштабных сред.
Платформа предоставляет полный набор инструментов управления, которые упрощают оркестровку, автоматизацию и оптимизацию облачных ресурсов. FishOS отличается гибкостью и лёгкостью масштабирования в соответствии с растущими потребностями, что делает её идеальным выбором для предприятий, стремящихся раскрыть полный потенциал решений на основе открытого исходного кода.
Схема продуктов FishOS
Увеличение масштаба: От 10 до 19 вычислительных узлов
Изначально VMAccel AI Data Center управлял собственным облаком OpenStack и споддерживал внутреннюю команду ИТ-специалистов. Однако такой трудоёмкий подход вскоре стал мешать их основной деятельности. Это заставило компанию искать надежного поставщика, которым оказалась компания Sardina Systems.
FishOS была развернута на системе с 10 вычислительными узлами , использующими технологии CPU, GPU и FPGA. Такая фундаментальная установка обеспечила программное обеспечение эффективным управлением разнообразными вычислительными требованиями ИИ, машинного обучения, геномики и финансов. Успешное развертывание FishOS позволило установить важный базовый уровень производительности и надежности, обеспечив возможности для будущего масштабирования.
Поскольку вычислительные потребности VMAccel росли, они решили расширить систему, добавив 9 узлов, почти удвоив свою инфраструктуру.
Это было не просто количественное увеличение аппаратного обеспечения: это было значительное расширение возможностей системы.
Чтобы обеспечить успешное выполнение, FishOS сначала была протестирована на способность масштабироваться без нарушения текущих операций.
После завершения тестов команда приступила к планированию фактического обновления.
Процесс обновления был тщательно спланирован, при этом основное внимание уделялось способности FishOS беспрепятственно интегрировать новые узлы.
В итоге гибкая архитектура платформы и расширенные возможности управления привели к безупречному исполнению.
Новые вычислительные узлы были успешно добавлены, и система увеличилась с 10 до 19 узлов.
Что еще более важно, обновление было выполнено без каких-либо операционных простоев.
Это очень важный фактор в отраслях, где даже минимальные перерывы могут привести к значительным операционным потерям.
Облачная динамика и обновление системы VMAccel
VMAccel AI Data Center выделяется на фоне облачных вычислений, предоставляя ускоренное облако как услугу.
Это среда, в которой виртуальные машины (ВМ) постоянно создаются и выводятся из эксплуатации.
Это особенно важно для предприятий с быстро меняющейся рабочей нагрузкой, для которых время работы систем и возможности их масштабирования являются главными приоритетами.
В этой экосистеме срок жизни виртуальных машин может составлять от нескольких недель до нескольких месяцев, что требует высокоадаптируемой и надежной системы управления.
FishOS отлично подходит для этой ускоренной системы «облако как услуга».
Его надежная архитектура позволяет платформе справляться с различными системными нагрузками, обеспечивая при этом высокую производительность и стабильность.
Это особенно важно для таких задач, как вычисления в области искусственного интеллекта и развертывание сложного оборудования.
Кроме того, стабильность и надежность платформы обеспечивается ее опорой на OpenStack, ведущий проект с открытым исходным кодом.
FishOS позволяет облачным операторам быстро создавать и масштабировать виртуальные машины с помощью всего нескольких щелчков мышью в интерфейсе, плавно адаптируясь к колебаниям потребностей в вычислительных ресурсах.
Модернизация системы
Стремясь обеспечить наилучшие условия работы в облаке, VMAccel AI Data Center обновляет свои системы, чтобы обеспечить их безопасность и включить в них новейшие функции. В 2023 году они совместно с компанией Sardina Systems провели обновление до последней версии OpenStack Zed с нулевым временем простоя. Оно принесло ряд новых функций, повысило производительность и улучшило масштабируемость. Обновление также предоставило расширенные функции безопасности и новые API и интеграции. Обновление новых систем произойдет в ближайшее время.
Успешное обновление было обеспечено FishOS Upgrader, уникальным компонентом, который гарантирует плавный процесс обновления без простоев в работе.
Схема обновления FishOS
- Как только новая версия OpenStack становится доступной, команда Sardina Systems подготавливает новые данные для интеграции и согласует их с предварительно настроенными шаблонами и переменными из FishOS Upgrader.
- На следующем этапе используется кастомизированный набор плейбуков и ролей на базе Ansible для настройки системных параметров. Компонент устанавливает необходимые настройки, обеспечивая плавное обновление без нарушения текущих операций. Этот компонент применяет все необходимые изменения, обеспечивая плавное обновление без перерывов в работе.
- В итоге FishOS Upgrader автоматически проверяет работоспособность всех сервисов и приступает к плавному переводу каждого из них на новую версию OpenStack.
Среда FishOS для бесперебойной работы ускоренного облака
Переходный характер виртуальных машин в ускоренных облачных средах создает уникальные вызовы. Операторам необходима интуитивно понятная и в то же время привычная среда, которая упрощает управление облачными ресурсами и вычислениями. Эта потребность в простоте и удобстве очень важна для обеспечения эффективности и минимизации кривой обучения, связанной с управлением сложными облачными инфраструктурами.
FishOS, разработанная компанией Sardina Systems и основанная на OpenStack, представляет собой основополагающее решение. Она предварительно настроена таким образом, чтобы удовлетворить как опытных пользователей OpenStack, так и новичков.
Для тех, кто знаком с OpenStack, FishOS обеспечивает простой переход, позволяя им эффективно работать с платформой и использовать свой опыт с первого дня. Новички, в свою очередь, выигрывают от удобного дизайна FishOS, который абстрагирует от сложностей OpenStack, предоставляя при этом доступ к его полным возможностям.
Цитата Sardina Systems
Простота использования FishOS стала решающим фактором для многих инноваторов и стартапов, которым помогала компания VMAccel. Более того, интегрированные инструменты для написания сценариев и развертывания позволили команде VMAccel продвигать проекты клиентов в быстрых итерационных циклах.
Более того, лицензия FishOS дает возможность получать неограниченное количество консультаций от команды технической поддержки Sardina Systems.
Эта возможность особенно ценна для операторов, только начинающих работать с OpenStack, поскольку она значительно упрощает их работу с программным обеспечением с открытым исходным кодом.
Они могут рассчитывать на экспертное руководство и поддержку, чтобы оптимизировать свою работу в динамичной облачной среде VMAccel.
Мониторинг здоровья для бесперебойной работы в VMAccel
VMAccel AI Data Center также пользуется преимуществами передового сервиса Health Monitoring Service от Sardina Systems, который обеспечивает стабильную производительность и бесперебойную работу. Уникальная услуга представляет собой сложную комбинацию программных компонентов с открытым исходным кодом и запатентованного механизма Health Engine от Sardina Systems.
FishOS Health Monitoring — это уникальный комплексный набор компонентов, который защищает облачную инфраструктуру от сбоев. Его алгоритмы, основанные на данных, предсказывают и предотвращают критические состояния системы.
Несколько компонентов в составе Health Monitoring собирают метрики и журналы и анализируют их с помощью запатентованных интеллектуальных алгоритмов, чтобы предсказать потенциальные проблемы со «здоровьем» системы. Они способны обрабатывать миллионы точек данных в секунду. Если система находится в опасности, компонент уведомляет администратора, чтобы тот мог принять меры во избежание сбоя.
Для центра обработки данных и инфраструктуры искусственного интеллекта VMAccel непрерывная работа критически важна, поскольку их глобальные клиенты в значительной степени полагаются на бесперебойное развертывание. Платформа FishOS обеспечивает отсутствие сбоев, а поддержка Sardina Systems гарантирует быструю реакцию на любые потенциальные угрозы, возникающие для рабочих нагрузок клиентов.
Что делать, если система вышла из строя?
Даже при самом совершенном мониторинге могут возникнуть непредвиденные ситуации. Однажды такое событие произошло с дата-центром VMAccel AI, когда длительное отключение электроэнергии в здании привело к выходу из строя всей системы, включая контроллеры.
Цитата VMAccel’s
Задача и решение контроллеров: FishOS по умолчанию имеет архитектуру высокой доступности, что помогает защитить систему от различных ситуаций, включая длительные отключения электроэнергии. Единственный сценарий, от которого FishOS не может восстановиться, — это физическая потеря серверов, что происходит лишь в исключительных случаях.
Архитектура облака разработана таким образом, чтобы предвидеть такие проблемы, как отключение электричества. Мы используем как минимум три контроллера для одновременного управления системой.
Эти контроллеры взаимозаменяемы и зеркально отражают друг друга. Если функциональность прерывается на каком-либо этапе, система может определить последнюю версию и восстановить все контроллеры до требуемого состояния. Перезапуск системы после значительного отключения питания занимает в среднем 5-15 минут.
Однако контроллеры — не самая уязвимая часть системы во время внезапного отключения электроэнергии. Основной риск для пользовательских данных лежит на устройствах хранения. В системе диски хранения данных, как правило, являются самым медленным аппаратным компонентом.
Чтобы повысить производительность системы, данные обычно записываются на диск через кэш-память.
Проблема хранения: данные поступают в буфер, затем диск обрабатывает их и записывает на постоянное устройство хранения.
Внезапное отключение электроэнергии может помешать записи данных, оставшихся в буфере, на диск, что приведет к потере данных.
Это распространенная проблема и, к сожалению, часто необратимая.
Решения: Чтобы решить эту проблему и защитить данные наших клиентов, компания Sardina Systems разработала FishOS Ceph. Хотя FishOS может работать с любым решением для хранения данных, мы рекомендуем Ceph, ведущую программно-определяемую систему хранения с открытым исходным кодом.
Эта распределенная система хранения записывает данные непосредственно на диск, минуя буфер, сохраняя при этом высокую производительность и надежность.
FishOS Ceph, интегрированный в наше программное обеспечение, выходит за рамки хранения данных.
Он также используется для работы контроллера.
Такая архитектура обеспечивает бесперебойную работу даже при значительных отключениях электроэнергии.
Прозрачные условия лицензий и сила открытого исходного кода
VMAccel работает с большим количеством клиентов из различных отраслей. Для них стратегический подход к составлению бюджета и долгосрочное планирование имеют решающее значение. Эффективное сочетание технологий с открытым исходным кодом и фирменных решений Sardina Systems позволило VMAccel AI Data Center предложить своим клиентам справедливые цены, доступ к новейшим технологиям и свободу от привязки к поставщику.
Цитата VMAccel’s
Заметным преимуществом модели лицензирования FishOS является ее независимость от цен на оборудование.
Sardina Systems поддерживает единую структуру цен на каждое ядро независимо от используемого оборудования, что делает ее экономически эффективной как для ускоренных, так и для традиционных облачных сред.
Это гарантирует, что клиенты смогут воспользоваться высокопроизводительными облачными возможностями без дополнительных расходов, обычно связанных с ускоренными вычислительными средами.
В отличие от многих проприетарных платформ, где скрытые расходы и дополнительные платежи за основные услуги могут быстро увеличиваться, FishOS предлагает полную прозрачность и предсказуемость.
Она предоставляет все необходимое по фиксированной цене на весь период действия лицензии, который может длиться до 5 лет.
Более того, все уровни лицензий FishOS включают всестороннюю поддержку, консультации по развитию инфраструктуры и обновление системы — без дополнительной платы.