在与德国领先的研究中心之一图宾根大学近两年的密切合作中，萨迪纳系统公司为提高该大学机器学习云基础设施的效率和生产力提供了重要支持。
在本案例研究中，我们将深入探讨 FishOS（萨迪纳系统公司的全自动、可扩展和经济高效的云管理平台）如何帮助一个小型专家团队处理日常任务，从而使数据科学家能够集中精力在医学、农业、自动驾驶等领域开展突破性研究，并提供变革性解决方案。
迎接 ML 云
图宾根大学的 ML 云、图宾根大学的 ML 云由人工智能中心和 ML 英才集群组成，推动着 包括癌症和大脑研究在内的医学成像、计算机视觉和人类运动分析、气候模拟和预测计划，甚至训练波士顿动力公司（Boston Dynamics）的机器人执行农业任务等具有影响力的项目。在48 个研究小组的参与下，这些项目不断突破界限，在各个领域做出了重大贡献。
目前，维护一个由约 200 个内核组成的集群所需的人力资源有限，而该集群负责所有数据操作。让我们探讨一下专家们在实施 FishOS 之前所面临的挑战，以及该平台是如何帮助他们克服这些困难的。
迎接挑战
大学 IT 团队会遇到公共组织固有的独特挑战。在政府严格的资金限制下，他们必须确保科学计算系统在多个单位之间无缝运行 ，同时还要满足 不同研究小组的各种计算需求。 对于追求精确结果的研究人员来说，稳定性至关重要，尤其是在癌症和大脑研究等领域，机器学习应用离不开强大的计算能力。
穿越障碍
为了应对这些挑战，大学团队选择利用内部基础设施 来最大限度地提高预算效率和满足容量要求。他们开发了一种硬件架构，以满足 分散在德国各地的小型研究小组的不同需求 。该架构均衡地结合了虚拟化和裸机，并辅以分布式Ceph 存储设备用于存档。
约15-20% 的系统节点分配给负载平衡器，其余节点则专门用于计算能力。管理程序配备纯 CPU、GPU V100 和 GPU A100配置，目前约70% 的节点通过裸机使用。GPU 资源位于管理程序和裸机上，优先用于 提高系统响应速度。此外，该系统还为数据集管理等功能提供传统的 CPU，以满足更多传统任务的需要。
FishOS：支持稳定的基础设施并简化操作
- 统一界面。 有了 FishOS，通过一个统一的界面管理分布在多个领域的 ML 云基础设施变得非常简单。
- 灵活性。 FishOS 的多功能性或许是 ML 云最显著的优势之一–它既可以在裸机节点上运行，也可以在 GPU 上运行。这种灵活性大大提高了性能，无缝地促进了研究目标的实现。
- 适应性强。 ML 云主管克里斯蒂娜-卡帕诺娃（Kristina Kapanova）对 FishOS 的适应性大加赞赏。
“它根据特定需求提供了广泛的服务选项：无论是管理较小或较大的工作负载、发布数据集还是进行基准测试。对我来说，这也是一个积极的结果，因为我们可以通过 FishOS 轻松管理变更”，卡帕诺娃女士说。
- 稳定性。 该平台完全符合大学要求的另一个重要优势是整个系统的稳定性。
- 节省时间。 此外，FishOS 还能为其他任务和用途节省大量时间，这一点至关重要，因为只需几个命令就能执行所有必要的修改。例如，只需 3-4 个简单步骤，ML Cloud 的专家就能迅速为用户建立一个完全运行的系统。这项任务的关键在于完成的效率和速度，以满足用户不断增长的需求。
“我能够在一周内向用户提供服务，而这原本可能需要一个月的时间。Kapanova 女士强调说：”快速提供用户功能以及由此减轻我的工作量是非常宝贵的。
在满足用户需求时，ML Cloud 的票务系统是组织的主要内部沟通工具，在及时解决任何新出现的问题方面发挥着至关重要的作用。它的顺利运行也要归功于 FishOS。
- 网络管理。 除了稳定性，网络管理也是一个优先事项。该平台通过分配和管理 IP 地址对整个系统进行无缝监管，减轻了专家们的另一项重任，使他们能够专注于更高层次的任务。
- 无干扰。 据克里斯蒂娜-卡帕诺娃（Kristina Kapanova）观察，平台的使用没有中断。虽然 ML 云专家偶尔会遇到硬件问题，但一旦解决，云基础设施在几分钟内就能恢复运行。”Kapanova女士说：“这是我第一次体验到如此无缝的恢复服务。
- 支持。 FishOS 的一个不可否认的优势是其为大学提供的快速可靠的支持。从 ML Cloud 采用该平台开始，Sardina Systems 的技术团队就提供了详细的指导。这使得专家们，即使是那些不熟悉日常操作的人，也能很快掌握。
L2L Challenge 是面向科学家的最重要的机器学习竞赛之一，在比赛期间，几台虚拟机的运行速度突然变慢，内存不足的问题在几天内就被迅速发现并解决。Sardina Systems 专家有效而协调的努力为防止今后发生类似事件发挥了重要作用。”Kapanova女士补充说：“考虑到其出色的支持、功能和省时的优势，以及所有系统的持续可用性，FishOS似乎物超所值。
下一步是什么？图宾根的创新与发展之路
就即将实施的计划而言，未来几年， ML 云的人工智能中心规模将扩大一倍 。因此，ML 云正在扩大其基础设施，以满足不断增长的计算需求。该大学的目标是为 不同领域的特定人工智能和 ML 工作负载配备非 GPU 处理器 ，从而扩大其能力。这一举措旨在 开发定制解决方案，在保持性能的同时降低能耗。
“我很高兴 Sardina Systems 测试了 FishOS 与 Gaudi2 与高迪2而且初步基准测试结果也很不错。此外，我还计划在该平台上使用 FPGA，为用户提供更多选择。利用这些节点进行裸机部署的机会尤其令人欣慰。 卡帕诺娃女士的评论。
此外，鉴于 FishOS 基于 Ceph 技术构建，ML 云正在增加对 Ceph 存储的使用，Sardina Systems 将为此提供支持。
机器学习云成功的未来步骤
FishOS 改变了学术机构的游戏规则。它简化了工作流程，将研究人员从复杂的技术问题中解放出来，使图宾根这样的大学能够在优化运营活动的同时进行无缝创新。
