随着全球各行各业采用数据密集型技术，如人工智能、机器学习和实时分析，对GPU加速云计算的需求正在迅速增长。并非每个平台都能提供这些工作负载所需的性能和灵活性。FishOS由Sardina Systems开发，改变了这一点，使运营商能够轻松构建和管理可扩展的GPU驱动的云。
GPU加速云计算利用图形处理单元（GPU）的功能显著加速需要大规模并行处理的工作负载。与CPU相比，GPU针对同时处理数千个任务进行了优化，使其非常适合高性能计算任务，如训练AI模型、运行模拟或执行大规模数据分析。
随着对实时洞察和高速计算需求的增长，越来越多的企业（不仅仅是科技巨头！）正在采用GPU驱动的云平台，以更高的性能和灵活性满足这些需求。从AI/ML模型训练和大规模数据分析到科学模拟和实时渲染，许多行业现在依赖GPU快速可靠地处理大量数据。
这些企业的核心需求很简单：以灵活、可靠的方式，以最佳成本为用户提供硬件访问。无论是在裸机、虚拟机还是带有Kubernetes的容器上运行，都必须在不降低速度的情况下使用GPU的性能。
在没有许可困扰的情况下实现GPU云性能
NVIDIA已经确立了自己作为GPU基础设施领导者的地位，特别是在AI和高性能计算领域。其生态系统得到CUDA、cuDNN和Deep Learning SDK等框架的支持，已广泛应用于各个行业。然而，例如，基于CUDA的应用程序可以在不同的部署模型中运行，如PCI直通或虚拟化，而不受特定NVIDIA许可结构的限制。
虽然NVIDIA的硬件以其性能著称，但其软件许可，特别是虚拟化许可，可能成本高昂且有时效率较低，尤其是在大规模环境中，如果不妥善管理，许可问题可能导致GPU性能下降。例如，如果虚拟机无法获得有效许可，GPU性能可能在20分钟后降低，CUDA功能可能在24小时后被禁用。尽管NVIDIA可能在未来改进这些问题，但服务提供商今天必须管理这些风险。
实际上，许多云服务提供商，尤其是那些注重可靠性的提供商，寻求替代方案来最小化对许可虚拟化软件的依赖。例如，通过PCI直通提供专用GPU访问是一种直接、经济高效且稳健的方式，可以将GPU资源分配给虚拟机或容器。这种方法不需要NVIDIA的许可vGPU软件。
FishOS云管理平台提供与NVIDIA软件的兼容性，允许用户在需要时利用NVIDIA的GPU加速工具。然而，FishOS不依赖NVIDIA软件来提供完整的GPU加速云体验。
硬件无关、GPU友好的平台
Sardina Systems的FishOS旨在实现硬件无关。无论您使用NVIDIA、AMD还是其他供应商，这个云解决方案都可以有效管理GPU工作负载。
虽然FishOS并不复制NVIDIA FleetCommand或Bright Cluster Manager等第三方集群管理器的每一个功能，但它通过强大的开源工具组合和原生集成提供了等效的替代方案：
这种模块化和开放的方法意味着即使缺少特定的第三方功能，FishOS也提供灵活、可靠的方法来实现相同的目标。
通过集成OpenStack和Kubernetes等开源工具，FishOS为运营商提供了一个灵活而强大的平台，可以在裸机、虚拟机或容器上构建和管理GPU驱动的环境：
- Nova通过PCI直通实现在虚拟机中使用GPU。
- Ironic为裸机服务器提供直接访问GPU的能力。
- Magnum支持可大规模运行GPU工作负载的Kubernetes集群。
这种灵活性意味着运营商不必将自己局限于单一供应商或生态系统。相反，他们可以根据性能、可靠性和成本效益来构建自己的技术栈。
许多流行的平台，如Red Hat OpenShift或Canonical的Ubuntu OpenStack，使用容器化的OpenStack部署来提供灵活性和应用程序可移植性。这种设置适合工作负载敏捷性和扩展性是关键优先事项的环境。
然而，对于专注于提供专用GPU访问、高性能和高可用性的服务提供商来说，裸机部署可能是更好的选择。 FishOS可以直接在裸机上部署OpenStack，无需添加容器层。 这种方法减少了系统复杂性，最小化了开销，并提高了可靠性——这些对于旨在优化性能和降低运营成本的运营商来说都是至关重要的。
例如，在提供裸机GPU租赁时，FishOS与Ironic结合可以实现直接的硬件管理，无需容器编排。
推动结果的GPU部署：FishOS提供完全的灵活性和控制
世界各地的FishOS客户通过PCI直通利用GPU资源，避免许可限制，同时保持性能和灵活性。
VMAccel，一家全球AI基础设施提供商，运行着由FishOS管理的19个计算节点环境，同时配备GPU和FPGA技术。他们的云支持AI、机器学习、基因组学和金融领域的高要求工作负载，其中虚拟机不断启动和退役以匹配动态需求。FishOS确保了这个快速变化环境中的高可用性、可扩展性和运营灵活性。
另一个例子是图宾根大学，德国领先的研究机构之一。他们由FishOS支持的基础设施在虚拟机管理程序和裸机上都支持GPU工作负载，为医学成像、癌症研究、脑活动分析、气候模拟等关键项目提供支持。为了优化性能，GPU节点优先用于密集型任务，而CPU节点处理数据集管理和其他标准功能。他们的混合架构整合了虚拟化和裸机部署，并由Ceph存储支持归档。
Sardina Systems的平台还支持层次化多租户，使服务提供商能够在每个级别上以精细的访问控制和资源配额托管多个公司、部门和用户。
使用FishOS，服务提供商无需在性能、成本和灵活性之间做出妥协。无论是构建AI研究云、提供GPU驱动的虚拟桌面，还是推出HPC即服务，FishOS都为您提供工具来：
- 运行任何GPU供应商（NVIDIA、AMD等）
- 避免许可限制并降低总拥有成本
- 大规模部署，无需增加平台复杂性
与我们的专家交流，了解FishOS如何帮助您部署高性能、成本效益高的GPU云。 立即预约免费咨询。