我们测试了 Bluefield-2 DPU 在 FishOS 环境中处理 OVN/OVS 卸载的能力。 结果显示运行流畅,延迟减少,CPU 资源得到释放,证明了 FishOS 和 Bluefield DPU 在优化现代数据中心运行方面的潜力。
FishOS:增强云管理
Sardina Systems 的 FishOS 是基于 OpenStack 的先进云管理平台。
FishOS 旨在提高现代数据中心的效率和可扩展性,利用自动化和智能资源管理来简化操作、降低成本并提高整体性能。
Nvidia Bluefield DPU:革新数据处理
Nvidia Bluefield DPU 是一种专用处理器,可卸载和加速网络、存储和安全任务,从而释放主 CPU。
这些单元通过处理数据密集型工作负载来提高数据中心的性能和效率,并提供可编程性和高性能,以满足现代计算的需求。
传统与现代数据中心架构对比
传统数据中心严重依赖通用 CPU 来完成所有任务,导致性能瓶颈、资源效率低下和运营成本上升。
云计算和虚拟化的出现极大地改变了数据中心。
云计算提供了灵活的资源分配、按需扩展能力和成本效益,而虚拟化则抽象了物理硬件,提高了利用率和基础设施管理水平。
将 Bluefield DPU 集成到数据中心可以应对这些挑战。
通过将密集型任务从 CPU 上卸载下来,DPU 提高了性能,并提供了基于硬件的安全功能。
目标:
测试 Bluefield-2 (BF2) 能否在 FishOS OpenStack 环境中无缝处理 OVN/OVS 卸载,从而允许用户配置虚拟机。
测试条件: 测试平台部署在一家云服务提供商处,该服务提供商分配了带有 BF2 DPU 的硬件。
然后,Sardina Systems 在该平台上部署了 FishOS OpenStack 环境。
逐步演示
部署:在运行 AlmaLinux 9 作为基础操作系统的服务器节点上部署了 FishOS OpenStack(Bobcat 版本)。
BF2 DPU 模式和操作系统选项:所需的 BF2 DPU 模式为 “嵌入式 CPU”。
我们在 BF2 DPU 上测试了各种操作系统选项。
在研究了文档后,我们认为在此测试中考虑定制操作系统的所有注意事项是不可行的。
因此,我们通过 RShim 界面使用 bfb-install 命令为 BF2 部署了基于 Ubuntu 的 Nvidia 官方操作系统。
我们在部署阶段发现:
– AlmaLinux 9 可通过 PXE 轻松安装。
– Debian 12 需要对 initramfs 进行调整。
– Nvidia DOCA 软件包的安装对于 BF2 正常运行非常必要。
– 在 BF2 上部署基于 Nvidia Ubuntu 的操作系统需要 RShim 接口。
– 带宽测试:使用 iPerf3 测试了两个 BF2 DPU 之间的带宽,达到 100 Gbit/秒。
BF2 DPU 主机部署在云中,并配置为 OpenStack Neutron OVN 代理主机。
我们按照官方文档在 OpenStack 中启用 SmartNIC DPU 支持:OpenStack Neutron SmartNIC DPU 支持。
卸载虚拟机网络:
要利用卸载虚拟机网络,必须启用 SR-IOV。
虽然 BF2 支持多达 127 个虚拟功能,但捆绑节点硬件平台在使用此配置时无法启动,因此在 BF2 固件设置中将限制设置为 63。
在虚拟机创建过程中,发现 OpenStack Nova 和 Neutron 需要额外的修补程序才能使卸载租户网络正常运行。
Nova 计算过滤掉了 Nova 导体请求的 SR-IOV 设备。
通过注释过滤行缓解了这一问题。
由于能力不匹配,Neutron 服务器拒绝绑定端口,这可能是一个错误。
neutron/common/ovn/utils.py 文件中的这一行已被修改:
到这一点:
虚拟机测试:
在虚拟机测试期间,主节点和 DPU 均未检测到明显的 CPU 负载。
我们还在 “网卡模式 “下测试了 BF2 网卡,其功能类似于 ConnectX 6 网卡。
使用 “DPU 模式 “的一个优势是,与 “NIC 模式 “不同,计算节点上不需要 OFED 驱动程序。
因此,为了实现覆盖网络卸载,我们在主节点上安装了最新的 Mellanox OFED 驱动程序。
这给未来的更新带来了额外的管理负担,特别是内核升级(需要重建模块)和 OFED 升级(只有通过完全卸载和重新安装才能支持)。
除了使用 “直接 “类型的 Neutron 端口外,BF2 NIC 模式虚拟机测试与 DPU 模式测试类似。 虚拟机之间的 8 线程 iPerf3 测试显示速度约为 70 Gbps。
虚拟机测试收获:
– Neutron ML2/OVN 使用 GENEVE 隧道进行租户覆盖网络。
– 使用两个远程管理类型的 Neutron 端口创建了一个单独的租户网络。
– 在不同节点上部署了两台运行 AlmaLinux 9 的虚拟机。
– 单线程 iPerf3 测试:~
– 8 线程 iPerf3 测试:~86 Gbit/秒。
– 在主节点和 DPU 上检测到不明显的 CPU 负载。
摘要
处理海量数据(包括人工智能操作)对高带宽连接的需求日益增长,这就需要高效的解决方案来消除瓶颈。
FishOS 将这些瓶颈卸载到 Bluefield DPU 等专用硬件上,从而解决了这一难题。
通过从主节点移除必要的网络软件,并利用 OFED 驱动程序等先进技术,FishOS 显著提高了性能,减少了延迟,并为关键应用处理释放了 CPU 资源。
因此,这能提供无缝、高效的数据中心运营。






