YOM 边缘网络上的 AMD GPU:概念验证
我们在一次概念验证中,让边缘网络跑在了 AMD GPU 上。它还没有在生产环境上线。本文说明我们测试了什么、花了哪些功夫,以及为什么网络不应该依赖单一的 GPU 供应商。
YOM 已经完成了一次概念验证,让我们的边缘网络运行在 AMD GPU 上。今天网络运行在 NVIDIA GPU 上,它们得到完整支持,这一点不会改变。改变的是,装有 AMD GPU 的 PC 或服务器将能够加入同一个网络。
本文介绍我们做了什么、哪些还没有上线,以及为什么我们认为,任何基础设施网络在不依赖单一供应商时都会更强大。
我们已经做了什么
装有 AMD GPU 的 PC 经过测试,可以与 NANO 配合使用。我们还开始开发用于电信塔站点的服务器,与 NANO 的推广并行(塔站带来了什么)。
这还不是什么
概念验证说明某件事行得通。这和已经在网络上线不是一回事。目前,托管者和玩家还没有在生产环境中的 AMD 节点上运行。等这一点发生变化时,我们会在这里和我们的 Discord 里告知大家,并说明支持什么、不支持什么。
花了哪些功夫
GPU 并不是一个可以随意互换的部件。对于我们这样的网络来说,不同厂商之间有三处不同:
- 驱动。 每个厂商都有自己的驱动栈,它必须能在托管者的机器上干净地安装和更新。
- 视频编码。 串流一款游戏意味着在 GPU 上编码视频,而各厂商显卡上的编码器硬件和软件都不一样。
- 容器工具。 每场会话都运行在自己的容器里,让容器访问 GPU 的方式因厂商而异。
我们正在构建的方案,会让节点在启动时检测自己装的是哪种 GPU。托管者不需要选择厂商,也不需要更改任何设置。NVIDIA 节点将沿用它们一直以来的路径。
我们为什么要这样做
实时工作需要靠近用户的 GPU,所以我们把 GPU 放在用户身边,放在家里和电信塔上,而不是放在少数几个大型站点里。这样分散负载,也避免了给电网、供水或当地社区造成单点压力。
硬件供应也是同样的道理。一个每块 GPU 都依赖单一厂商的网络,会继承该厂商的供应、定价和产品决策。一个能使用不止一家厂商的网络,在糟糕的日子里有更多选择,也有更多人可以加入。
这就是支持 AMD 的理由,它是一个工程上的理由,而不是针对任何其他方的表态。我们希望托管者能用自己已有的硬件加入,也希望无论供应链的某个环节发生什么,网络都能持续运行。
游戏方面也有一个现实的理由。PlayStation 和 Xbox 都使用 AMD 显卡,所以人们玩的很大一部分游戏,本来就是针对 AMD 硬件开发和调优的。
接下来
我们正在努力把 AMD 节点引入生产环境,引入电信塔服务器,以及与游戏并行的实时 AI 会话。如果你有装 AMD GPU 的 PC,请关注我们的 Discord 和这个博客:AMD 节点可以加入网络时,我们会宣布。
NVIDIA 和 AMD GPU,同一个网络。更多的加入方式,更少的单点故障。
关于 YOM
YOM 运营 GPU 会话边缘:在每位用户身边提供 GPU,按会话付费。归各自宿主所有的游戏 PC,以及靠近用户的电信机架,运行游戏串流(YOM Games,以及面向玩家的 walter.gg 上的 Walter)和实时 AI 对话(YOM AI)。一场最长一小时的 Standard 会话费用为 US$0.08;在预留的数据中心 GPU 上玩一小时,费用为 US$1.23。过去 30 天实时测得的单向延迟中位数:距节点 50 km 以内的玩家为 20 ms,全部会话为 37.1 ms(yom.net/source-of-truth)。