AMD-GPUs im YOM-Edge-Netzwerk: proof of concept
Wir haben unser Edge-Netzwerk in einem Proof of Concept auf AMD-GPUs betrieben. Es ist noch nicht im Produktivbetrieb live. Hier steht, was wir getestet haben, was dafür nötig war und warum ein Netzwerk nicht von einem einzigen GPU-Lieferanten abhängen sollte.
YOM hat einen Proof of Concept abgeschlossen, in dem unser Edge-Netzwerk auf AMD-GPUs läuft. NVIDIA-GPUs betreiben das Netzwerk heute, sie werden vollständig unterstützt, und das ändert sich nicht. Was sich ändert: Ein PC oder Server mit einer AMD-GPU wird demselben Netzwerk beitreten können.
Dieser Beitrag behandelt, was wir getan haben, was noch nicht live ist und warum wir glauben, dass jedes Infrastrukturnetzwerk stärker ist, wenn es nicht von einem einzigen Lieferanten abhängt.
Was wir getan haben
PCs mit AMD-GPUs wurden getestet und funktionierten mit der NANO. Wir haben außerdem mit der Entwicklung von Servern für Telco-Turmstandorte begonnen, parallel zum NANO-Rollout (was die Turmstandorte hinzufügen).
Was das noch nicht ist
Ein Proof of Concept zeigt, dass etwas funktioniert. Das ist nicht dasselbe wie live im Netzwerk zu sein. Heute laufen Hosts und Spieler im Produktivbetrieb noch nicht auf AMD-Nodes. Wenn sich das ändert, sagen wir es hier und in unserem Discord, mit dem, was unterstützt wird und was nicht.
Was dafür nötig war
Eine GPU ist kein einzelnes austauschbares Teil. Für ein Netzwerk wie unseres unterscheiden sich zwischen den Herstellern drei Dinge:
- Treiber. Jeder Hersteller hat seinen eigenen Treiber-Stack, und er muss sich auf dem Rechner eines Hosts sauber installieren und aktualisieren lassen.
- Videocodierung. Ein Spiel zu streamen bedeutet, Video auf der GPU zu codieren, und die Encoder-Hardware und -Software sind auf den Karten jedes Herstellers verschieden.
- Container-Tooling. Jede Session läuft in einem eigenen Container, und einem Container Zugriff auf die GPU zu geben funktioniert bei jedem Hersteller anders.
Wir bauen das so, dass der Node beim Start erkennt, welche GPU er hat. Hosts wählen keinen Hersteller und ändern keine Einstellung. NVIDIA-Nodes folgen demselben Weg wie immer.
Warum wir das tun
Echtzeit-Arbeit braucht eine GPU nah am Nutzer, deshalb stellen wir GPUs neben die Nutzer, in Privathaushalte und auf Telco-Türme, statt in wenige große Standorte. Die Last so zu verteilen vermeidet zudem einen einzelnen Druckpunkt für ein Stromnetz, eine Wasserversorgung oder eine lokale Gemeinschaft.
Mit der Hardwareversorgung ist es genauso. Ein Netzwerk, das für jede GPU von einem Hersteller abhängt, erbt dessen Lieferfähigkeit, Preise und Produktentscheidungen. Ein Netzwerk, das mehr als einen nutzen kann, hat an einem schlechten Tag mehr Optionen und mehr Menschen, die beitreten können.
Das ist das Argument für AMD-Unterstützung, und es ist ein technisches Argument, keine Aussage über irgendjemand anderen. Wir wollen, dass Hosts mit der Hardware, die sie schon besitzen, beitreten können, und wir wollen, dass das Netzwerk weiterläuft, was auch immer in einem Teil der Lieferkette passiert.
Es gibt auch einen praktischen Gaming-Grund. PlayStation und Xbox nutzen beide AMD-Grafik, sodass ein großer Teil der Spiele, die Menschen spielen, bereits für AMD-Hardware gebaut und abgestimmt ist.
Wie es weitergeht
Wir arbeiten daran, AMD-Nodes in den Produktivbetrieb zu bringen, außerdem an den Servern für Telco-Türme und an Live-KI-Sessions neben Spielen. Wenn du einen PC mit einer AMD-GPU hast, behalte unseren Discord und diesen Blog im Auge: Wir kündigen an, wann AMD-Nodes dem Netzwerk beitreten können.
NVIDIA- und AMD-GPUs, dasselbe Netzwerk. Mehr Wege beizutreten, weniger Single Points of Failure.
über YOM
YOM betreibt den GPU-Session-Edge: GPUs direkt neben jedem Nutzer, bezahlt pro Session. Gaming-PCs im Besitz ihrer Hosts und Telko-Racks in Nutzernähe betreiben Game-Streaming (YOM Games und Walter auf walter.gg für Spieler) und Live-KI-Gespräche (YOM AI). Eine Standard-Session von bis zu einer Stunde kostet US$0.08; eine Stunde Spielen auf einer reservierten Rechenzentrums-GPU kostet US$1.23. Mediane Latenz in eine Richtung, live gemessen über die letzten 30 Tage: 20 ms für Spieler im Umkreis von 50 km um einen Node, 37.1 ms über alle Sessions (yom.net/source-of-truth).
das Netz unter all dem
Echtzeit-Workloads müssen in der Nähe laufen
Etwa fünfzig Kilometer von der Person entfernt, die darauf wartet. Die Hardware so nah an den Menschen gibt es schon, und das meiste davon ist ausgeschaltet.