AMDs ryzen AI halo und der edge
AMDs Ryzen-AI-Halo-Plattform bringt bis zu 96GB Grafikspeicher in einen kleinen Desktop-Rechner. Hardware wie diese ist es, die Echtzeit-KI und Spiele auf einer einzelnen Maschine neben dem Nutzer laufen lässt.
Echtzeit-KI, Game-Streaming und interaktives 3D im Web brauchen alle eine GPU nahe beim Nutzer (warum Entfernung zählt), und zentralisierte Rechenzentren machen diese GPU teuer (wofür eine GPU-Stunde zahlt). AMDs neu angekündigte Ryzen AI Halo Developer Platform zeigt, wie viel dieser Arbeit eine einzelne Maschine am Edge heute tragen kann.
Hardware, die die Speichermauer beseitigt
Maschinen am Edge wurden bisher durch den Grafikspeicher von Consumer-Grafikkarten begrenzt. Ein hochwertiges Spiel zu streamen oder ein Live-KI-Modell auf einer Maschine zu halten, braucht Speicher ebenso wie rohe Geschwindigkeit.
AMDs Flaggschiff Ryzen AI Max+ 395 hat 128GB Unified Memory, von denen bis zu 96GB als Grafikspeicher zugewiesen werden können. Damit kann eine kleine Maschine Arbeit übernehmen, für die früher mehrere Cloud-Server nötig waren.
was das am Edge bedeutet
YOM betreibt den GPU-Session-Edge: GPUs direkt neben jedem Nutzer, bezahlt pro Session. Heute sind diese GPUs Gaming-PCs im Besitz ihrer Hosts sowie Telko-Racks in Nutzernähe, und AMD-GPUs sind im Netzwerk bereits in einem Proof of Concept gelaufen. Speicher wie der des Ryzen AI Halo zählt am meisten für YOM AI, Live-KI-Sessions auf den eigenen Speech- und Language-Modellen eines Käufers, gehalten in einer Session nahe beim Sprecher. AMDs offener ROCm-Software-Stack passt außerdem zu einem Netzwerk, das nicht von einem einzigen GPU-Lieferanten abhängen sollte.
ein Aufruf zur Innovation
Für Entwickler, Studios und Node-Betreiber zeigen Maschinen wie der Ryzen AI Halo, wohin sich Edge-Hardware entwickelt: Mehr von der Echtzeit-Arbeit, die heute in Rechenzentren läuft, kann auf einer einzigen Maschine neben ihrem Nutzer laufen. Wir sehen dort eine echte Chance, auf AMDs Hardware aufzubauen.
über YOM
YOM betreibt den GPU-Session-Edge: GPUs direkt neben jedem Nutzer, bezahlt pro Session. Gaming-PCs im Besitz ihrer Hosts und Telko-Racks in Nutzernähe betreiben Game-Streaming (YOM Games und Walter auf walter.gg für Spieler) und Live-KI-Gespräche (YOM AI). Eine Standard-Session von bis zu einer Stunde kostet US$0.08; eine Stunde Spielen auf einer reservierten Rechenzentrums-GPU kostet US$1.23. Mediane Latenz in eine Richtung, live gemessen über die letzten 30 Tage: 20 ms für Spieler im Umkreis von 50 km um einen Node, 37.1 ms über alle Sessions (yom.net/source-of-truth).
das Netz unter all dem
Echtzeit-Workloads müssen in der Nähe laufen
Etwa fünfzig Kilometer von der Person entfernt, die darauf wartet. Die Hardware so nah an den Menschen gibt es schon, und das meiste davon ist ausgeschaltet.