o ryzen AI halo da AMD e a borda
A plataforma Ryzen AI Halo da AMD coloca até 96GB de memória gráfica em uma pequena máquina de mesa. É um hardware assim que permite rodar IA em tempo real e jogos em uma única máquina ao lado do usuário.
IA em tempo real, streaming de jogos e 3D interativo na web precisam, todos, de uma GPU perto do usuário (por que a distância importa), e os data centers centralizados tornam essa GPU cara (pelo que uma hora de GPU paga). A recém-anunciada Ryzen AI Halo Developer Platform da AMD mostra quanto desse trabalho uma única máquina na borda já consegue carregar.
hardware que remove o muro de memória
As máquinas na borda vinham sendo limitadas pela memória gráfica das placas de vídeo de consumo. Transmitir um jogo de alta fidelidade ou manter um modelo de IA ao vivo em uma única máquina exige memória tanto quanto velocidade bruta.
O carro-chefe da AMD, o Ryzen AI Max+ 395, tem 128GB de memória unificada, dos quais até 96GB podem ser alocados como memória gráfica. Isso permite que uma pequena máquina assuma um trabalho que antes exigia vários servidores em nuvem.
o que isso significa na borda
A YOM opera a borda de sessões de GPU: GPUs ao lado de cada usuário, pagas por sessão. Hoje essas GPUs são PCs gamer de propriedade dos seus hosts, mais racks de telecomunicações perto dos usuários, e GPUs AMD já rodaram na rede em uma prova de conceito. Uma memória como a do Ryzen AI Halo importa mais para a YOM AI, sessões de IA ao vivo com os modelos de fala e de linguagem do próprio comprador, mantidas em uma única sessão perto de quem fala. O stack de software aberto ROCm da AMD também combina com uma rede que não deveria depender de um único fornecedor de GPU.
um chamado à inovação
Para desenvolvedores, estúdios e operadores de nós, máquinas como o Ryzen AI Halo mostram para onde caminha o hardware de borda: mais do trabalho em tempo real que hoje roda em data centers poderá rodar em uma única máquina ao lado do seu usuário. Vemos aí uma oportunidade real de construir sobre o hardware da AMD.
sobre a YOM
A YOM opera a borda de sessões de GPU: GPUs ao lado de cada usuário, pagas por sessão. PCs gamer de propriedade dos seus hosts, e racks de telecomunicações perto dos usuários, rodam streaming de jogos (YOM Games, e a Walter em walter.gg para os jogadores) e conversas de IA ao vivo (YOM AI). Uma sessão Standard de até uma hora custa US$0.08; uma hora de jogo em uma GPU reservada de data center custa US$1.23. Latência mediana em um sentido, medida ao vivo nos últimos 30 dias: 20 ms para jogadores a até 50 km de um nó, 37.1 ms em todas as sessões (yom.net/source-of-truth).
a rede por baixo de tudo isso
trabalho em tempo real precisa acontecer perto
A cerca de cinquenta quilômetros de quem está esperando. O hardware tão perto das pessoas já existe, e quase todo ele está desligado.