GPUs AMD na rede de borda da YOM: prova de conceito
Rodamos a nossa rede de borda em GPUs AMD em uma prova de conceito. Ela ainda não está no ar em produção. Veja o que testamos, o que foi preciso e por que uma rede não deveria depender de um único fornecedor de GPU.
A YOM concluiu uma prova de conceito rodando a nossa rede de borda em GPUs AMD. As GPUs NVIDIA fazem a rede funcionar hoje, têm suporte total, e isso não muda. O que muda é que um PC ou servidor com uma GPU AMD poderá entrar na mesma rede.
Este texto conta o que fizemos, o que ainda não está no ar e por que achamos que qualquer rede de infraestrutura fica mais forte quando não depende de um único fornecedor.
O que fizemos
PCs com GPUs AMD foram testados e funcionaram com o NANO. Também começamos o desenvolvimento de servidores para locais de torres de telecomunicações, para acompanhar a implantação do NANO (o que os locais de torres acrescentam).
O que isto ainda não é
Uma prova de conceito mostra que algo funciona. Não é o mesmo que estar no ar na rede. Hoje, hosts e jogadores ainda não estão rodando em nós AMD em produção. Quando isso mudar, avisaremos aqui e no nosso Discord, com o que tem suporte e o que não tem.
O que foi preciso
Uma GPU não é uma peça única e intercambiável. Três coisas diferem entre fabricantes para uma rede como a nossa:
- Drivers. Cada fabricante tem a sua própria pilha de drivers, e ela precisa ser instalada e atualizada sem problemas na máquina do host.
- Codificação de vídeo. Transmitir um jogo significa codificar vídeo na GPU, e o hardware e o software do codificador são diferentes nas placas de cada fabricante.
- Ferramentas de contêiner. Toda sessão roda em seu próprio contêiner, e dar a um contêiner acesso à GPU funciona de forma diferente para cada fabricante.
Estamos construindo isso para que o nó detecte qual GPU tem quando inicia. Os hosts não escolherão um fabricante nem mudarão nenhuma configuração. Os nós NVIDIA seguirão o mesmo caminho de sempre.
Por que estamos fazendo isso
O trabalho em tempo real exige uma GPU perto do usuário, por isso colocamos GPUs ao lado dos usuários, em casas e em torres de telecomunicações, em vez de em poucos grandes locais. Espalhar a carga assim também evita um ponto único de pressão sobre uma rede elétrica, um abastecimento de água ou uma comunidade local.
O suprimento de hardware funciona da mesma forma. Uma rede que depende de um único fabricante para todas as GPUs herda o suprimento, os preços e as decisões de produto desse fabricante. Uma rede que pode usar mais de um tem mais opções num dia ruim e mais gente que pode entrar.
Esse é o argumento a favor do suporte a AMD, e é um argumento de engenharia, não uma declaração sobre mais ninguém. Queremos que hosts com o hardware que já possuem possam entrar, e queremos que a rede continue funcionando aconteça o que acontecer em uma parte da cadeia de suprimentos.
Há também um motivo prático ligado aos jogos. PlayStation e Xbox usam gráficos AMD, então grande parte dos jogos que as pessoas jogam já é construída e ajustada para hardware AMD.
O que vem a seguir
Estamos trabalhando para levar nós AMD à produção, nos servidores para torres de telecomunicações e em sessões de IA ao vivo ao lado dos jogos. Se você tem um PC com GPU AMD, acompanhe o nosso Discord e este blog: avisaremos quando os nós AMD puderem entrar na rede.
GPUs NVIDIA e AMD, a mesma rede. Mais formas de entrar, menos pontos únicos de falha.
sobre a YOM
A YOM opera a borda de sessões de GPU: GPUs ao lado de cada usuário, pagas por sessão. PCs gamer de propriedade dos seus hosts, e racks de telecomunicações perto dos usuários, rodam streaming de jogos (YOM Games, e a Walter em walter.gg para os jogadores) e conversas de IA ao vivo (YOM AI). Uma sessão Standard de até uma hora custa US$0.08; uma hora de jogo em uma GPU reservada de data center custa US$1.23. Latência mediana em um sentido, medida ao vivo nos últimos 30 dias: 20 ms para jogadores a até 50 km de um nó, 37.1 ms em todas as sessões (yom.net/source-of-truth).
a rede por baixo de tudo isso
trabalho em tempo real precisa acontecer perto
A cerca de cinquenta quilômetros de quem está esperando. O hardware tão perto das pessoas já existe, e quase todo ele está desligado.