AMD'nin ryzen AI halo'su ve uç
AMD'nin Ryzen AI Halo platformu, küçük bir masaüstü makineye 96GB'a kadar grafik belleği sığdırıyor. Onun gibi donanımlar, gerçek zamanlı yapay zekânın ve oyunların kullanıcının yanındaki tek bir makinede çalışmasını sağlayan şeydir.
Gerçek zamanlı yapay zekâ, oyun akışı ve web’de etkileşimli 3D’nin hepsi kullanıcının yakınında bir GPU gerektirir (mesafe neden önemli) ve merkezi veri merkezleri bu GPU’yu pahalı kılar (bir GPU saati neyin bedelini öder). AMD’nin yeni duyurulan Ryzen AI Halo Developer Platform’u, bu işin ne kadarını uçtaki tek bir makinenin artık taşıyabildiğini gösteriyor.
belleğin duvarını kaldıran donanım
Uçtaki makineler, tüketici ekran kartlarının grafik belleğiyle sınırlı kaldı. Yüksek kaliteli bir oyunu akışla sunmak ya da canlı bir yapay zekâ modelini tek bir makinede tutmak, ham hız kadar belleğe de ihtiyaç duyar.
AMD’nin amiral gemisi Ryzen AI Max+ 395 işlemcisi 128GB birleşik belleğe sahip ve bunun 96GB’a kadarı grafik belleği olarak ayrılabiliyor. Bu, küçük bir makinenin eskiden birkaç bulut sunucusu gerektiren işi üstlenmesini sağlıyor.
uçta bunun anlamı
YOM, GPU seans edge’ini işletir: her kullanıcının yanında GPU’lar, seans başına ödemeli. Bugün bu GPU’lar host’lara ait oyun bilgisayarları ve kullanıcıların yakınındaki telekom rafları; AMD GPU’lar da ağda bir kavram kanıtında zaten çalıştı. Ryzen AI Halo’nunki gibi bir bellek en çok YOM AI için önemli: bir alıcının kendi konuşma ve dil modelleri üzerinde, konuşanın yanında tek bir seansta tutulan canlı yapay zekâ seansları. AMD’nin açık ROCm yazılım yığını da tek bir GPU tedarikçisine bağlı olmaması gereken bir ağa uyuyor.
yeniliğe çağrı
Geliştiriciler, stüdyolar ve node operatörleri için Ryzen AI Halo gibi makineler uç donanımın nereye gittiğini gösteriyor: bugün veri merkezlerinde çalışan gerçek zamanlı işin daha fazlası, kullanıcısının yanındaki tek bir makinede çalışabilir. Orada AMD’nin donanımı üzerine inşa etmek için gerçek bir fırsat görüyoruz.
YOM hakkında
YOM, GPU seans edge’ini işletir: her kullanıcının yanında GPU’lar, seans başına ödemeli. Host’lara ait oyun bilgisayarları ve kullanıcıların yakınındaki telekom rafları, oyun akışını (YOM Games ve oyuncular için walter.gg adresindeki Walter) ve canlı yapay zekâ konuşmalarını (YOM AI) çalıştırır. Bir saate kadar süren bir Standard seans US$0.08 tutar; zirve için ayrılmış bir veri merkezi GPU’sunda bir saatlik oyun US$1.23 tutar. Son 30 günde canlı ölçülen tek yönlü medyan gecikme: bir node’un 50 km yakınındaki oyuncular için 20 ms, tüm seanslarda 37.1 ms (yom.net/source-of-truth).
tüm bunların altındaki ağ
gerçek zamanlı iş yakın bir yerde yapılmalıdır
Onu bekleyen kişiden yaklaşık elli kilometre uzakta. İnsanlara bu kadar yakın donanım zaten var ve çoğu kapalı duruyor.