AMDのRyzen AI haloとエッジ
AMDのRyzen AI Haloプラットフォームは、最大96GBのグラフィックスメモリを小型のデスクトップマシンに載せます。このようなハードウェアこそが、リアルタイムAIやゲームを、ユーザーの隣の一台のマシンで動かせるようにします。
リアルタイムAI、ゲームストリーミング、ウェブ上のインタラクティブな3Dは、いずれもユーザーの近くのGPUを必要とし(距離が重要な理由)、中央集権型のデータセンターはそのGPUを高価にします(GPU1時間が何の対価なのか)。AMDが新たに発表したRyzen AI Halo Developer Platformは、そうした処理のどれだけを、エッジの一台のマシンが今や担えるかを示しています。
メモリの壁を取り除くハードウェア
エッジのマシンは、コンシューマー向けグラフィックスカードのグラフィックスメモリに制限されてきました。高品位なゲームをストリーミングしたり、ライブAIモデルを一台のマシンに保持したりするには、生の速度と同じくらいメモリが必要です。
AMDのフラッグシップであるRyzen AI Max+ 395は128GBのユニファイドメモリを備え、そのうち最大96GBをグラフィックスメモリとして割り当てられます。これにより、以前は複数のクラウドサーバーが必要だった処理を、小さな一台のマシンで引き受けられます。
エッジにとっての意味
YOMはGPUセッションエッジを運営しています。すべてのユーザーの近くにGPUを置き、セッション単位で課金します。現在、そのGPUは、ホストが所有するゲーミングPCと、ユーザーの近くにある通信事業者のラックで、AMD GPUはすでに概念実証でネットワーク上で動作しました。Ryzen AI Haloのようなメモリが最も重要になるのは、YOM AIです。これは、購入者自身の音声モデルと言語モデルによるライブAIセッションで、話し手の近くの一つのセッションに保持されます。AMDのオープンなROCmソフトウェアスタックも、単一のGPUサプライヤーに依存すべきでないネットワークに合います。
イノベーションへの呼びかけ
開発者、スタジオ、そしてノードオペレーターにとって、Ryzen AI Haloのようなマシンは、エッジハードウェアがどこへ向かっているかを示しています。今日データセンターで動いているリアルタイム処理の、より多くが、ユーザーの隣の一台のマシンで動かせるようになります。私たちは、そこでAMDのハードウェアを土台に構築する本物の機会があると考えています。
YOMについて
YOMは、GPUセッションエッジを運営しています。すべてのユーザーのすぐ近くにGPUを置き、セッションごとに料金をいただきます。ホストが所有するゲーミングPCと、ユーザーの近くにあるテレコムのラックが、ゲームストリーミング(YOM Games、プレイヤー向けにはwalter.ggのWalter)とライブAI会話(YOM AI)を実行します。最大1時間のStandardセッションの料金はUS$0.08で、予約済みのデータセンターGPUでの1時間のプレイはUS$1.23です。過去30日間にライブで計測した片道レイテンシの中央値は、ノードから50 km以内のプレイヤーで20 ms、全セッションで37.1 msです(yom.net/source-of-truth)。
そのすべてを支えるネットワーク
リアルタイムの処理は近くで行う必要があります
待っている人から約五十キロメートルの距離です。人々のすぐ近くにあるハードウェアはすでに存在し、その大半は電源が切れたままです。