GPU AMD trên mạng edge của YOM: bản chứng minh khái niệm
Chúng tôi đã chạy mạng edge của mình trên GPU AMD trong một bản chứng minh khái niệm. Nó chưa hoạt động trong môi trường production. Đây là những gì chúng tôi đã thử nghiệm, những gì nó đòi hỏi, và vì sao một mạng lưới không nên phụ thuộc vào một nhà cung cấp GPU.
YOM đã hoàn tất một bản chứng minh khái niệm chạy mạng edge của chúng tôi trên GPU AMD. GPU NVIDIA đang chạy mạng lưới hôm nay, chúng được hỗ trợ đầy đủ, và điều đó không thay đổi. Điều thay đổi là một PC hay máy chủ có GPU AMD sẽ có thể tham gia cùng mạng lưới đó.
Bài viết này nói về những gì chúng tôi đã làm, những gì chưa hoạt động, và vì sao chúng tôi nghĩ bất kỳ mạng hạ tầng nào cũng mạnh hơn khi không phụ thuộc vào một nhà cung cấp duy nhất.
Những gì chúng tôi đã làm
Các PC có GPU AMD đã được thử nghiệm và hoạt động được với NANO. Chúng tôi cũng đã bắt đầu phát triển các máy chủ cho các địa điểm tháp viễn thông, song song với việc triển khai NANO (các địa điểm tháp bổ sung điều gì).
Những gì đây chưa phải là
Một bản chứng minh khái niệm cho thấy một điều gì đó hoạt động được. Nó không giống với việc đã hoạt động trên mạng lưới. Hiện nay, các host và người chơi chưa chạy trên các node AMD trong môi trường production. Khi điều đó thay đổi, chúng tôi sẽ thông báo tại đây và trên Discord của chúng tôi, kèm theo những gì được hỗ trợ và những gì không.
Những gì nó đòi hỏi
Một GPU không phải là một bộ phận có thể thay thế cho nhau một cách đơn giản. Với một mạng lưới như của chúng tôi, có ba điểm khác nhau giữa các hãng:
- Driver. Mỗi hãng có bộ driver riêng, và nó phải được cài đặt và cập nhật gọn gàng trên máy của host.
- Mã hóa video. Stream một game nghĩa là mã hóa video trên GPU, và phần cứng cùng phần mềm bộ mã hóa khác nhau trên card của mỗi hãng.
- Công cụ container. Mỗi phiên chạy trong container riêng của nó, và việc cho container quyền truy cập GPU hoạt động khác nhau với mỗi hãng.
Chúng tôi đang xây dựng điều này để node tự phát hiện nó có GPU nào khi khởi động. Các host sẽ không phải chọn hãng hay thay đổi cài đặt. Các node NVIDIA sẽ đi theo con đường như chúng vẫn luôn đi.
Vì sao chúng tôi làm điều này
Công việc thời gian thực cần một GPU ở gần người dùng, nên chúng tôi đặt GPU cạnh người dùng, trong các ngôi nhà và trên các tháp viễn thông, thay vì trong một vài địa điểm lớn. Phân tán tải theo cách đó cũng tránh tạo ra một điểm chịu áp lực duy nhất lên một lưới điện, một nguồn cấp nước hay một cộng đồng địa phương.
Nguồn cung phần cứng cũng vận hành theo cách như vậy. Một mạng lưới phụ thuộc vào một hãng cho mọi GPU sẽ thừa hưởng nguồn cung, giá cả và các quyết định sản phẩm của hãng đó. Một mạng lưới có thể dùng nhiều hơn một hãng có nhiều lựa chọn hơn vào một ngày xấu và có nhiều người hơn có thể tham gia.
Đó là lý do cho việc hỗ trợ AMD, và đó là một lý do kỹ thuật, không phải một tuyên bố về bất kỳ ai khác. Chúng tôi muốn các host với phần cứng họ đã sở hữu có thể tham gia, và chúng tôi muốn mạng lưới tiếp tục chạy dù điều gì xảy ra ở một phần của chuỗi cung ứng.
Cũng có một lý do thực tế về game. PlayStation và Xbox đều dùng đồ họa AMD, nên một phần lớn các game mà mọi người chơi đã được xây dựng và tinh chỉnh sẵn cho phần cứng AMD.
Tiếp theo là gì
Chúng tôi đang làm việc để đưa các node AMD vào production, trên các máy chủ cho tháp viễn thông, và trên các phiên AI trực tiếp bên cạnh game. Nếu bạn có một PC với GPU AMD, hãy theo dõi Discord của chúng tôi và blog này: chúng tôi sẽ thông báo khi các node AMD có thể tham gia mạng lưới.
GPU NVIDIA và AMD, cùng một mạng lưới. Nhiều cách tham gia hơn, ít điểm lỗi duy nhất hơn.
về YOM
YOM vận hành GPU session edge: GPU đặt cạnh mọi người dùng, trả theo từng phiên. Các máy chơi game thuộc sở hữu của host, cùng các rack của nhà mạng viễn thông đặt gần người dùng, chạy streaming game (YOM Games, và Walter tại walter.gg dành cho người chơi) và các cuộc trò chuyện AI trực tiếp (YOM AI). Một phiên Standard dài tới một giờ có giá US$0.08; một giờ chơi trên GPU trung tâm dữ liệu được đặt trước có giá US$1.23. Độ trễ một chiều trung vị, đo trực tiếp trong 30 ngày qua: 20 ms với người chơi trong phạm vi 50 km quanh một node, 37.1 ms trên tất cả các phiên (yom.net/source-of-truth).
mạng lưới bên dưới tất cả những điều này
công việc thời gian thực phải diễn ra ở gần
Cách người đang chờ khoảng năm mươi cây số. Phần cứng ở gần mọi người đến thế đã có sẵn, và phần lớn đang tắt.