AMD Ryzen AI MAX+ giờ có 96 GB bộ nhớ đồ họa

Team Red thực sự là một trong những hãng dẫn đầu trong việc đưa khả năng tính toán AI mạnh mẽ vào các thiết bị dành cho người tiêu dùng thông qua các bộ xử lý XDNA của mình.

Các sản phẩm APU của AMD, như trong dòng Strix Point và Strix Halo, cung cấp hiệu suất AI cao hàng đầu trên thị trường, và giờ đây, AMD đã nâng khả năng AI biên (edge AI) lên một tầm cao mới.

Phiên bản driver Adrenalin Edition 25.8.1 mới nhất của công ty đã hỗ trợ các mô hình LLM với tới 128 tỷ tham số, giúp các thiết bị người dùng có thể chạy các mô hình như Meta’s Llama 4 Scout – một thành tựu độc nhất vô nhị.

Điều thú vị là thông qua công nghệ Bộ nhớ Đồ họa Biến đổi (Variable Graphics Memory – VGM) của AMD, người dùng có thể cung cấp tới 96 GB bộ nhớ đồ họa cho iGPU, cho phép các mô hình quy mô lớn chạy trực tiếp trên thiết bị. Mô hình Llama được đề cập là một triển khai dựa trên MoE (Mixture of Experts), chỉ sử dụng 17 tỷ tham số khi chạy, nhưng dù vậy, người dùng vẫn có thể đạt được chỉ số TPS (Throughput per Second) tốt, giúp LLM hoạt động như một trợ lý AI vô cùng mạnh mẽ.

Quan trọng hơn, AMD đã có những bước tiến lớn về kích thước ngữ cảnh của mô hình. Trong khi tiêu chuẩn ngành với các bộ xử lý dành cho người tiêu dùng thường chỉ khoảng 4096 token, AMD đã nâng con số này lên gấp nhiều lần, đạt tới 256.000 token, giúp người dùng kiểm soát quy trình làm việc tốt hơn nhiều và không còn phải lo ngại về hiệu suất.

Đây là những con số ấn tượng từ AMD, chứng minh rằng cơn sốt "tính toán AI" thực sự đã lan rộng tới các PC dành cho người tiêu dùng.

Tuy nhiên, những tiến bộ của AMD trong lĩnh vực tính toán AI thực sự mang lại nhiều hy vọng, giúp "sức mạnh AI" trở nên phổ biến hơn với mọi người, dù bạn sẽ cần một khoản ngân sách lớn để sở hữu các thiết bị hiện có.

./.

M.P Theo Wccftech