NVIDIA giới thiệu tương lai của AI Compute

NVIDIA đã giới thiệu phương pháp của mình với các bộ tăng tốc AI thế hệ tiếp theo, trình diễn một ứng dụng "silicon photonic" sáng tạo tại hội nghị IEDM 2024.

Với các kỹ thuật đóng gói hiện đại, ngành công nghiệp đã đạt đến điểm mà nhu cầu đổi mới là cấp thiết, khi nhu cầu tính toán AI ngày càng tăng mạnh theo thời gian. Mỗi khi có cuộc thảo luận về tương lai của công nghệ đóng gói, silicon photonics (SiPh) được coi là một phương pháp thay thế khả thi cho các phương pháp truyền thống.

Điều thú vị là tại hội nghị IEDM 2024, NVIDIA đã trình bày một chiến lược độc đáo (thông qua Ian Cutress) cho các bộ tăng tốc thế hệ tiếp theo, bao gồm việc sử dụng một lớp giao tiếp SiPh và xếp chồng các tấm GPU theo chiều dọc cho một sản phẩm tính toán quy mô lớn.

Cách tiếp cận của NVIDIA đề xuất tích hợp các lớp giao tiếp silicon photonics, thay thế các kết nối điện thông thường. Việc sử dụng SiPh mang lại nhiều lợi ích, có thể bao gồm băng thông cao hơn, độ trễ thấp hơn và là phương pháp tiết kiệm năng lượng hơn so với các phương pháp khác.

Không chỉ các lớp giao tiếp, NVIDIA còn lên kế hoạch sử dụng 12 lớp SiPh trong giao tiếp giữa các vi mạch và trong mỗi vi mạch, tối ưu hóa luồng dữ liệu giữa các tấm GPU riêng lẻ, điều này rất quan trọng cho khả năng mở rộng và hiệu suất.

Một điểm đặc biệt trong tầm nhìn của NVIDIA là kỹ thuật xếp chồng GPU, khi công ty đã tiết lộ việc sử dụng "xếp chồng 3D", tức là xếp chồng nhiều tấm GPU theo chiều dọc, để tăng mật độ vi mạch và giảm diện tích chiếm dụng.

NVIDIA gọi cấu hình này là "GPU tier," với bốn tấm GPU trong một tầng, tất cả được xếp chồng theo chiều dọc, để giảm độ trễ kết nối và có thể thực hiện tắt nguồn từng phần (power gating) vì đây sẽ là một khả năng. Không chỉ có GPU, NVIDIA cũng sẽ xếp chồng 3D các chip DRAM, sáu chip mỗi tấm.

Mặc dù đây là một phương pháp đầy lạc quan, nhưng tầm nhìn của NVIDIA đối mặt với nhiều phức tạp, đặc biệt là với việc công nghệ silicon photonics hiện nay còn "nghiệp dư," vì đây là một tiêu chuẩn khá mới.

NVIDIA cần chứng kiến SiPh được sản xuất với số lượng lớn trước khi có thể tích hợp nó vào sản phẩm đại trà, và điều này sẽ mất một thời gian dài. Bên cạnh đó, việc xếp chồng 3D mạnh mẽ sẽ khiến nhiệt độ trở thành vấn đề lớn, buộc NVIDIA phải tích hợp giải pháp làm mát trong vi mạch, điều này hiện tại vẫn chưa được công bố.

./.

M.P theo Wccftech