Siêu máy tính mạnh nhất của Nvidia

[june04]

Eos trang bị hơn bốn nghìn GPU Nvidia H100, là siêu máy tính mạnh thứ chín trên thế giới và được tối ưu hóa để trở thành một 'nhà máy AI'.

Eos từng được nhắc đến vào tháng 11 năm ngoái tại sự kiện Supercomputing 2023 ở Denver (Mỹ). Nvidia tuần này đã đăng video chia sẻ chi tiết thông số kỹ thuật và việc sử dụng thực tế. Công ty cho biết siêu máy tính được đặt theo tên nữ thần Hy Lạp Eos, người "mở cánh cổng bình minh mỗi ngày", thể hiện cam kết của hãng trong việc phát triển công nghệ AI.

Về thông số, Eos trang bị 576 hệ thống DGX H100, mỗi hệ thống chứa 8 GPU H100. Tổng cộng, có 4.608 GPU được sử dụng, kết hợp 1.152 chip Intel Xeon Platinum 8480C, mỗi bộ xử lý có 56 nhân.

Theo Tom's Hardware, siêu máy tính này dựa trên kiến trúc DGX SuperPOD, sử dụng mạng và phần mềm Nvidia Quantum-2 InfiniBand với tốc độ truyền dữ liệu 400 Gb/giây, giúp khả năng tính toán đạt 121,4 petaflop (triệu tỷ phép tính mỗi giây) theo phép đo FP64. Trong các tác vụ về AI, theo phép đo FP8, máy đạt khả năng xử lý 18,4 exaflop.

Với sức mạnh điện toán nói trên, Eos đứng thứ 9 trong số các siêu máy tính nhanh nhất thế giới và được hãng khẳng định có thể "vượt qua các ranh giới về công nghệ và cơ sở hạ tầng AI". Eos có thể xử lý khối lượng công việc lớn về AI, như đào tạo mô hình ngôn ngữ lớn, hệ thống gợi ý, mô phỏng lượng tử,... Sản phẩm cũng đáp ứng nhu cầu về "nhà máy AI", giúp phát triển mô hình AI quy mô lớn.

"Thế giới đang thay đổi với AI tạo sinh, từ chatbot cho tới các cỗ máy tự động và hơn thế nữa. Để đạt được những đột phá đó, họ cần một nhà máy AI", Nvidia nêu trong video. Theo hãng, việc tạo một nhà máy AI như Eos giúp doanh nghiệp có thể đảm nhận những dự án với đòi hỏi khắt khe và đạt được khát vọng về AI của con người trong hiện tại và tương lai. Bản thân Nvidia cũng đang sử dụng siêu máy tính này.

Chi phí tạo nên siêu máy tính thường là con số bí mật. Tuy nhiên, mỗi GPU H100 hiện có giá 30-40 nghìn USD, nên số tiền có thể lên tới hàng trăm triệu USD cho riêng phần cứng.