NVIDIA vừa công bố máy chủ dành cho AI – DGX Station 320G hoàn toàn mới sử dụng GPU Ampere A100 Tensor Core mới nhất. Sản phẩm nhắm đến thị trường AI, machine learning và khoa học dữ liệu cho các văn phòng, công ty, cơ sở nghiên cứu, phòng thí nghiệm ở khắp mọi nơi. Theo NVIDIA, DGX Station 320G được thiết kế để trở thành máy chủ nhanh nhất trong bán sẵn dành riêng cho nghiên cứu AI.
Khách hàng tiềm năng mà Nvidia hướng tới bao gồm BMW Group Production, DFKI – Trung tâm nghiên cứu AI tại Đức, Lockheed Martin, NTT Docomo, Pacific Northwest National Laboratory,…
Cấu hình
Về thông số kỹ thuật hay còn gọi thân thường là cấu hình, NVIDIA DGX Station 320G được trang bị tổng cộng bốn GPU A100 Tensor Core. Đây phải là A100 bản thông thường vì NVIDIA đã có chỉnh sửa 1 chút. Cụ thể, các GPU trong DGX Station được trang bị bộ nhớ HBM2e 80 GB, gấp đôi kích thước bộ nhớ của A100 gốc. Điều này có nghĩa là DGX Station có tổng dung lượng VRAM là 320 GB và hỗ trợ MIG cùng NVLink thế hệ thứ 3, cung cấp băng thông hai chiều giữa bất kỳ cặp GPU nào khoảng 200 GB/s & kết nối liên thông nhanh hơn 3 lần tốc độ PCIe Gen 4. Các thông số kỹ thuật khác của GPU A100 Tensor Core vẫn được giữ nguyên.
4 GPU A100
Bản thân hệ thống này có CPU AMD EPYC Rome 7742 64 nhân với hỗ trợ PCIe Gen 4 đầy đủ, RAM lên đến 512GB, SSD M.2 NVMe 1,92 TB cho hệ điều hành và SSD U.2 NVME lên đến 7,68 TB cho bộ nhớ cache dữ liệu. Về kết nối, hệ thống có 2 chip điều khiển mạng LAN 2×10 GbE, một cổng LAN 1 GbE duy nhất để quản lý từ xa. Máy có 4 cổng xuất hình DisplayPort, hỗ trợ độ phân giải lên đến 4K.
Vi xử lí EPYC của AMD
4 cổng xuất hình 4K
Lên tới 7.68TB SSD NVMe
Về tản nhiệt, cả bốn GPU và CPU đều được làm mát bằng chất làm lạnh, hứa hẹn hoạt động êm ái ở mức 37dB và không cần bảo trì. Toàn bộ hệ thống được cung cấp bởi nguồn 1500W.
Hệ thống tản nhiệt bằng chất làm lạnh
Hiệu năng
Về hiệu năng, DGX Station A100 cung cấp 2,5 Petaflop sức mạnh đào tạo AI & 5 PetaOPS INT8. DGX Station A100 cũng là máy trạm duy nhất thuộc loại này hỗ trợ giao thức MIG (Multi-Instance GPU), cho phép người dùng sử dụng từng GPU cho từng tác vụ khác nhau, cho phép thực thi song song đến 4 tác vụ một cách hiệu quả.
Hiệu năng của máy này tăng ít nhất 1.85 lần so với đời trước
So với DGX Station đời đầu, phiên bản mới tăng 3,17 lần hiệu năng Đào tạo, tăng 4,35 lần hiệu năng Suy luận và tăng 1,85 lần khối lượng công việc theo định hướng HPC.
Giá bán
Mặc dù có hiệu năng khủng như vậy nhưng DGX Station 320G có giá bán cực “rẻ”: 149.000 USD (khoảng 3.438.771.000 vnđ), bạn có thể thuê một bộ với giá 9000 USD/tháng. Sản phẩm sẽ có sẵn trong Quý 2 thông qua các đối tác toàn cầu của NVIDIA.
Nguồn: Wccftech.com
Thẻ: A100ampereNVIDIA