Hệ thống DGX H100 đầu tiên của FPT về Việt Nam. Ảnh: Trần Huấn |
Ngày 9/5, FPT đã chính thức nhập khẩu hệ thống máy chủ DGX H100 đầu tiên, bước đầu hiện thực hóa dự án hợp tác chiến lược nhằm thúc đẩy phát triển trí tuệ nhân tạo tại Việt Nam cùng NVIDIA.
DGX H100 về Việt Nam sau hai tuần diễn ra lễ ký kết hợp tác giữa hai tập đoàn công nghệ trong việc xây dựng nhà máy AI. Đại diện FPT Smart Cloud, đơn vị phụ trách triển khai dự án, cho biết đây là đợt nhập khẩu hệ thống đầu tiên để đảm bảo tiến độ tích hợp công nghệ, xây dựng những siêu máy tính phục vụ phát triển trí tuệ nhân tạo, từng bước triển khai kế hoạch xây dựng AI Factory.
Loạt hệ thống DGX-H100 còn lại sẽ được đưa về Việt Nam trong thời gian tới để hoàn thiện công nghệ, đẩy nhanh tiến độ nghiên cứu và phát triển sản phẩm, tạo tiền đề xây dựng các giải pháp, dịch vụ AI và Cloud thế hệ mới.
Đây là hệ thống máy chủ tiên tiến nhất của NVIDIA, là cỗ máy AI mạnh nhất hiện nay, được hàng loạt công ty công nghệ hàng đầu thế giới như Tesla, Meta, Microsoft… săn đón. Từ cuối năm 2023, nhu cầu về sản phẩm không ngừng tăng cao. Các doanh nghiệp phải chờ từ 36 đến 52 tuần khi đặt hàng với NVIDIA, theo báo cáo phân tích từ Omdia.
Trước đó, vào cuối tháng 4/2024, FPT đã hợp tác với NVIDIA triển khai dự án Nhà máy trí tuệ nhân tạo (AI Factory) nhằm phát triển hệ sinh thái AI và Cloud có chủ quyền tại Việt Nam.
FPT và NVIDIA dự kiến xây dựng Nhà máy Trí tuệ nhân tạo, đào tạo nguồn nhân lực chất lượng cao và trở thành Đối tác phát triển dịch vụ trong mạng lưới đối tác của NVIDIA.
Hợp tác cùng NVIDIA trong dự án xây dựng AI Factory tại Việt Nam, FPT sẽ cung cấp dịch vụ đám mây GPU giúp khách hàng doanh nghiệp của FPT trên toàn cầu tiếp cận với nguồn lực cốt lõi nhất để nâng cao năng lực nghiên cứu, đẩy nhanh tốc độ ứng dụng AI, đặc biệt là AI tạo sinh (Generative AI), đạt được những đột phá trong nâng cao năng suất, trải nghiệm khách hàng.
Cận cảnh cỗ máy AI DGX-H100 được cấp phép nhập khẩu tại Việt Nam. Ảnh: Trần Huấn |
Mỗi máy chủ DGX H100 chứa 8 GPU H100 kết nối qua NVIDIA NVLink, kết hợp cùng chip Intel Xeon Platinum 8480C kép, tổng cộng 112 lõi và bộ nhớ hệ thống 2TB phục vụ cho các công việc AI chuyên sâu nhất. Bên cạnh đó là hai NVIDIA BlueField-3 DPU để giảm tải, tăng tốc và cô lập các dịch vụ mạng, lưu trữ và bảo mật nâng cao.
DGX H100 sở hữu hiệu suất cao hơn 6 lần và kết nối mạng nhanh hơn 2 lần so với máy chủ thế hệ trước, đáp ứng các yêu cầu tính toán khổng lồ với hàng nghìn tỷ thông số của các mô hình ngôn ngữ lớn (LLM), hệ thống khuyến nghị, nghiên cứu y tế và lĩnh vực khoa học khí hậu.
DGX H100 giúp xây dựng nền tảng trí tuệ nhân tạo tinh chỉnh, hệ thống hóa và có khả năng mở rộng giúp các doanh nghiệp xử lý ngôn ngữ, phân tích dữ liệu…
Đây cũng là hệ thống nền tảng tạo nên Eos - siêu máy tính mạnh nhất của NVIDIA, đứng thứ 9 trong số các siêu máy tính nhanh nhất thế giới. NVIDA khẳng định: DGX H100 có thể vượt qua các ranh giới về công nghệ và cơ sở hạ tầng AI.
Ngoài huấn luyện AI, H100 cũng được Tesla dùng để phát triển các sản phẩm xe tự lái, hay startup Xeureka của Nhật Bản sử dụng để nghiên cứu thuốc, cải thiện hoạt động khám chữa và điều trị bệnh.
V.A
Ý kiến
()