Nvidia và AMD : So sánh các dịch vụ GPU

Các nhà sản xuất chip Nvidia và AMD đều cung cấp GPU được tối ưu hóa cho các trung tâm dữ liệu lớn. So sánh hai nhà cung cấp để quyết định xem cái nào phù hợp nhất với yêu cầu kinh doanh của bạn.

GPU ban đầu được phát triển như các bộ tăng tốc chức năng cố định để tăng tốc tính toán đồ họa đòi hỏi cao, nhưng sau đó đã phát triển thành các động cơ tính toán có thể được lập trình hoàn toàn. Hiện nay, các tổ chức thường sử dụng GPU cho các tác vụ như đào tạo các mô hình học máy hoặc tính toán hiệu năng cao (HPC).

Các tổ chức hy vọng tăng tốc xử lý đồ họa trong trung tâm dữ liệu của mình nên so sánh các phiên bản GPU của Nvidia và AMD để xác định cái nào phù hợp nhất với nhu cầu của họ.

Các sản phẩm GPU của Nvidia

Các tổ chức sử dụng GPU của Nvidia cho một loạt các tải trọng công việc trung tâm dữ liệu, bao gồm việc đào tạo máy học và vận hành các mô hình học máy. GPU của Nvidia cũng có thể tăng tốc các tính toán trong các mô phỏng siêu máy tính, chẳng hạn như mô hình tài chính hoặc dự báo thời tiết cực đoan. Ngoài ra, đối tác của Nvidia, OmniSci, đã phát triển một nền tảng với cơ sở dữ liệu tăng tốc GPU, hệ thống độ họa và trực quan hóa có thể cung cấp kết quả phân tích nhanh hơn nhiều so với các phương pháp thường hiệu quả.

GPU Nvidia A100

GPU Nvidia A100 – sản phẩm mới nhất của Nvidia – được xây dựng trên kiến trúc Ampere thay thế cho kiến trúc Volta và Turing. Bộ gia tốc GPU A100 có 108 streaming multiprocessors, mỗi multiprocessor bao gồm bốn Tensor Cores thế hệ thứ ba của Nvidia và 64 FP32 CUDA Cores. Tensor Core là một đơn vị xử lý chuyên biệt được tối ưu hóa cho các phép tính ma trận 4×4, giúp tăng tốc tính toán học máy đáng kể. Tensor Cores cũng có các cải tiến cho sự hiểu biết về thưa thớt tinh vi thường gặp trong các tải động lực học máy và tính toán cao.

Vi mạch GA100 là trái tim của bộ gia tốc GPU này có mười hai điều khiển bộ nhớ Bộ nhớ Thông lượng Băng rộng cao (High Bandwidth Memory – HBM) thế hệ thứ hai với chiều rộng 512 bit, cung cấp cho sáu ngân hàng của bộ nhớ HBM2 được xếp chồng lên nhau. Khi ra mắt, A100 được trang bị 40GB bộ nhớ, cung cấp băng thông bộ nhớ 1.555 GBps, nhưng Nvidia đã ra mắt phiên bản mới vào tháng 11 năm 2020 với bộ nhớ kép 80GB và tăng băng thông bộ nhớ lên 2 TBps.

Nền Tảng CUDA

Nvidia cũng cung cấp hỗ trợ phần mềm CUDA cho các nhà phát triển, chẳng hạn như Bộ công cụ CUDA bao gồm các thư viện tăng tốc GPU, trình biên dịch, các công cụ phát triển và thời gian chạy CUDA. Tổ chức có thể xây dựng các khung máy học xung quanh CUDA để hỗ trợ gia tốc GPU.

Các sản phẩm GPU của AMD

GPU Instinct MI100 của AMD được ra mắt vào năm 2020, nhắm đến các tải động tính toán khoa học. AMD đã chia sẻ hiệu quả danh mục GPU của mình thành các mô hình hướng đến trò chơi – với kiến trúc Radeon DNA của mình – và các mô hình hiệu suất trung tâm dữ liệu, chẳng hạn như kiến trúc Compute DNA trong Instinct MI100.

Instinct MI100 được thiết kế với 120 đơn vị tính toán (CUs) được chia thành 8 khối và kết nối bằng một mạch trên chip, điều này có nghĩa là chúng được kết nối ở mức độ chip. Tương tự như GPU của Nvidia, các CUs bao gồm các đơn vị xử lý dòng nhỏ hơn được gọi là bộ xử lý dòng (stream processors), mỗi CU có 64 bộ xử lý dòng. AMD cũng sử dụng bộ nhớ HBM2 và GPU của họ có bốn ngân hàng, cung cấp tổng cộng 32 GB bộ nhớ và băng thông tổng thể của bộ nhớ là 1,23 TBps.

Các đơn vị tính toán trong Instinct MI100 có tính năng Matrix Core Engines được tối ưu hóa cho các loại dữ liệu ma trận thường được sử dụng trong học máy. Nó cũng hỗ trợ các định dạng số mới cho học máy và giữ nguyên tính tương thích với các phần mềm đã viết cho kiến trúc GPU của AMD.

Nền Tảng ROCm

AMD cung cấp một nền tảng phát triển phần mềm được gọi là ROCm. ROCm, một nền tảng mở, cho phép các nhà phát triển viết và biên dịch mã cho nhiều môi trường khác nhau, bao gồm cả GPU của Nvidia. Nó hỗ trợ các framework học máy phổ biến như TensorFlow và PyTorch. ROCm cũng cung cấp các con đường để chuyển mã CUDA của Nvidia sang phần cứng AMD.

So sánh giữa GPU của Nvidia và AMD

So sánh trực tiếp giữa các con số hiệu suất GPU của Nvidia và AMD cho thấy AMD có lợi thế so với Nvidia, với tốc độ lên đến 11,5 teraflops trong điểm động dấu phẩy 64-bit (FP64) và tốc độ lên đến 23,1 teraflops trong FP32, so với Nvidia có tốc độ 9,7 teraflops trong FP64 và 19,5 teraflops trong FP32. Tuy nhiên, GPU A100 của Nvidia có các cải tiến quan trọng để tăng tốc chức năng AI và bao gồm nhiều bộ nhớ hơn so với GPU của AMD. AMD là một đối thủ đáng gờm của Nvidia khi nói đến HPC, nhưng Nvidia vẫn giữ ưu thế về tăng tốc AI, theo Moor Insights & Strategy.

Nvidia hiện có một khung lập trình đã trưởng thành hơn trong CUDA, nhưng ROCm của AMD hoạt động như một nền tảng đa năng cho tính toán được tăng tốc trên bất kỳ GPU nào. Khách hàng tiềm năng nên tự đánh giá hiệu suất dựa trên các ứng dụng và công cụ mà họ muốn chạy.