Giới thiệu GPU NVIDIA L40S 48GB GDDR6 PCIe 4.0
GPU NVIDIA L40S là sự kết hợp giữa khả năng tính toán AI mạnh mẽ với đồ họa và khả năng tăng tốc đa phương tiện hàng đầu, GPU L40S được thiết kế để cung cấp năng lượng cho các khối lượng công việc trung tâm dữ liệu thế hệ tiếp theo, từ AI tổng quát và suy luận và đào tạo mô hình ngôn ngữ lớn (LLM) đến đồ họa 3D, kết xuất và xử lý video.
Tính năng nổi bật của NVIDIA L40S
Lõi Tensor thế hệ thứ tư
Lõi Tensor thế hệ thứ tư là một phần cứng được tối ưu hóa để đào tạo mô hình khoa học dữ liệu và AI nhanh hơn. Tenscor core hỗ trợ phần cứng cho sự thưa thớt về cấu trúc và định dạng TF32. Lõi Tensor thế hệ thứ tư cũng tăng tốc khả năng đồ họa bằng cách sử dụng DLSS. DLSS sử dụng AI để tạo bổ sung khung hình và cải thiện chất lượng hình ảnh, nâng cao độ phân giải với hiệu suất tốt hơn trong một số ứng dụng chọn lọc
Transformer Engine
Transformer Engine tăng tốc đáng kể hiệu suất AI và cải thiện việc sử dụng bộ nhớ cho cả đào tạo và suy luận. Transformer Engine sử dụng các kỹ thuật thông minh để quét các lớp của mạng lưới thần kinh kiến trúc máy biến áp, sau đó tự động chuyển đổi giữa FP8 và FP16 để mang lại hiệu suất AI nhanh hơn cũng như tăng tốc quá trình đào tạo và suy luận.
DLSS 3
Thông số kỹ thuật GPU NVIDIA L40S 48GB GDDR6 PCIe 4.0
GPU Architecture | NVIDIA Ada Lovelace architecture |
GPU Memory | 48GB GDDR6 with ECC |
Memory Bandwidth | 864GB/s |
FP32 | 91.6 teraFLOPS |
TF32 Tensor Core | 366 teraFLOPS* |
FP16 | 733 teraFLOPS* |
FP8 | 1,466 teraFLOPS* |
RT Core Performance | 212 teraFLOPS |
Form Factor | 4.4″ (H) x 10.5″ (L), dual slot |
Max Power Consumption | 350W |
Đánh giá
Chưa có đánh giá nào.