Nvidia ra mắt tesla t4, thẻ nhanh nhất cho các trung tâm dữ liệu

Nvidia đã công bố GPU mới cho máy học và suy luận trong các trung tâm dữ liệu. Thẻ Tesla T4 mới dựa trên kiến ​​trúc Turing và là sự kế thừa cho mẫu Tesla P4 hiện tại, bao gồm hầu như tất cả các nhà cung cấp điện toán đám mây lớn.

Nvidia Tesla T4 muốn cách mạng hóa các trung tâm dữ liệu

Nvidia lập luận rằng Tesla T4s nhanh hơn đáng kể so với P4. Ví dụ, đối với suy luận ngôn ngữ, T4 nhanh hơn 34 lần so với sử dụng CPU và nhanh hơn 3, 5 lần so với P4. Thông lượng tối đa cho Tesla P4 là 260 TOPS cho các hoạt động số nguyên 4 bit và 65 TOPS cho các hoạt động điểm nổi. T4 là trên một thẻ PCI-e cấu hình tiêu chuẩn 75 watt.

Chúng tôi khuyên bạn nên đọc bài đăng của mình về Chi tiết kiến ​​trúc Turing của Nvidia xuất hiện

Quan trọng nhất, Nvidia đã thiết kế những con chip này dành riêng cho suy luận AI, điều này khiến Tesla T4 trở thành một GPU hiệu quả để tạo ra các suy luận là lõi Tenor mới của Turing. Jensen Huang đã nói về lõi Tenor mới, và những gì nó có thể làm cho chơi game, kết xuất và vận hành AI. Tổng cộng, chip có 320 lõi lõi Turing và 2.560 nhân CUDA.

Ngoài chip mới, Nvidia cũng đang tung ra bản cập nhật cho phần mềm TensorRT của mình để tối ưu hóa các mô hình học sâu. Phiên bản mới này cũng bao gồm Máy chủ suy luận TensorRT, một dịch vụ siêu nhỏ được chứa đầy đủ cho suy luận trung tâm dữ liệu kết nối liền mạch với cơ sở hạ tầng Kubernetes hiện có.

Turing là một trong những kiến ​​trúc Nvidia sáng tạo nhất, ngay cả trong thị trường trò chơi, nơi lần đầu tiên nó sẽ cho phép sử dụng phương pháp dò tia trong thời gian thực để cải thiện kết thúc đồ họa của các trò chơi tiên tiến nhất.

Phông chữ Techpowerup