Jak dobrać właściwą maszynę z GPU do pracy nad projektem ML, czym różnią się poszczególne procesory graficzne NVIDIA. W tym artykule robię, krótkie porównanie tego co obecnie znajduje się w ofercie wraz z porównaniem parametrów.
Ostatnio uczestniczę w projekcie w pracy, w którym wykorzystujemy maszyny z GPU NVIDIA do Machine Learning. Sęk w tym, że typów maszyn z GPU jest w Azure 9, każda ma oczywiście jeszcze różne rozmiary. A dodając ostatnio dodane FPGA to robi się tłoczno…
Aby ułatwić sobie i Wam wybór maszyny przygotowałem krótkie zestawienie tego co jest dostępne, ile mniej więcej kosztuje (w regionie North Europe i ew. West Europe.
Poniższa tabelka zawiera aktualnie dostępne maszyny wirtualne wyposażone w GPU NVIDIA. Wybrałem dla porównania najmniejsze dostępne rozmiary. Większość maszyn ma 4-6 CPU i jeden GPU. Wyjątkiem są NDasr oraz NDrs_v2 – to nowości, które są dostępne tylko w bardzo dużym rozmiarze, ich koszt miesięczny przekracza 20 tysięcy USD.
Jak ktoś chciałby przejrzeć więcej szczegółów dotyczących maszyn to odsyłam do dokumentacji Microsoft Azure: https://docs.microsoft.com/en-us/azure/virtual-machines/sizes-gpu. Możecie też skorzystać z pliku Excel, który zawiera wszystkie dostępne maszyny w Azure wraz z oficjalnie znanymi parametrami: https://aka.ms/azure-vm-sizes.
Jak widać wyżej do maszyn wirtualnych Microsoft „pakuje” różne rodzaje kart GPU. Są tam zarówno karty Tesla jak i nowe karty oparte o architekturę Ampere. Pojawia się pytanie – czym się różnią te GPU – oczywiście wydajnością. Ale w jakim zakresie. Dla wyjaśnienia powyższego zagadnienia skorzystałem z Wikipedii (https://en.wikipedia.org/wiki/Nvidia_Tesla), jako iż procesorów jest bardzo duża ilość wybrałem z tabeli tylko te, które nas interesują.
