Głębokie uczenie na dużą skalę: Na styku sprzętu, oprogramowania i danych

Opinie czytelników

Książka jest źródłem informacji na temat skalowalnego głębokiego uczenia się, chwalonym za praktyczne ćwiczenia i jasne wyjaśnienia, ale krytykowanym za powierzchowne omówienie zaawansowanych tematów i brak skupienia się na wnioskowaniu w tworzeniu modeli.

Książka jest zalecana ze względu na fantastyczną pomysłowość, elegancję w demistyfikacji złożonych pojęć i skuteczne ćwiczenia praktyczne, które budują umiejętności w świecie rzeczywistym.

Książka jest zbyt ogólna w dyskusjach, brakuje jej głębi dla profesjonalistów, koncentruje się głównie na szkoleniach, a nie na wnioskowaniu, i nie zapewnia wglądu w tworzenie usług LLM / DL, które spełniają wymagania niezawodności.

(na podstawie 2 opinii czytelników)

Oryginalny tytuł:

Deep Learning at Scale: At the Intersection of Hardware, Software, and Data

Zawartość książki:

Wprowadzenie projektu uczenia głębokiego do produkcji na dużą skalę jest sporym wyzwaniem. Aby z powodzeniem skalować projekt, wymagane jest fundamentalne zrozumienie głębokiego uczenia z pełnym stosem, w tym wiedzy leżącej na przecięciu sprzętu, oprogramowania, danych i algorytmów.

Ta książka ilustruje złożone koncepcje głębokiego uczenia z pełnym stosem i wzmacnia je poprzez praktyczne ćwiczenia, aby uzbroić cię w narzędzia i techniki do skalowania projektu. Wysiłek skalowania jest korzystny tylko wtedy, gdy jest skuteczny i wydajny. W tym celu niniejszy przewodnik wyjaśnia zawiłe koncepcje i techniki, które pomogą ci skalować skutecznie i wydajnie.

Zyskasz dogłębne zrozumienie:

⬤ Jak dane przepływają przez sieć głębokiego uczenia i jaką rolę odgrywają wykresy obliczeniowe w budowaniu modelu.

⬤ Jak przyspieszone obliczenia przyspieszają szkolenie i jak najlepiej wykorzystać dostępne zasoby.

⬤ Jak trenować model przy użyciu rozproszonych paradygmatów uczenia, tj. równoległości danych, modelu i potoku.

⬤ Jak wykorzystać ekosystemy PyTorch w połączeniu z bibliotekami NVIDIA i Triton do skalowania trenowania modelu.

⬤ Usuwanie błędów, monitorowanie i badanie niepożądanych wąskich gardeł, które spowalniają szkolenie modelu.

⬤ Jak przyspieszyć cykl szkolenia i usprawnić pętlę sprzężenia zwrotnego w celu iteracji rozwoju modelu.

⬤ Zestaw sztuczek i technik dotyczących danych oraz sposób ich zastosowania w celu skalowania modelu szkoleniowego.

⬤ Jak wybrać odpowiednie narzędzia i techniki dla projektu głębokiego uczenia.

⬤ Opcje zarządzania infrastrukturą obliczeniową podczas skalowania.