Obliczenia równoległe i wysoka wydajność

Opinie czytelników

Recenzje podkreślają, że książka jest kompleksowym i dobrze zorganizowanym źródłem wiedzy na temat wysokowydajnych obliczeń (HPC), z jasnymi wyjaśnieniami podstawowych tematów, takich jak obliczenia równoległe zarówno na CPU, jak i GPU. Chociaż wielu czytelników uważa ją za nieoceniony przewodnik, pojawiają się pewne uwagi krytyczne dotyczące trudności z uruchomieniem podanych przykładów na typowych klastrach HPC.

⬤ Kompleksowe i dobrze zorganizowane omówienie tematów związanych z obliczeniami o wysokiej wydajności.
⬤ Przejrzyste i zrozumiałe objaśnienia, dzięki czemu jest to przydatny przewodnik edukacyjny.
⬤ Praktyczne szczegóły i techniki optymalizacji kodu i poprawy równoległości.
⬤ Obejmuje zarówno zrównoleglenie CPU (OpenMP, MPI), jak i GPU (OpenACC, OpenCL, CUDA).
⬤ Cenne źródło informacji dla technologów pragnących poprawić swoje zrozumienie obliczeń równoległych.

⬤ Trudności z uruchomieniem przykładów na klastrach HPC, szczególnie ze względu na brak wskazówek dotyczących korzystania z Singularity zamiast Dockera.
⬤ Niektórzy czytelnicy mogą uznać szczegóły techniczne za trudne, jeśli nie są zaznajomieni z C/C++ i architekturą komputerową.

(na podstawie 7 opinii czytelników)

Oryginalny tytuł:

Parallel and High Performance Computing

Zawartość książki:

Obliczenia równoległe i wysokowydajne oferują techniki gwarantujące zwiększenie wydajności kodu.

Podsumowanie

Złożone obliczenia, takie jak trenowanie modeli głębokiego uczenia się lub przeprowadzanie symulacji na dużą skalę, mogą trwać niezwykle długo. Wydajne programowanie równoległe może zaoszczędzić godziny - a nawet dni - czasu obliczeniowego. Parallel and High Performance Computing pokazuje, jak zapewnić szybsze czasy wykonywania, większą skalowalność i zwiększoną efektywność energetyczną programów poprzez opanowanie technik równoległych dla procesorów wielordzeniowych i sprzętu GPU.

O technologii

Pisz szybkie, wydajne i energooszczędne programy, które skalują się do obsługi ogromnych ilości danych. Korzystając z programowania równoległego, twój kod rozkłada zadania przetwarzania danych na wiele procesorów, zapewniając radykalnie lepszą wydajność. Z niewielką pomocą możesz tworzyć oprogramowanie, które maksymalizuje zarówno szybkość, jak i wydajność.

O książce

Parallel and High Performance Computing oferuje techniki gwarantujące zwiększenie efektywności kodu. Nauczysz się oceniać architektury sprzętowe i pracować ze standardowymi narzędziami branżowymi, takimi jak OpenMP i MPI. Opanujesz struktury danych i algorytmy najlepiej dostosowane do obliczeń o wysokiej wydajności i poznasz techniki oszczędzania energii na urządzeniach przenośnych. Przeprowadzisz nawet masową symulację tsunami na wielu procesorach graficznych.

Co jest w środku

Planowanie nowego projektu równoległego.

Zrozumienie różnic w architekturze CPU i GPU.

Radzenie sobie ze słabo działającymi jądrami i pętlami.

Zarządzanie aplikacjami przy użyciu harmonogramu wsadowego.

O czytelniku

Dla doświadczonych programistów biegle posługujących się wysokowydajnymi językami obliczeniowymi, takimi jak C, C++ lub Fortran.

O autorze

Robert Robey pracuje w Los Alamos National Laboratory i jest aktywny w dziedzinie obliczeń równoległych od ponad 30 lat. Yuliana Zamora jest obecnie doktorantką i stypendystką Siebel Scholar na Uniwersytecie w Chicago i prowadziła wykłady na temat programowania nowoczesnego sprzętu na wielu krajowych konferencjach.

Spis treści

CZĘŚĆ 1 WPROWADZENIE DO OBLICZEŃ RÓWNOLEGŁYCH.

1 Dlaczego obliczenia równoległe?

2 Planowanie obliczeń równoległych.

3 Limity wydajności i profilowanie.

4 Projektowanie danych i modele wydajności.

5 Algorytmy i wzorce równoległe.

CZĘŚĆ 2 CPU: RÓWNOLEGŁY KOŃ ROBOCZY.

6 Wektoryzacja: FLOPy za darmo.

7 OpenMP, który działa.

8 MPI: Równoległy szkielet.

CZĘŚĆ 3 PROCESORY GRAFICZNE: STWORZONE DO AKCELERACJI.

9 Architektury i koncepcje układów GPU.

10 Model programowania GPU.

11 Programowanie GPU oparte na dyrektywach.

12 Języki GPU: Podstawy.

13 Profilowanie i narzędzia GPU.

CZĘŚĆ 4 EKOSYSTEMY OBLICZEŃ O WYSOKIEJ WYDAJNOŚCI.

14 Affinity: Rozejm z jądrem.

15 Harmonogramy wsadowe: Porządkowanie chaosu.

16 Operacje na plikach dla równoległego świata.

17 Narzędzia i zasoby dla lepszego kodu.