Orkiestracja danych w akceleratorach głębokiego uczenia się

Opinie czytelników

Obecnie brak opinii czytelników. Ocena opiera się na 3 głosach.

Oryginalny tytuł:

Data Orchestration in Deep Learning Accelerators

Zawartość książki:

Ten wykład syntezy koncentruje się na technikach wydajnej orkiestracji danych w akceleratorach DNN. Koniec prawa Moore'a, w połączeniu z rosnącym wzrostem głębokiego uczenia się i innych zastosowań sztucznej inteligencji, doprowadził do pojawienia się niestandardowych akceleratorów głębokich sieci neuronowych (DNN) do energooszczędnego wnioskowania na urządzeniach brzegowych.

Nowoczesne sieci DNN mają miliony hiperparametrów i obejmują miliardy obliczeń; wymaga to intensywnego przenoszenia danych z pamięci do silników przetwarzania w układzie scalonym. Powszechnie wiadomo, że koszt przenoszenia danych przewyższa dziś koszt rzeczywistych obliczeń; dlatego akceleratory DNN wymagają starannej koordynacji danych w elementach obliczeniowych, sieciowych i pamięciowych w celu zminimalizowania liczby dostępów do zewnętrznej pamięci DRAM. Książka obejmuje przepływy danych DNN, ponowne wykorzystanie danych, hierarchie buforów, sieci na chipie i zautomatyzowaną eksplorację przestrzeni projektowej.

Na zakończenie omówiono wyzwania związane z orkiestracją danych w skompresowanych i rzadkich sieciach DNN oraz przyszłe trendy. Docelowymi odbiorcami są studenci, inżynierowie i badacze zainteresowani projektowaniem wysokowydajnych i energooszczędnych akceleratorów do wnioskowania DNN.