Trendy w wyjaśnieniach: Zrozumienie i debugowanie systemów opartych na danych

Oryginalny tytuł:

Trends in Explanations: Understanding and Debugging Data-Driven Systems

Zawartość książki:

Rosnąca złożoność systemów i technologii w codziennym użyciu utrudnia lub nawet uniemożliwia ludziom zrozumienie ich funkcji i zachowania oraz uzasadnienie zaskakujących obserwacji. Wsparcie w wyjaśnianiu może ułatwić interakcje ludzi z technologią: wyjaśnienia mogą pomóc użytkownikom zrozumieć funkcję systemu, uzasadnić wyniki systemu i zwiększyć ich zaufanie do zautomatyzowanych decyzji.

W tej książce autorzy przedstawiają przegląd istniejących prac w zakresie wsparcia wyjaśnień dla procesów opartych na danych. Czyniąc to, klasyfikują wymagania dotyczące wyjaśniania w trzech wymiarach: cel wyjaśnienia ("Co"), odbiorcy wyjaśnienia ("Kto") i cel wyjaśnienia ("Dlaczego"). Zidentyfikowali oni dominujące tematy w tych wymiarach i wysokopoziomowe kryteria, które każdy z nich implikuje, wraz z kilkoma przykładami motywującymi różne ustawienia problemów.

Wreszcie, omawiają rozwiązania w zakresie wyjaśnialności przez pryzmat wymiaru "Jak": Jak coś jest wyjaśniane (forma wyjaśnienia) i jak wyjaśnienia są wyprowadzane (metodologia). Książka ta zapewnia badaczom i twórcom systemów wysoki poziom przeglądu złożonych problemów napotykanych podczas opracowywania lepszej interakcji użytkownika z nowoczesnymi, wielkoskalowymi systemami obliczeniowymi opartymi na danych i opisuje mapę drogową do rozwiązania tych problemów w przyszłości.