Audyt algorytmów: Zrozumienie systemów algorytmicznych z zewnątrz

Oryginalny tytuł:

Auditing Algorithms: Understanding Algorithmic Systems from the Outside in

Zawartość książki:

Algorytmy są wszechobecnymi i krytycznymi źródłami informacji online i coraz częściej działają jako strażnicy dostępu dla użytkowników uzyskujących dostęp lub udostępniających informacje na praktycznie każdy temat.

Obejmuje to informacje o ich życiu osobistym oraz życiu przyjaciół i rodziny, wiadomości i politykę, rozrywkę, a nawet zdrowie i dobre samopoczucie. W rezultacie algorytmicznie wyselekcjonowane treści przyciągają coraz większą uwagę i kontrolę zarówno ze strony użytkowników, mediów, jak i prawodawców.

Badanie takich treści stanowi poważne wyzwanie, ponieważ są one zarówno dynamiczne, jak i efemeryczne. Jedną ze strategii, która okazała się skuteczna, jest audyt algorytmu: metoda wielokrotnego odpytywania algorytmu i obserwowania jego wyników w celu wyciągnięcia wniosków na temat nieprzejrzystego wewnętrznego działania algorytmu i możliwego wpływu zewnętrznego. W niniejszej pracy autorzy przedstawiają przegląd metodologii audytu algorytmów.

Obejmują one historię badań audytowych w naukach społecznych, z których wywodzi się ta metoda; podsumowanie kluczowych audytów algorytmów w ciągu ostatnich dwóch dekad w różnych dziedzinach, takich jak zdrowie, polityka i dyskryminacja; oraz zestaw najlepszych praktyk do przeprowadzania audytów algorytmów dzisiaj. Na zakończenie autorzy omawiają społeczny, etyczny i polityczny wymiar audytu algorytmów oraz proponują normatywne standardy stosowania tej metody.