Information Bottleneck: Theory and Applications in Deep Learning
Słynna zasada wąskiego gardła informacyjnego (IB) Tishby'ego i in. cieszy się ostatnio nowym zainteresowaniem ze względu na jej zastosowanie w obszarze głębokiego uczenia się.
Niniejszy zbiór bada zasadę IB w tym nowym kontekście. Poszczególne rozdziały tego zbioru: - zapewniają nowy wgląd w funkcjonalne właściwości IB; - omawiają zasadę IB (i jej pochodne) jako cel uczenia wielowarstwowych struktur uczenia maszynowego, takich jak sieci neuronowe i drzewa decyzyjne; oraz - oferują nowe spojrzenie na uczenie się sieci neuronowych przez pryzmat ram IB.
Nasza kolekcja przyczynia się zatem do lepszego zrozumienia zasady IB, szczególnie w odniesieniu do głębokiego uczenia się, a bardziej ogólnie, funkcji kosztu teorii informacji w uczeniu maszynowym. Toruje to drogę w kierunku wytłumaczalnej sztucznej inteligencji.