Modelling Natural Language with Claude Shannon's Notion of Surprisal
Czy kiedykolwiek zastanawiałeś się, w jaki sposób zasady stojące za przełomową teorią informacji Shannona mogą przeplatać się ze skomplikowaną tkanką komunikacji językowej? Ta książka zabierze Cię w fascynującą podróż, oferując wgląd w to, jak ludzie przetwarzają i rozumieją język. Stosując teorię informacji w dziedzinie semantyki języka naturalnego, odkrywa związek między prawidłowościami w komunikatach językowych a poznawczymi zawiłościami przetwarzania języka. Podkreślając przecięcia teorii informacji z językoznawstwem, filozofią, psychologią poznawczą i informatyką, książka ta służy jako inspiracja dla każdego, kto chce zrozumieć predykcyjne możliwości teorii informacji w modelowaniu ludzkiej komunikacji. Rozwija najważniejsze prace gigantów w tej dziedzinie, takich jak Dretske, Hale i Zipf, badając koncepcje takie jak teoria zaskoczenia i zasada najmniejszego wysiłku.
Dzięki empirycznemu podejściu książka ta nie tylko omawia aspekty teoretyczne, ale także podejmuje się zastosowania teorii informacji Shannona w rzeczywistych scenariuszach językowych, wzmocnionych zaawansowanymi metodami statystycznymi i uczeniem maszynowym. Porusza trudne obszary, takie jak rozróżnienie między informacją matematyczną a semantyczną, pojęcie informacji w wypowiedziach językowych oraz skomplikowaną grę między prawdą, kontekstem i znaczeniem.
Niezależnie od tego, czy jesteś lingwistą, psychologiem kognitywnym, filozofem, czy po prostu entuzjastą, który chce zagłębić się w świat, w którym język spotyka się z informacją, ta książka obiecuje prowokującą do myślenia podróż.