Wyjaśnialna interakcja człowieka ze sztuczną inteligencją - perspektywa planowania

Oryginalny tytuł:

Explainable Human-AI Interaction - A Planning Perspective

Zawartość książki:

Od samego początku sztuczna inteligencja (AI) miała raczej ambiwalentne relacje z ludźmi - wahając się między ich rozszerzeniem a zastąpieniem. Teraz, gdy technologie AI wkraczają w nasze codzienne życie w coraz szybszym tempie, istnieje większa potrzeba, aby systemy AI działały synergicznie z ludźmi.

Jednym z krytycznych wymogów takiej synergicznej interakcji człowiek-AI jest to, aby zachowanie systemów sztucznej inteligencji można było wyjaśnić ludziom w pętli. Aby zrobić to skutecznie, agenci AI muszą wyjść poza planowanie z własnymi modelami świata i wziąć pod uwagę model mentalny człowieka w pętli. Agenci AI potrzebują co najmniej przybliżonych modeli zadań i celów człowieka, a także modelu zadań i celów agenta AI.

Pierwszy z nich poprowadzi agenta do przewidywania i zarządzania potrzebami, pragnieniami i uwagą ludzi w pętli, a drugi pozwoli mu działać w sposób, który jest interpretowalny dla ludzi (poprzez dostosowanie się do ich modeli mentalnych) i być gotowym do dostarczenia dostosowanych wyjaśnień w razie potrzeby. Autorzy czerpią z kilku lat badań prowadzonych w ich laboratorium, aby omówić, w jaki sposób agent AI może wykorzystać te modele mentalne, aby dostosować się do ludzkich oczekiwań lub zmienić te oczekiwania poprzez komunikację wyjaśniającą.

Chociaż książka koncentruje się na scenariuszach współpracy, obejmuje również sposób, w jaki te same modele mentalne mogą być wykorzystywane do zaciemniania i oszukiwania. Książka opisuje również kilka rzeczywistych systemów aplikacji do wspólnego podejmowania decyzji, które opierają się na opracowanych tutaj ramach i technikach.

Mimo że każdy rozdział opiera się przede wszystkim na własnych badaniach autorów w tych obszarach, zawiera on wiele powiązań z odpowiednimi badaniami z szerszej literatury. Tematy techniczne poruszone w książce są samodzielne i dostępne dla czytelników z podstawowym doświadczeniem w dziedzinie sztucznej inteligencji.