Spotkanie stanowiło kontynuację prac nad koncepcją Compassion AI, rozwijaną przez GAIA jako podejście do projektowania systemów AI z uwzględnieniem ludzkiego dobrostanu i społecznych konsekwencji ich działania. Jednym z głównych tematów seminarium była rosnąca rola sztucznej inteligencji w obszarach, w których nie istnieje jedna obiektywnie poprawna odpowiedź. Dotyczy to między innymi edukacji, zarządzania ludźmi i komunikacji publicznej. W takich sytuacjach istotne staje się nie tylko to, czy system potrafi udzielić odpowiedzi, ale również to, czy jego działanie jest bezpieczne, przewidywalne i odpowiedzialne.
Compassion AI – odpowiedzialność zamiast antropomorfizacji
W dyskusji podkreślono, że Compassion AI nie oznacza nadawania maszynom ludzkich emocji ani zakładania, że systemy AI potrafią odczuwać współczucie. Chodzi o projektowanie i ocenę ich działania z perspektywy bezpieczeństwa, dobrostanu człowieka oraz długofalowych skutków podejmowanych decyzji. Uczestnicy zwrócili uwagę na ryzyko antropomorfizacji, czyli przypisywania systemom sztucznej inteligencji ludzkich cech, intencji i stanów psychicznych. Płynna komunikacja z modelem językowym może sprawiać wrażenie rozmowy ze świadomym partnerem. Nie stanowi jednak sama w sobie dowodu na istnienie świadomości czy zdolności do odczuwania emocji. Ważnym wątkiem była również potrzeba zachowania krytycznego podejścia do doniesień o możliwościach AI. Dyskusja dotyczyła wpływu oczekiwań rynkowych i medialnych na kierunki badań oraz ryzyka, że atrakcyjne narracje przesłonią pytania o rzeczywiste możliwości i ograniczenia technologii.
Czy zaawansowana AI może być przewidywalna?
Drugim istotnym obszarem była sterowalność dużych modeli językowych. Uczestnicy rozmawiali o napięciu między elastycznością systemów a możliwością kontrolowania ich zachowania. Modele potrafią odpowiadać na bardzo różnorodne pytania, jednak ich reakcje mogą zależeć od sposobu sformułowania polecenia, a niekiedy prowadzić do sprzecznych lub niepożądanych rekomendacji. Omówiono między innymi zjawisko sykofancji, czyli tendencji modeli do potwierdzania przekonań użytkownika, nawet gdy są one błędne. Zwrócono także uwagę na problem optymalizowania przez system wskaźników celu w sposób niezgodny z intencjami jego twórców oraz na trudności związane z nadzorowaniem bardziej autonomicznych systemów. Wnioski z tej części spotkania wskazują na potrzebę rozwijania metod, które pozwolą nie tylko oceniać skuteczność modeli, ale również badać stabilność ich zachowania, odporność na manipulację i rzeczywisty wpływ na użytkowników.
Różne perspektywy na relację człowieka z AI
Seminarium połączyło perspektywę technologiczną z filozoficzną, psychologiczną i społeczną. Robert Kroplewski zwrócił uwagę na znaczenie operacyjnego podejścia do projektowania AI: zamiast koncentrować się na nierozstrzygniętych pytaniach o świadomość maszyn, warto skupić się na obserwowalnym zachowaniu systemów i możliwościach jego weryfikacji. dr Maria Minakowska odniosła się do problemów związanych z definiowaniem ludzkich emocji i świadomości, wskazując na ograniczenia prób wykorzystywania tych pojęć do oceny maszyn. Adam Karmański omówił psychologiczne mechanizmy, które mogą skłaniać ludzi do przypisywania AI wyjątkowych zdolności i podmiotowości. Edi Pyrek przedstawił natomiast społeczne konsekwencje traktowania systemów AI jak autorytetów, w tym ryzyko przenoszenia na nie odpowiedzialności za własne decyzje. Wspólnym punktem tych rozważań było pytanie o to, jak rozwijać technologię, nie tracąc z pola widzenia człowieka i jego odpowiedzialności.
Kierunki dalszych prac GAIA
II Seminarium GAIA wskazało kilka obszarów dalszych działań: doprecyzowanie pojęć związanych z Compassion AI, opracowanie metod oceny zachowania modeli, badanie ich odporności na manipulację oraz poszukiwanie architektur, które ułatwiają kontrolę i wyjaśnianie działania systemów. Spotkanie potwierdziło znaczenie interdyscyplinarnej rozmowy o sztucznej inteligencji. Rozwój AI wymaga zarówno postępu technologicznego, jak i krytycznej oceny założeń, na których opiera się projektowanie i wdrażanie tych systemów.
Przeczytaj relację z I Seminarium Naukowego GAIA: link