Edi Pyrek: Niedawno odniosłeś się do prognozy Raya Kurzweila, który w swojej książce „The Singularity is Near” przewidział, że AI z inteligencją na poziomie ludzkim, czy nawet ją przewyższającą, pojawi się do roku 2029. W komentarzu dla Fox News powiedziałeś, że to scenariusz prawdopodobny i – jeśli faktycznie jesteśmy u zarania nadludzkiej inteligencji – konieczna jest ostrożność. Czego się boisz?
Ben Goertzel: Generalnie niewielu rzeczy. Może o przyszłość moich najmłodszych dzieci, mają 2 i 5 lat. Dziś mają bezpieczną przestrzeń, są szczęśliwe. Ale boję się o ich jutro. O to co nieprzewidywalne. Nasz gatunek jest w bardzo dziwnej sytuacji – jestem prawie pewny, iż w najbliższej przyszłości stworzymy AGI. Bardzo prawdopodobne też jest, że potem powstaną nowe gatunki: super-człowiek, postczłowiek*. Ale tego się nie boje, obawiam się momentu „przejścia”, gdy powstanie sztuczna inteligencja dorównująca ludzkiej. Kiedy przerażeni ludzie zaczną zachowywać się w sposób niekontrolowany i nielogiczny. To może być groźne. Dla nas i naszych dzieci.
EP: Ale czym jest właściwie AGI?
BG: Artificial General Inteligence (AGI) to następny krok w rozwoju AI, a kolejny będzie nieznany.
Dzisiejsza AI może wykonywać określone zadanie, ale nie umie myśleć i działać jak człowiek, który potrafi widzieć szerszą perspektywę, ogólniej łącząc różne niepołączone ze sobą logicznie elementy i dziedziny. AGI będzie w stanie wykonać dowolne zadanie, które mu ustawisz, a – przy wystarczającej ilości czasu i mocy obliczeniowej – zrobi to o niebo lepiej niż człowiek. Będzie potrafiła myśleć jak my, ale miliony razy szybciej mając jednocześnie dostęp do całej wiedzy świata. Dzięki swoim zmysłom, wszystkim kamerom, mikrofonom na całym świecie, aktualizować to swoje „myślenie” i działanie w zależności od tego co będzie się działo w każdym miejscu na Ziemi. To właśnie AGI ma potencjał, aby stać się superinteligencją, znacząco przewyższającą ludzkie możliwości postrzegania i rozumienia rzeczywistości. Musimy mieć też świadomość, że superinteligencja zaraz stworzy „super-super” inteligencje, a ta „super-super-super” inteligencję. To będzie już całkowicie poza naszymi możliwościami rozumienia.
EP: Już pojawienie się ChatGPT było dla wielu z nas sporym szokiem.
BG: ChatGPT jest przykładem bardzo wyspecjalizowanego AI, jest narzędziem do rozwiązywania wąskiego problemu, w tym przypadku komunikacji za pomocą języka naturalnego i tworzenia treści w tym języku. Nie jest żadną rewolucją. To nic nowego, ani szokującego. Wielki model językowy, który nie przekracza tego co wgrano. Dużo danych i odpowiednia skala działania. Te dane to oczywiście duża część ludzkiej wiedzy. Uważam, iż w przyszłości różnorodne klony GPT mogą zabrać nawet 80 proc. ludzkiej pracy i mieć niesamowity wpływ na naszą ekonomię. Ale w kontekście AGI to GPT4 może być ledwie fragmentem tego o czym mówiłem. Technologia stojąca za czatem pozwoli nam lepiej karmić danymi AGI i skuteczniej nad nią pracować. GPT pozwoli skuteczniej przełożyć informacje i zbudować z niej system lepiej rozumiejący i wyciągający wnioski.
EP: Uważa się ciebie za „ojca” AGI. Jak to się wszystko zaczęło?
BG: Zacząłem o tym myśleć jak byłem jeszcze małym dzieckiem. W latach 70-tych zainspirowała mnie tematyka SF – książki, filmy o myślących robotach. Pomyślałem, że – jeśli połączymy to z nauką – to wyjdzie nam, że nie ma logicznych powodów abyśmy nie mogli stworzyć maszyn mądrzejszych od człowieka. Potem zorientowałem się, że wszyscy pracujący nad AI mówili tylko o tworzeniu wyspecjalizowanej AI, tzw. narrow AI, a nikt nie mówił o tym, żeby zbudować sztucznej inteligencji, która będzie myślała jak człowiek. Zrozumiałem, że głównym powodem dla takiej bariery są z jednej strony społeczeństwo, które nie rozumiało jak bardzo to jest ważne, a z drugiej biznes, który nie wiedział jak ów temat w krótkim czasie zmonetyzować. Wszyscy nastawieni byli na szybkie rezultaty, działania nastwione na natychmiastowy efekt finansowy. Pomyślałem sobie – a gdyby zrobić inaczej, skoncentrować na długofalowym celu, czymś co może zabrać lata albo dekady, ale co doprowadzi do stworzenie czegoś naprawdę niesamowitego: sztucznej inteligencji przewyższającą ludzką.
Pamiętam jak w szkole usłyszałem o pewnym matematyku – był to Andrew Wiles, który spędził 17 lat próbując udowodnić Wielkie Twierdzenie Fermata. Proszę sobie wyobrazić, 17 lat próbowania, upadania, podnoszenia się. Andrew był niesamowicie inteligentny, ale nie był mądrzejszym czy bardziej zdolny od swoich kolegów, profesorów z Princton czy Harvardu. To co go różniło to fakt, że spędził te kilkanaście lat waląc głową w ścianę. Bez natychmiastowej gratyfikacji. Wymagało to wieloletniej koncentracji na celu, na marzeniu, na idei.
EP: Postanowiłeś zrobić to samo?
BG: Dokładnie. AGI wydawało się naturalnym celem i dobrym pomysłem na życie. Teraz żyjemy w niesamowicie interesujących czasach, mamy już odpowiednie technologie, komputery z ogromną możliwością obliczeniową, a co więcej społeczeństwo zaczęło się budzić i dostrzegać potencjał AGI. Dlatego teraz możemy poruszać się o wiele szybciej niż przedtem. Ci z nas, który przez lata pracowali nad konceptem AGI, teraz mogą swoje teorie przetestować. A jak im się uda to wszystko się zmieni.
EP: Mówisz o momencie „singularity”, czyi tzw. osobliwości?
BG: To nie tyle moment, ile proces. Swego rodzaju punkt w rozwoju cywilizacyjnym, kiedy rozwój technologiczny będzie tak szybki, że wszelkie istniejące prawa przestaną działać. Przyszłość będzie całkowicie nieznana. Termin ten w kontekście technologii został wymyślony w latach 80. przez mojego przyjaciela Vernora Vinge'a. To genialny facet, był profesorem matematyki na uniwersytecie w San Diego i znanym pisarzem science-fiction. Ray Kurzweil, który też jest moim przyjacielem, wziął to pojęcie i rozwijał je, dokonując analiz danych, próbując określić, kiedy to może nastąpić.
Podstawowym założeniem „singularity” jest moment, w którym postęp technologiczny następuje tak szybko, że ludzki umysł postrzega go jako niemal natychmiastowy. Możecie sobie wyobrazić, że co sekundę pojawia się 10 nowych odkryć, które zdobywają Nagrody Nobla. To jest podobne do koncepcji "eksplozji inteligencji", którą sformułował matematyk I.J. Good w 1965 roku. Twierdził on, że pierwsza naprawdę inteligentna maszyna będzie ostatnim wynalazkiem, który będzie potrzebny ludzkości.
„Singularity” to jest eksplozja inteligencji, ale nie chodzi tylko o sztuczną inteligencję.
EP: To znaczy?
BG: AI jest prawdopodobnie najpotężniejszą technologią napędzającą to zjawisko. Oczywiście, są też nanotechnologie, femtotechnologie (pozwalają budować rzeczy od podstawowych cząstek- red.), dochodzą do tego innowacje w zakresie przedłużanie życia, inżynierii genetycznej, „przekazywania” umysłu, czyli odczytywania myśli z mózgu i umieszczanie go w maszynie. Wszystkie te technologie i wiele innych mają się rozwijać w podobnym czasie i wzajemnie się wzmacniać. Im bardziej zaawansowana jest jedna z nich, tym bardziej przyczynia się do postępu we wszystkich innych dziedzinach. To właśnie ich połączenie ma stworzyć ogromny dobrobyt i technologiczne „singularity”. AGI może być katalizatorem „singularity”, może wymyśleć na nowo nową naukę, technologie, zredefiniować nasz świat, rozwiązać problem klimatu, wojen, głodu. A co ważne – jeśli potraktujemy „singularity” nie jako jedno graniczne wydarzenie, lecz jako proces – można będzie stwierdzić, że „singularity” już jest, już się dzieje.
EP: Zaangażował się w prace nad AI wspólnie z polską fundacją GAIA (Global Artificial Intelligence Alliance) – czym się zajmujecie?
BG: Chodzi o projekt Gaia Guardians jaki realizujemy z Dawidem Hansonem (twórca humanoida Sophia) i właśnie fundacją GAIA – pracujemy nad stworzeniem tzw. białej księgi, a potem organizacji, czy platformy zajmującej się tworzeniem zdecentralizowanej i opartej na „compassion AI” (współodczuwająca sztuczna inteligencja – red.). A w przyszłości AGI. Niesamowicie istotne jest, aby w tym momencie, kiedy dopiero tworzymy AGI, zacząć już myśleć o tym jak ta ogromna władza, jaka pojawi się w momencie zaistnienia AGI, nie dostała się w ręce wąskiej elity, która wykorzysta ją do zdobycia jeszcze większej władzy nad światem.
EP: Czego dziś brakuje do stworzenia AGI?
BG: Myślę ze już wiemy już jak ją stworzyć, nie potrzebujemy żadnych nowych algorytmów, a musimy je tylko połączyć w inny sposób. Zintegrować istniejące już części i zacząć zadawać odpowiednie pytania. Dawać zadania i pokazywać nowe cele, jak np. compassion. Oczywiście dużo pracy przed nami. Trzeba będzie napisać wiele kodów, zintegrować, stworzyć infrastrukturę, ale nawet bez większych innowacji, skoków technologicznych, będziemy w stanie w ciągu paru lat stworzyć AGI. Jeżeli do tego dodamy innowacje już tworzone przez AI oraz komputery kwantowe, może się okazać, iż moment kiedy powstanie AI o ludzkiej inteligencji jest bliżej niż przypuszczamy. Mamy już wszystkie składniki. To nie zadzieje się jutro, ale nie sądzę, że potrzebujemy jakieś przemiany w myśleniu, czy nowego, rewolucyjnego pomysłu. Myślę, że nawet nie potrzebujemy zrozumieć jak działa ludzki mózg, gdyż budujemy zupełnie nowy, inny system.
EP: Czy sądzisz, że w przyszłości AI może stać się świadoma?
BG: Jeśli chodzi o maszynową świadomość, istnieje wiele różnych filozofii. Osobiście skłaniam się ku panpsychizmowi** i wierzę, że wszystko, także telefon, czy łyżeczka mają swoje własne spektrum świadomości, które nie są tak złożone, dynamiczne, ani bogate w struktury, jak ludzka świadomość. Stąd uważam, że AI prawdopodobnie już teraz jest świadoma. Kiedy jednak stworzymy AGI, który odwzorowuje ludzkie myślenie i inteligencję, będzie ona prawdopodobnie mieć świadomość zbliżoną do ludzkiej.
EP: No dobrze, to kiedy może dojść do stworzenia AGI? Zanim doszło do uruchomienia GPT4 niektórzy futurolodzy zakładali, iż stanie się to około roku 2057. Teraz prognozy wskazują na pierwszą połowę przyszłej dekady, choć Elon Musk twierdzi, że będzie to nawet rok 2026?
BG: To zadzieje się 8 grudnia 2026 r. W moje 60-te urodziny. Odkładam zakończenie pracy nad AGI do tego dnia, żeby zrobić naprawdę fajną imprezę (śmiech). A tak poważnie, myślę, że AGI powstanie w ciągu 5-10 lat.
EP: Zaczęliśmy rozmowę od pytania o twoje obawy. To i na koniec powiedz, czy nie boisz się, że AGI, którą sobie wymarzyłeś w dzieciństwie i której budowie poświeciłeś swoje życie, może być największym zagrożeniem dla twoich dzieci?
BG: Tak, boję się tego zagrożenia. Ale AGI może być też największą szansą.
* postczłowiek – pojęcie używane w transhumanizmie, określa kolejną „generację” naszego gatunku, których możliwości – dzięki technologii – będą tak bardzo poszerzone, w stosunku do dzisiejszego człowieka, że utożsamianie ich z ludźmi byłoby mylące
** panpsychizm – doktryna czasoprzestrzennej rzeczywistości, głosząca, iż każda rzecz ma swój umysłowy czy wewnętrzno-psychiczny aspekt
Wywiad zrealizowany we współpracy z Rzeczpospolita, na łamach której ukazał się wywiad 10 października 2023 roku, przeczytaj więcej.