Edi Pyrek: W Technology Innovation Institute (TTI) stworzyliście system Falcon 180B – nowy model LLM (large language model – duży model językowy), który zajmuje 1. miejsce wśród algorytmów o otwartym dostępie. Obejmuje 180 mld parametrów i jest trenowany na podstawie 3,5 bln tokenów, ma cztery razy większe zasoby obliczeniowe niż model LLaMA 2 firmy Meta. To imponujące. Jak ważne jest to osiągnięcie?
dr Ebtesam Almazrouei: Nasz Falcon 180B stanowi znaczący krok w rozwoju generatywnej AI, osiągając podobne wyniki co największe modele na rynku. To pokazuje zaangażowanie TTI w efektywne posuwanie naprzód technologii AI. W mojej jednostce, AI Cross Center, jesteśmy pionierami w dziedzinie sztucznej inteligencji – rozwinęliśmy projekt Falcon, generatywną sztuczną inteligencję, budując na sukcesie NOOR.
EP: Czym jest NOOR?
EA: To jeden z największych modeli przetwarzania języka naturalnego (NLP) w języku arabskim. Czyli mówiąc inaczej, stworzyliśmy arabski ChatGPT.
Po NOOR skupiliśmy się na stworzeniu Falcon 40, zaawansowanego modelu wytrenowanego na różnorodnych danych, w tym jakościowych artykułach i tekstach technicznych, wykorzystując 1 bln parametrów. W marcu br. uruchomiliśmy Falcon 40B, który przewyższał wydajnością model Llama od firmy Meta. Następnie udostępniliśmy go zarówno w celach komercyjnych, jak i badawczych na Hugging Face (internetowa społeczność specjalistów od uczenia maszynowego – red.). Kontynuując nasz rozwój stworzyliśmy Falcon 180B. Nie tylko zajął on miejsce wyżej niż Llama 2 na listach Hugging Face, ale wykazał się porównywalną wydajność do dużych modeli Google, mimo że ma tylko połową ich wielkości.
EP: A nad czym pani obecnie pracuje?
EA: W Abu Dhabi mam zaszczyt kierować jednostką AI-Cross Center w TTI. W ciągu ostatnich 18 miesięcy zanurzyliśmy się głęboko w kilka przełomowych projektów związanych z AI, począwszy od generatywnej sztucznej inteligencji (genAI) i “ekstremalnie skalowalnych” modeli podstawowych AI, poprzez postępy w wizji komputerowej, aż po rozwój robotów humanoidalnych. Chcemy patentować nasze odkrycia, ale też przekształcać je w gotowe rozwiązania rynkowe.
EP: Czyli na rynku AI rzuciliście wyzwanie takim gigantom jak Google, Meta, czy Microsoft?
EA: W kontekście rozwoju sztucznej inteligencji nie należy skupiać się na konkurencji, ale raczej na tym, jak wprowadzać innowacje w odpowiedzialny sposób, aby służyć ludzkości. Naszym celem jest wykorzystanie AI do transformacji branż, takich jak inżynieria, opieka zdrowotna, czy w dziedzinie zrównoważonego rozwoju. Mimo że ostatnio widzimy wzrost zainteresowania genAI, to dopiero zaczynamy poznawać jej potencjał.
Patrząc w przyszłość, zmierzamy w kierunku tzw. ogólnej sztucznej inteligencji (AGI), ale wciąż wiele jest do zbadania, w tym AI emocjonalna i etyczna. Kluczowe dla skalowania tej technologii są postępy w mocy obliczeniowej, efektywności energetycznej i przełomach algorytmicznych.
EP: Czy powinniśmy obawiać się, że AI zyska świadomość i będzie w stanie samodoskonalić się, całkowicie poza naszą kontrolą?
EA: Ten moment jest wciąż daleko poza naszym zasięgiem. Sztuczna inteligencja, zwłaszcza w modelach generatywnych, jest ograniczona i energochłonna. W przeciwieństwie do dziecka, które rozpoznaje kota niezależnie od jego wyglądu, AI wymaga obszernych danych i zasobów do realizacji tak prostych zadań.
Naszym celem nie jest osiągnięcie tzw. osobliwości technologicznej (przyszły moment w rozwoju cywilizacji, w którym postęp techniczny będzie tak dynamiczny, że ludzkie przewidywania staną się nieaktualne). Chcemy wykorzystać AI do zaspokojenia ludzkich potrzeb, takich jak przyspieszenie odkrywania leków, zachowując przy tym granice etyczne i praktyczne.
EP: Czy zatem to co dziś nazywamy sztuczną inteligencją jeszcze nią nie jest? Może to tylko zaawansowane chatboty?
EA: To dość trafna ocena. To, z czym mamy obecnie do czynienia, to modele fundamentalne, jak GPT-4 czy Falcon 180B. Są one w zasadzie zaawansowanymi aplikacjami genAI, ale nie powinny być mylone z ogólną sztuczną inteligencją. Te systemy zostały przeszkolone z użyciem obszernych zestawów danych z internetu, aby symulować konwersacje, lecz ich możliwości są nadal dość ograniczone. Wymagają znacznych mocy obliczeniowych i mogą mieć trudności z zadaniami takimi jak rozpoznawanie obrazów. Jako modele AI, nie są one samoświadome i nie mogą podejmować autonomicznych decyzji odbiegających od ich programowania. Są podatne na "halucynacje", czyli dostarczanie mylących informacji, gdy są pytane o coś co wybiega poza zakresem ich treningu.
EP: To kiedy nastąpi przełom w rozwoju AI?
EA: Badacze pracują nad nowymi architekturami sztucznej inteligencji i starają się odblokować "czarną skrzynkę" procesu decyzyjnego AI, aby tworzyć bardziej zaawansowane i dostosowane modele.
Jesteśmy jeszcze na wczesnym etapie rozumienia multimodalnych danych wejściowych. To podróż odkryć, którą prowadzi globalna społeczność badaczy, naukowców i liderów branżowych.
Jednym z najważniejszych kroków był trend do otwartego udostępniania technologii AI. Dzięki temu, że nasze badania i postępy w AI są ogólnodostępne, zapewniamy, że każdy z zapałem i wiedzą może przyczynić się do rozwoju tej dziedziny. Demokratyzuje to nie tylko rozwój AI, ale również pomaga nam zrozumieć jej ograniczenia i potencjalne zastosowania.
EP: Nie rozumiemy jeszcze w pełni jak działa AI?
EA: Posiadamy podstawową wiedzę na ten temat. Można to porównać do gotowania, gdzie obecny jest proces prób i błędów. Możemy znać składniki, a więc zestawy danych, ale znalezienie idealnego połączenia dla skutecznego modelu AI wymaga ciągłego eksperymentowania.
W dziedzinie AI nie istnieje ostateczny przewodnik, który dyktowałby najlepszą architekturę lub zestaw danych dla konkretnego rozwiązania. Ten brak precyzyjnych wytycznych wynika z faktu, że AI jest wciąż rozwijającą się technologią znajdującą się na etapie badań. Choć niektóre techniki są zaawansowane, inne są w fazie początkowej, a nasze zrozumienie ewoluuje wraz z trwającymi badaniami i eksperymentami. Znamy podstawy modeli, które budujemy, ale niuanse ich optymalnego działania nie są zrozumiałe. Technologia AI dojrzewa, a z każdym nowym algorytmem uczymy się – to ciągle ewoluująca dziedzina.
EP: Czy AI może stać się świadoma w przyszłości?
EA: Rozwój zaawansowanych technologii AI jest możliwy jeśli spełnione zostaną odpowiednie warunki. Obejmuje to deweloperów i naukowców, dysponujących niezbędnymi umiejętnościami, wystarczającą mocą obliczeniową i odpowiednie zasoby. Kluczem jest również posiadanie niezbędnych zestawów danych, co może wiązać się z przekształceniem ludzkich emocji w format, który może być przetwarzany przez maszyny. To złożone zadanie, ale wszystko jest możliwe.
EP: Czyli ludzie wciąż mają przewagę nad AI?
EA: Dziś istnieje znaczna dysproporcja między możliwościami ludzi a AI, na korzyść człowieka. Potrafimy komunikować się poprzez emocje, język oraz niewerbalne wskazówki, jak mimika twarzy, czy gesty. Obecna komunikacja z maszynami ogranicza się do wprowadzania danych przez pisanie lub specyficzne komendy programistyczne, aby “wyprodukować” pożądany rezultat. Interakcja w czasie rzeczywistym jest nadal poza naszym zasięgiem. Choć Chat GPT może wygenerować przemówienie, brakuje mu zdolności do oferowania wglądów wykraczających poza to, na czym został przeszkolony, lub do prawdziwego odczuwania lub rozumienia ludzkich emocji. Zatem nawet z postępami w technologii, AI pozostaje niedojrzała – niezdolna do replikacji głębi ludzkiego transferu wiedzy lub wytwarzania prawdziwie nowej wiedzy.
EP: A co z kontrolą człowieka nad tą technologią?
EA: To kwestia obecna dziś na agendzie każdego kraju. Niezbędne wydaje się opracowanie regulacji do nadzorowania AI. Gdy te zostaną one wprowadzone, prawdopodobnie włączone zostaną do korporacyjnych i instytucjonalnych ram. AI, które rozwijamy i wdrażamy, musi być odpowiedzialna, bezpieczna i budować zaufanie. A tworzenie zaufania opiera się na przejrzystości. Weźmy na przykład samochód: rozumiemy jego możliwości i ograniczenia, takie jak konsekwencje przekroczenia prędkości, jesteśmy szkoleni do jazdy nim otrzymamy licencję. I to samo dotyczy AI. Jeśli jakaś firm oferuje tę technologię, powinna również dostarczyć “instrukcję obsługi”, która opisuje możliwości AI, sposób tworzenia, ale i ryzyka. Tak buduje się zaufanie – dokładnie wiesz, co technologia może zrobić, jak jej odpowiedzialnie używać i jakie są jej granice.
EP: Czy AI stanie się w pełni autonomiczna i będzie działać niezależnie, czy ludzie zawsze będą musieli być integralną częścią tych systemów AI?
EA: Technologię postrzegam jako środek do wzbogacania naszego życia, a nie jako “zastępstwo” dla ludzi. Celem rozwijania zaawansowanej technologii jest wsparcie nas poprzez przejęcie rutynowych i monotonnych zadań, co optymalizuje naszą wydajność i zwalnia nasz czas. Ten dodatkowy czas można zainwestować w działania, które odzwierciedlają naszą ludzką istotę: krytyczne myślenie i innowacje, obszary, w których maszyny wciąż mają braki.
Wciąż jesteśmy na wczesnym etapie rozwoju AI i nie widzę bezpośrednich zagrożeń. Dzięki naszej wrodzonej zdolności do strategicznego myślenia i kreatywności możemy wykorzystywać obecne technologie i napędzać innowacje, by je przewyższyć.
EP: Czy w niedalekiej przyszłości będzie możliwe stworzenie AGI?
EA: Badając potencjał ogólnej sztucznej inteligencji zdajemy sobie sprawę, że genAI odgrywa kluczową rolę. Jednak czy AGI jest osiągalne w ciągu najbliższej dekady? Przed nami liczne wyzwania, jak m.in. określenie potrzebnego sprzętu wykraczającego poza obecne GPU do przetwarzania ogromnych zbiorów danych oraz wskazanie pożądanych atrybutów AGI, takich jak świadomość środowiskowa. Obecnie brakuje nam konkretnego zrozumienia AGI i jasnego planu.
Jesteśmy świadomi, że kluczowe korporacje, stojące na czele projektów AI, posuwają aspekty multimodalnej inteligencji ogólnej, choć te wysiłki pozostają w dużej mierze nieujawnione. Droga do ogólnej sztucznej inteligencji to nie tylko przełomy technologiczne, ale także zajmowanie się kwestiami etycznymi i odpowiedzialnymi wytycznymi. Gdy będziemy mogli odpowiedzieć na te fundamentalne pytania, zbliżymy się do osiągnięcia poziomu inteligencji i świadomości, których szukamy w AGI.
EP: Jak zatem, w oczekiwaniu na AGI, rozwinie się sama technologia AI?
EA: Przewiduję, że AI w wciągu pięciu najbliższych lat w drastyczny sposób odmieni liczne sektory, stając się integralną częścią naszych systemów edukacyjnych i codziennych rutyn. W ciągu dekady prawdopodobnie będzie głęboko wpleciona we wszystkie nasze działania. Zdolność AI do analizowania anonimizowanych zbiorów danych umożliwi jej rejestrowanie naszych ruchów, rozpoznawanie złożonych związków i wzorców, a nawet przewidywanie przyszłych planów na podstawie analizy zachowań. Tego rodzaju modelowanie predykcyjne stanie się powszechne już za dwa-trzy lata.
Wpływ AI na badania naukowe będzie wręcz monumentalny, przyspieszy przełomy w różnych dziedzinach. Technologia ta odegra znaczącą rolę w kształtowaniu polityk zagranicznych i strategii rządowych. Kraje, które pozostaną na czele rozwoju AI, prawdopodobnie będą liderami w kształtowaniu geopolityki, staną się bardziej odporne gospodarczo. To zasadniczo zmieni globalny krajobraz. Niektóre narody rozwiną się dzięki inwestycjom w AI, mogą wyłonić się nowi gracze.
Zmiany zajdą też na poziomie indywidualnym.
EP: To znaczy?
EA: Tak jak obecność kamery CCTV może zmienić zachowanie osoby, tak samo wiedza o byciu monitorowanym przez AI wpłynie na nas. W miarę jak taka technologia staje się bardziej zakorzeniona w naszym życiu, ma potencjał, aby znacząco wpływać na ludzkie zachowania i podejmowanie decyzji.
Wywiad zrealizowany we współpracy z Rzeczpospolitą, na której łamach ukazał się artykuł 21 listopada 2023 roku: przeczytaj więcej.