W świetle reflektorów, gdzie innowacja splata się z obietnicą lepszej przyszłości, giganci technologiczni kreują narrację o sztucznej inteligencji (AI), która może zbawić ludzkość lub ją unicestwić.
Ale co kryje się za tym szumem, za tymi zjawiskowymi deklaracjami o stworzeniu „maszynowego boga”?
Karen Hao, uznana dziennikarka śledcza i autorka książki o OpenAI, rzuca światło na ukrytą ideologię, mity i potencjalną bańkę, która napędza najpotężniejsze firmy AI na świecie.
Jej dogłębne śledztwo, oparte na ponad dziewięćdziesięciu wywiadach z obecnymi i byłymi pracownikami oraz menedżerami OpenAI, demaskuje fascynującą, a jednocześnie niepokojącą historię.
To opowieść o wierze, która przybiera niemal religijny charakter, o dążeniu do dominacji i o zacieraniu się granic między marketingiem a głęboko zakorzenionym przekonaniem.
Rytuał spalenia kukły: AI jako nowa mitologia
Jedna z najbardziej szokujących relacji Karen Hao dotyczy firmowego wyjazdu OpenAI, podczas którego Ilia Sutskever, przez długi czas główny naukowiec firmy, odprawił niezwykły rytuał.
Opisana przez dziennikarkę scena, w której starsi naukowcy, ubrani w szlafroki, tworzą półkole wokół ognia, a Sutskever podpala drewnianą kukłę, jest niczym z kart starożytnej mitologii.
Kukła symbolizowała dobrą Ogólną Sztuczną Inteligencję (AGI), która z czasem staje się zła, oszukuje i dąży do zniszczenia świata.
Ideą stojącą za tym symbolicznym aktem było przekonanie, że to właśnie obowiązkiem OpenAI jest zniszczenie tej „złej” AI, zanim uczyni to ktoś inny.
To głębokie, symboliczne działanie, ukazujące niemal mesjanistyczne podejście do technologii, gdzie twórcy widzą się w roli zbawicieli ludzkości przed potencjalnym zagrożeniem stworzonym przez samych siebie lub konkurencję.
„Zakładałam, że to tylko retoryka, po prostu marketing, którego te firmy używają, żeby przedstawić swoje technologie jako potężne, a przez to także siebie samych jako potężnych.
Ale kiedy zaczęłam naprawdę rozmawiać z ludźmi wewnątrz tych firm, najbardziej zaskoczyła mnie skala, w jakiej ludzie z tej branży autentycznie uwierzyli w te narracje.
Ta narracja zaczęła przybierać niemal religijny charakter. Ostatecznie są na misji zbudowania czegoś w rodzaju maszynowego boga.” – podkreśla Karen Hao, demaskując fundamentalne wierzenia w Dolinie Krzemowej.
Karen Hao porównuje ten stan rzeczy do epickiej sagi science fiction „Diuna”, w której Paul Atreides, początkowo świadomy mitu stworzonego wokół niego, z czasem sam zaczyna gubić się w tej opowieści, zastanawiając się, czy jest mesjaszem, czy tylko jego kreacją.
W świecie AI, jak twierdzi dziennikarka, dzieją się podobne procesy.
Część założycieli i naukowców to „prawdziwie wierzący” od początku, inni przyjmują tę wiarę z pragmatyzmu, by zyskać poparcie społeczne i polityczne, a jeszcze inni, początkowo sceptyczni, ulegają jej, otoczeni tym systemem przekonań.
Niezależnie od początkowej postawy, system przekonań wchłania wszystkich. Wszyscy zaczynają żarliwie wierzyć w oficjalnie deklarowaną misję, nie potrafiąc już oddzielić początkowych intencji od głęboko zakorzenionej ideologii.
To proces, który przekształca czysto technologiczne przedsięwzięcie w coś znacznie bardziej fundamentalnego, coś, co ma moc kształtowania cywilizacji.
Czym jest AGI? Marketingowy slogan czy realny cel?
Pojęcie Ogólnej Sztucznej Inteligencji (AGI) jest centralnym elementem tej mitologii. Firmy technologiczne, a zwłaszcza OpenAI, nieustannie posługują się tym terminem, choć jego definicja pozostaje zadziwiająco płynna.
Karen Hao zauważa, że OpenAI definiowało AGI co najmniej pięć razy w swojej historii, dostosowując ją do kontekstu i odbiorcy.
- Dla inwestorów i na stronie internetowej AGI to „wysoce autonomiczne systemy, które przewyższają ludzi w większości ekonomicznie wartościowych prac”.
- W umowie z Microsoftem staje się systemem, który „wygeneruje 100 miliardów dolarów przychodu”.
- Przed Kongresem Sam Altman, dyrektor generalny OpenAI, opisywał ją jako system zdolny „wyleczyć raka i rozwiązać problem zmian klimatu”.
- Dla konsumentów AGI to „najlepszy cyfrowy asystent w życiu”.
- Ostatnio, jak dodaje Hao, pojawiła się definicja „naukowca AI”, czyli systemu zdolnego do samodzielnego dokonywania odkryć naukowych, aby przyspieszyć własny rozwój firmy.
Taka elastyczność definicyjna, według Hao, nie jest przypadkowa. Jest strategicznie zorientowana wokół jednego pytania: Jak to pomoże osiągnąć cele firmy?
AGI jest definiowana w odniesieniu do ambicji dominacji w rozwoju AI, gromadzenia zasobów, władzy i bogactwa.
Wszystko to służy budowaniu szumu marketingowego, pozyskiwaniu inwestorów i lobbowaniu przeciwko regulacjom, które mogłyby spowolnić ekspansję.
Bańka technologiczna większa niż dotcomy?
Karen Hao z obawą wskazuje, że obecny szum wokół AI może być gigantyczną bańką, potencjalnie gorszą niż słynna bańka dotcomów.
Skala inwestycji w AI jest bezprecedensowa, a co gorsza, tworzona infrastruktura ma znacznie bardziej inwazyjny i destrukcyjny charakter.
W przeciwieństwie do kabli internetowych, które po pęknięciu bańki dotcomów nadal służyły ludzkości, infrastruktura AI – ogromne centra danych – zużywa gigantyczne ilości energii i zasobów słodkiej wody.
Generuje zanieczyszczenia, a co najważniejsze, szybko traci wartość.
Hao podaje przykład projektu Stargate Initiative OpenAI w Teksasie, wartego 500 miliardów dolarów, gdzie część jeszcze nieukończonego ośrodka obliczeniowego już została uznana za przestarzałą.
Finanse OpenAI również budzą niepokój. Firma zobowiązała się wydać 1,4 biliona dolarów na infrastrukturę, osiągając przy tym zaledwie 25 miliardów dolarów przychodu.
Ta bilionowa luka jest trudna do zasypania, a model biznesowy firmy nie gwarantuje tak ogromnych zysków.
Hao wskazuje, że firma Anthropic, będąca „numerem dwa” w branży, szybko odbiera OpenAI udział w rynku, nie ponosząc jednocześnie tak ogromnych kosztów infrastrukturalnych.
Model rozwoju AI: Eksploatacja kontra precyzja
Krytyka Karen Hao dotyczy nie tylko ideologii i bańki, ale także wybranego przez gigantów AI modelu rozwoju.
Stawiając na duże modele językowe (LLM) jako „maszyny od wszystkiego”, firmy te wybierają ścieżkę o ekstremalnie wysokich kosztach – zarówno finansowych, środowiskowych, jak i ludzkich.
Autorka zestawia LLM-y z systemami takimi jak AlphaFold, rozwijanymi przez Google DeepMind, które są wysoce wyspecjalizowane.
AlphaFold, trenowany wyłącznie na sekwencjach aminokwasów i danych dotyczących fałdowania białek, z ogromną precyzją przewiduje strukturę białek.
Jest to przykład AI, która przynosi realne korzyści naukowe przy znacznie mniejszych kosztach energetycznych i bez problemu eksploatacji pracy.
Duże modele językowe, aby stać się „maszyną od wszystkiego”, muszą być trenowane na „wszystkim” – co oznacza intensywne „scrapowanie” internetu, niszczenie książek, transkrypcję filmów z YouTube’a i zawieranie umów licencyjnych z redakcjami.
Proces ten wymaga nie tylko ogromnej mocy obliczeniowej, ale także masowej moderacji treści, co prowadzi do wyzysku pracy.
Jak opisuje Hao, „maszyna od wszystkiego” tworzy warunki, w których pracownicy wiedzy, zamiast wykonywać pełnoetatową pracę, stają się anotatorami danych, ucząc modele AI, jak wykonywać te same zadania.
To zleceniowa wersja pracy, znacznie gorzej opłacana i realizowana w bardziej eksploatacyjnych warunkach.
Daron Acemoglu, profesor MIT i laureat nagrody Nobla z ekonomii, potwierdza, że nie chodzi o całkowitą automatyzację pracy, lecz o degradację dużej części pracy intelektualnej.
„W mojej rozmowie z Daronem Acemoglu powiedział on, że nie chodzi o to, że cała praca zostanie zautomatyzowana.
To jest coś, co Dolina Krzemowa bardzo lubi powtarzać, między innymi po to, żeby dalej pompować szum wokół możliwości swoich technologii. Wydaje się, że naprawdę dzieje się coś innego: degradacja dużej części pracy intelektualnej.
Pracownicy wiedzy nadal wykonują pracę opartą na wiedzy, ale zamiast robić to w ramach pełnoetatowego zatrudnienia, wykonują ją jako anotację danych w bardzo, bardzo eksploatacyjny sposób.” – wyjaśnia Karen Hao, ukazując ciemną stronę rewolucji AI.
AI a przyszłość demokracji i sprawczości
Największą obawą Karen Hao jest to, że pozwolenie firmom na skonsolidowanie tak ogromnej władzy i zasobów może cofnąć nas do epoki imperiów, co w konsekwencji oznaczałoby, że demokracja może nie przetrwać.
Ludzie przestaną mieć sprawczość i prawa, nie będą w stanie samodzielnie się rządzić, decydować o sobie, kontrolować swoich szans ekonomicznych, zdrowia czy przyszłości swoich dzieci.
Sam Altman, jak przypomina Hao, mówił, że „widzimy świat, w którym dostarczamy inteligencję jako usługę publiczną i kupujecie ją od nas”.
To oznacza, że firmy AI dążą do stania się jedynym dostawcą ekspertyzy na świecie, wchłaniając ekspertów do branży anotacji danych i zastępując ich własnymi modelami.
To nie tylko kwestia zysków, ale fundamentalna zmiana w strukturze władzy i społeczeństwa.
Co możemy zrobić? Wezwanie do transparentności
Czy jest już za późno, by zmienić ten kurs? Karen Hao stanowczo odpowiada: „Nie, oczywiście, że nie.” Wierzy, że edukacja społeczeństwa jest fundamentalnym warunkiem działania demokracji.
Ludzie muszą rozumieć, co się dzieje, aby móc podejmować świadome decyzje dotyczące przyszłości, w której chcą żyć. To właśnie misja dziennikarza – pomagać ludziom zrozumieć rzeczywistość, ponieważ firmy technologiczne nie mają takiej misji.
Pierwszym krokiem, według Hao, musi być znacznie większa przejrzystość. Rządy powinny wymagać od tych firm ujawniania danych, na których trenowane są modele AI.
Obecnie, społeczeństwo ma dostęp jedynie do wyników, bez wiedzy o danych wejściowych. Bez tego nie można naukowo badać korelacji ani wpływać na wyniki poprzez dane wejściowe.
To tak, jakby próbować zrozumieć samochód, mając dostęp tylko do jego osiągów, ale nie do schematów silnika.
Hao wskazuje na Europę jako przykład, gdzie regulacje takie jak RODO czy AI Act, choć często krytykowane, przyniosły sukces.
W Europie nie ma gigantów technologicznych AI, którzy rozwijaliby technologię w oparciu o eksploatacyjny model, co jest dowodem na wpływ i skuteczność regulacji.
Dziennikarka podkreśla, że zatrzymałaby obecny „lekkomyślny” wyścig w rozwoju konkretnego typu AI, ale nie cały rozwój AI. Wręcz przeciwnie, jest bardzo optymistyczna wobec wyspecjalizowanych systemów, takich jak AlphaFold.
Przyszłość AI: Czego możemy, a czego powinniśmy chcieć?
Karen Hao unika prognozowania, ponieważ, jak twierdzi, sugeruje to, że przyszłość jest już napisana. Cała jej praca opiera się na przekonaniu, że to my, poprzez nasze dzisiejsze działania, piszemy przyszłość.
Dlatego jej odpowiedź na pytanie o przyszłość AI koncentruje się na tym, jak chciałaby, żeby się rozwinęła.
Hao widzi przyszłość, w której najbardziej zaawansowane modele AI nie są tworzone wyłącznie przez gigantów technologicznych. Zamiast tego, powinny je tworzyć mniejsze firmy, badacze, organizacje non-profit, a nawet społeczności lokalne.
Przykładem jest stacja radiowa prowadzona przez Maorysów w Nowej Zelandii, która stworzyła własny model AI w języku rdzennej ludności. To pokazuje, że AI może służyć różnorodnym potrzebom i wartościom, jeśli zostanie zdecentralizowana.
Kluczowe jest przemyślane podejście, które ceni etykę, transparentność i zrównoważony rozwój, a nie ślepy wyścig ku dominacji i maksymalizacji zysków.
Czas odzyskać kontrolę nad narracją i kierunkiem rozwoju sztucznej inteligencji, aby służyła ona wszystkim, a nie tylko nielicznym, którzy dziś kreują ją na swoje podobieństwo.
Komentarze
Brak komentarzy. Bądź pierwszy.
Dodaj komentarz