Sztuczna inteligencja wydaje się dziś naturalnym symbolem przyszłości. Rozmawiamy z algorytmami, oddajemy im część pracy, pytamy je o rady i coraz częściej zastanawiamy się, czy pewnego dnia staną się od nas inteligentniejsze. Można więc odnieść wrażenie, że właśnie AI powinno być największym lękiem cyberpunku.
Tyle że klasyczny cyberpunk rzadko naprawdę bał się maszyn.
Znacznie częściej bał się ludzi, którzy je kontrolują.
Technologia w tych światach nie pojawia się sama. Ktoś ją buduje, finansuje, posiada i decyduje, kto może z niej korzystać. Dlatego prawdziwym potworem cyberpunku nie jest komputer, który zaczyna myśleć. Jest nim system, w którym ogromna technologiczna potęga trafia w ręce organizacji silniejszych od zwykłego człowieka.
Maszyna nie ma interesów. Korporacja ma.
Sztuczna inteligencja sama w sobie jest narzędziem. Może analizować dane, podejmować decyzje, rozpoznawać obrazy albo prowadzić rozmowę. Problem zaczyna się dopiero wtedy, gdy ktoś określa jej cel.
Cyberpunk od początku rozumiał tę różnicę.
W jego świecie technologia niemal zawsze jest częścią większej struktury władzy. Implant może poprawić ciało, ale produkuje go korporacja. Sieć może połączyć miliony ludzi, ale ktoś jest jej właścicielem. System bezpieczeństwa może chronić miasto, ale jednocześnie może obserwować każdego jego mieszkańca.
Maszyna wykonuje zadanie.
Korporacja wybiera zadanie.
I właśnie dlatego pytanie „czy AI stanie się niebezpieczna?” może być mniej istotne od innego:
Kto będzie decydował, do czego AI zostanie użyta?
Cyberpunk nie przewidywał firm. Przewidywał nowe państwa.
W wielu cyberpunkowych światach megakorporacje nie są po prostu dużymi przedsiębiorstwami. Posiadają własne armie, laboratoria, systemy bezpieczeństwa, dzielnice miast, sieci komunikacyjne i dane milionów ludzi.
Granica między firmą a państwem zaczyna zanikać.
W Blade Runnerze korporacja Tyrell nie tylko produkuje replikantów. Tworzy nowe istoty i ustala warunki ich istnienia. Decyduje o długości ich życia, przeznaczeniu i miejscu w społeczeństwie.
W Neuromancerze wielkie organizacje funkcjonują niemal jak osobne światy. Dysponują technologią i informacją, do których zwykły człowiek praktycznie nie ma dostępu.
W Cyberpunku 2077 megakorporacje potrafią wpływać na politykę, prowadzić wojny i traktować całe miasta jak pola własnych interesów.
To nie jest lęk przed biznesem.
To lęk przed koncentracją władzy.
Bo kiedy jedna organizacja kontroluje pieniądze, technologię, informację i infrastrukturę, człowiek przestaje być obywatelem.
Staje się użytkownikiem,Klientem,Pracownikiem,Albo produktem.
Najważniejszą walutą nie są pieniądze
Przez długi czas największym symbolem władzy był kapitał. Kto posiadał fabryki, ziemię albo surowce, ten posiadał przewagę.
Świat cyfrowy dodał do tej listy coś jeszcze: informację.
Dane o tym, gdzie jesteśmy, czego szukamy, co kupujemy, z kim rozmawiamy, czego się boimy i czego pragniemy mogą powiedzieć o człowieku więcej niż niejedna rozmowa.
Cyberpunk intuicyjnie rozumiał, że przyszła władza będzie opierała się właśnie na informacji.
Nie trzeba kontrolować człowieka siłą, jeżeli można przewidzieć jego zachowanie.
Nie trzeba zabraniać mu wyboru, jeżeli można wpływać na to, jakie opcje zobaczy.
Nie trzeba mówić mu, co ma myśleć, jeżeli można zdecydować, jakie informacje będą do niego docierały.
W takim świecie sztuczna inteligencja staje się niezwykle potężna. Ale nadal pozostaje częścią większego problemu.
AI może analizować dane.
Ktoś jednak musi posiadać dane.
Najbardziej cyberpunkowy system to ten, którego używamy dobrowolnie
Klasyczne dystopie często wyobrażały sobie kontrolę jako coś narzuconego. Kamery na ulicach. Policję. Zakazy. Cenzurę. Wielkiego Brata obserwującego obywatela.
Cyberpunk pokazuje bardziej subtelną możliwość.
Co jeśli ludzie sami przyniosą urządzenia śledzące do swoich domów?
Co jeśli będą je nosić w kieszeni?
Co jeśli zgodzą się oddawać dane nie dlatego, że ktoś ich do tego zmusza, lecz dlatego, że w zamian otrzymają wygodę?
To znacznie ciekawszy mechanizm władzy, ponieważ nie wymaga przemocy.
System nie musi cię zamykać.
Wystarczy, że stanie się zbyt wygodny, żebyś chciał z niego zrezygnować.
I właśnie tutaj współczesność zaczyna przypominać cyberpunk znacznie bardziej niż wtedy, gdy patrzymy wyłącznie na roboty, neony i implanty.
Najskuteczniejsza technologia kontroli może być tą, którą sami codziennie uruchamiamy.
AI może być zagrożeniem. Ale pytanie brzmi: dla kogo?
Lęk przed sztuczną inteligencją często przyjmuje bardzo prostą formę: maszyny staną się inteligentniejsze od człowieka, przejmą kontrolę i przestaną nas potrzebować.
Cyberpunk zwykle stawia ciekawsze pytanie.
Co stanie się wcześniej?
Co jeśli AI nie zbuntuje się przeciwko swoim właścicielom?
Co jeśli będzie im doskonale służyć?
Algorytm analizujący zachowanie milionów ludzi może zostać wykorzystany do badań medycznych, zarządzania transportem czy wykrywania oszustw. Ten sam rodzaj technologii może również służyć do profilowania, manipulacji, nadzoru albo automatycznego podejmowania decyzji dotyczących ludzi.
Nie trzeba więc czekać na świadomą maszynę.
Wystarczy bardzo skuteczne narzędzie znajdujące się w rękach kogoś, kto ma własny interes.
I to jest scenariusz znacznie bardziej cyberpunkowy niż wojna ludzi z robotami.
Problemem nie jest technologia
Cyberpunk nigdy nie był tak naprawdę antytechnologiczny.
Jego bohaterowie korzystają z implantów, sieci, sztucznej inteligencji i zaawansowanej elektroniki. Często kochają technologię. Potrafią dzięki niej przekraczać ograniczenia własnego ciała i świata.
Problem pojawia się gdzie indziej.
Technologia rozwija możliwości człowieka, ale nie rozwiązuje problemu władzy.
Jeżeli społeczeństwo jest nierówne, nowa technologia może powiększyć nierówności.
Jeżeli informacja jest kontrolowana przez niewielką grupę, nowe systemy mogą zwiększyć jej przewagę.
Jeżeli człowiek jest traktowany przede wszystkim jako źródło zysku, nawet najbardziej zaawansowana technologia może służyć temu samemu celowi.
Dlatego cyberpunkowe miasta mogą być pełne cudów techniki i jednocześnie pozostawać miejscami brutalnymi, biednymi i niesprawiedliwymi.
High tech. Low life.
Technologia osiągnęła przyszłość.
Społeczeństwo niekoniecznie.
Najgorsza przyszłość nie potrzebuje złej AI
Być może dlatego największe zagrożenie związane ze sztuczną inteligencją nie musi wyglądać jak bunt maszyn.
Nie potrzeba elektronicznego tyrana.
Nie potrzeba świadomego komputera, który postanowi zniszczyć ludzkość.
Wystarczy system niezwykle dobry w wykonywaniu poleceń.
System zdolny analizować ogromne ilości informacji, przewidywać zachowania i optymalizować decyzje.
A potem wystarczy zadać pytanie:
kto wydaje mu polecenia?
To pytanie znajdziemy pod niemal całym cyberpunkiem.
Kto posiada technologię?
Kto posiada sieć?
Kto posiada informacje?
Kto ustala reguły?
I co może zrobić człowiek, który nie posiada żadnej z tych rzeczy?
Cyberpunk nie boi się przyszłości. Boi się nierównowagi sił.
Dlatego megakorporacja jest dla cyberpunku tak potężnym symbolem.
Nie dlatego, że każda wielka firma musi być zła.
Korporacja reprezentuje coś większego: możliwość zgromadzenia technologii, kapitału i informacji w jednym miejscu, podczas gdy jednostka ma coraz mniej możliwości wpływania na system.
Sztuczna inteligencja może tę nierównowagę zmniejszyć.
Może również zwiększyć ją do poziomu, którego wcześniej nie znaliśmy.
I właśnie tutaj znajduje się prawdziwe pytanie przyszłości.
Nie: czy maszyny staną się takie jak ludzie?
Lecz:
co stanie się z ludźmi, jeśli najpotężniejsze maszyny będą należały tylko do nielicznych?
Cyberpunk zadawał to pytanie, zanim sztuczna inteligencja stała się częścią codziennego życia.
Dlatego nadal jest aktualny.
Może nawet bardziej niż kiedykolwiek.