Kasandra na emeryturze

Poniższy tekst został opublikowany w Czasie Fantastyki, nr 01/2014.

 

„Babcock ze swoim spłaszczonym, czerwonym i świecącym nosem, z ropą w kącikach oczu i resztkami jedzenia między zębami. Żona Sama z malinową papką na wargach. Twarz ociekająca łzami, kapka pod nosem. I ten cholerny pies z błyszczącym nosem i mokrymi ślepiami…”

Maski, Damon Knight, tłum. Lech Jęczmyk.

 

Hugo de Garis ma za sobą bogatą karierę zawodową. Urodzony w Australii w 1947 r., studiował matematykę stosowaną i fizykę teoretyczną na uniwersytecie w Melbourne. W latach 1972–1976 uczył matematyki jako asystent w Cambridge. Dziesięć lat pracował przy projektach informatycznych w Holandii, Belgii i Australii. Wreszcie przyjął posadę pracownika badawczego na uniwersytecie w Leuven w Belgii, gdzie zajmował się sztuczną inteligencją, maszynami uczącymi się i systemami doradczymi. W 1992 r. obronił rozprawę doktorską o tytule Genetic Programming: GenNets, Artificial Nervous Systems, Artificial Embryos (Programowanie genetyczne: Gen-Nety, sztuczne układy nerwowe i sztuczne zarodki). W tym samym roku wygrał konkurs Komisji Europejskiej na dwuletni staż podoktorski w Japonii, który odbył w mieście Tsukuba, w Laboratorium Elektrotechnicznym.

Następnie został pracownikiem Instytutu Zaawansowanych Badań Telekomunikacyjnych w Kioto. Kierował tam projektem mającym na celu wyhodowanie sztucznego mózgu metodami programowania genetycznego. Do końca 2001 r. planowano zbudowanie obiektu o własnościach odpowiadających mózgowi kota, z jego zdolnościami motorycznymi i inteligencją. Urządzenie takie dałoby według de Garisa początek szybko rozwijającemu się przemysłowi, produkującemu coraz zmyślniejsze urządzenia służące człowiekowi w pracach domowych. Ponieważ zespołowi nie udało się w zapowiadanym terminie przedstawić działającego modelu, projekt został w 2001 r. zamknięty.

De Garis kontynuował swoją pracę po przeniesieniu się do laboratorium instytutu Starlab w Brukseli, jednak instytucja ta zbankrutowała w czerwcu 2001 r. Karierę akademicką de Garis kontynuował na Uniwersytecie Stanowym Utah, a potem na Uniwersytecie Wuhan, gdzie wykładał matematykę, fizykę teoretyczną i informatykę. Został kierownikiem Laboratorium Sztucznego Mózgu na Uniwersytecie Xiamen w Chinach. Po przejściu na emeryturę pozostał w Chinach z powodu niskich kosztów utrzymania i zamierza, uwolniony od przymusów związanych z formalnym zatrudnieniem, spędzić resztę życia na studiowaniu fascynujących go tematów.

W swoich artykułach, książkach i wypowiedziach Hugo de Garis przepowiada dla XXI wieku dwa brzemienne w skutki wydarzenia. Po pierwsze, dojdzie do całkowitego zaniku państw narodowych i powstania ogólnoziemskiej wspólnoty Globy.

Szybkość łączy internetowych zwiększa się w tempie podobnym do tempa wzrostu mocy komputerów, gdzie już od dekad obserwuje się prawdziwość prawa Moore’a  – mniej więcej co półtora roku maksymalna moc komputerów podwaja się. Oznacza to, że coraz większa liczba ludzi będzie dysponowała coraz szybszym dostępem do informacji. Szerokopasmowa sieć umożliwi tanią i natychmiastową wirtualną obecność w każdym miejscu na świecie. Jeśli tempo wzrostu szybkości Internetu utrzyma się, wieszczy profesor, to w ciągu następnych trzydziestu lat szybkość transmisji danych powiększy się miliard razy, w ciągu czterdziestu – bilionkrotnie. Rosnąca intensywność wymiany informacji spowoduje, że jeden z języków zdominuje wszystkie pozostałe i stanie się językiem ogólnoświatowym, globalnym. De Garis przewiduje, że nie będzie to jednak chiński, choćby ze względu na nieekonomiczny sposób zapisu. Świat Globy ostatecznie będzie porozumiewał się po angielsku. Kultury ulegną homogenizacji, upowszechnią się te obyczaje, opinie i sposoby życia, które większość uzna za najbardziej odpowiadające ich potrzebom. Dostępność i powszechność edukacji (za pośrednictwem satelitów edukacyjnych) spowoduje nieuniknione przemiany społeczne w każdym zakątku planety. Już od dawna obserwujemy tendencję do łączenia się państw w większe bloki, mające efektywniej radzić sobie z globalnymi problemami i globalną konkurencją. Rozszerzy się Unia Europejska, powstaną unie celne również w innych rejonach świata. Intensywność kontaktów międzyludzkich zwiększy się niepomiernie.

Rząd chiński przewiduje, że za dziesięć lat sto milionów Chińczyków zacznie uprawiać intensywnie globalną turystykę (to prognoza z2010 r.). Rozpowszechnią się szybkie koleje i loty transkontynentalne. Już dzisiaj, powiada de Garis, Chiny mają dłuższą sieć linii szybkich kolei niż cała Europa razem wzięta, i w tym częstym powoływaniu się na przykład chiński widać pewne skrzywienie jego perspektywy.

W naturalny sposób nastąpi przejście od myślenia lokalnego, narodowego do globalnego. Ostatnie dyktatury zostaną obalone, wieńcząc widoczną od dłuższego czasu tendencję do zastępowania tyranii rządami demokratycznymi (średnio co roku upadają dwie dyktatury). Przy okazji de Garis poświęca specjalną uwagę Arabom, powtarzając dość powszechną opinię na ich temat. Oto problem z nimi jest taki, iż widząc, jak ich zacofana kultura w zetknięciu ze zlaicyzowaną, cyniczną i przesiąkniętą scjentyzmem kulturą Zachodu przegrywa, przeżywają traumę, która prowadzi ich do aktów irracjonalnej agresji. Jednak świat pełen jest kultur odmiennych od zachodniej, które również doświadczają jej wpływu, a ich odpowiedź na to nie jest aż tak destrukcyjna. Jakąś wskazówkę daje w innym miejscu sam profesor. Przyjęcie globalnej perspektywy, powiada, będzie wymagało zrewidowania wielu pojęć, na przykład prawa lokalnych wspólnot do zasobów naturalnych. Tak więc Arabowie będą musieli pogodzić się z tym, że ropa naftowa przestanie być już bogactwem arabskim, a stanie się zasobem należącym do całej ludzkości. Biorąc pod uwagę nasze doświadczenia, możemy dopowiedzieć, iż ludzkość z pewnością powierzy trudne zadanie korzystania z tych zasobów (a także wszelkich innych) wybranym przez siebie, godnym zaufania przedstawicielom o najwyższym ilorazie inteligencji.

Ideologia globalistyczna, której przyszłą dojrzałą formę de Garis nazywa globizmem, doprowadzi ostatecznie do powstania rządu światowego. Oznaczać to będzie ustanie wojen między państwami (bo państw nie będzie), zaprzestanie zbrojeń (rokrocznie świat wydaje niemal dwa biliony dolarów na zbrojenia, co jest monstrualnym marnotrawieniem środków), koniec handlu bronią (który jest gorszy niż handel niewolnikami, bo kiedy ten drugi zachowuje jednak ludzkie życie, to pierwszy niesie śmierć), zwalczenie ignorancji i biedy, a na dokładkę rozwiązanie problemu zanieczyszczenia środowiska, zakończenie zamieszania na rynkach walutowych i ulżenie doli Trzeciego Świata. Pokój na ziemi, koniec handlu bronią, szczęście i bogactwo dla każdego – to obiecuje nam Globa w przedstawieniu de Garisa. Jak widzimy optymizm profesora w tym względzie nie jest bardzo oryginalny i kroczy wydeptanymi ścieżkami, dość beztrosko pomijając wszystkie nauki, jakich udzielił nam XX w.w temacie imperiów aspirujących do objęcia swą władzą całej planety

 Na tym jednak koniec dobrych wieści. De Garis nie głosi nadejścia jakiegoś rodzaju szczęśliwej utopii. Wręcz przeciwnie, przewiduje, że to dopiero wstęp do największej hekatomby w dziejach, przy której zbledną wszystkie zbrodnie XX w. Oto rosnąca moc komputerów ostatecznie umożliwi stworzenie uniwersalnych sztucznych inteligencji (UAI, Universal Artificial Inteligence) albo, jak je nazywa Ben Goertzel, współpracownik i następca de Garisa, sztucznych ogólnych inteligencji (Artificial General Intelligence – AGI).

Tzw. sztuczne inteligencje różnego rodzaju oczywiście już nam towarzyszą w codziennym życiu. Każdy producent sprzętu elektronicznego może reklamować swoje wyroby, przywołując to pojęcie. Inteligentne samochody, telewizory, pralki, spłuczki klozetowe, aparaty fotograficzne, udzielające nam wskazówek piece – wszystko to istnieje już od dawna. Jednak sztuczne inteligencje, te które sprzedajemy i kupujemy, są wąsko wyspecjalizowane. Jedne rozpoznają twarze, inne linie papilarne, jeszcze inne sterują złożonymi procesami technologicznymi. Mimo rosnącego wyrafinowania żadna z nich nie jest w stanie sprostać zwykłym czynnościom, jakie codziennie wykonuje każdy, nawet najmniej rozgarnięty człowiek.

Społeczeństwa krajów rozwiniętych starzeją się w szybkim tempie. Tani humanoidalny robot, który potrafiłby opiekować się starszą osobą i wykonywać niezbędne prace domowe, w dodatku posiadałby umiejętność porozumiewania się z ludźmi i prawidłowego reagowania na ich stany emocjonalne, stałby się z pewnością szybko jednym z niezbędnych elementów nowoczesnego gospodarstwa domowego. Nie przypadkiem najbardziej zaawansowane prace w tym kierunku prowadzone są właśnie w Japonii – to kraj szybko się starzejący, z największą liczbą stulatków, i społeczeństwem nieskłonnym do zaakceptowania masowego importu obcej siły roboczej, a jednocześnie dostatecznie zaawansowany technologicznie. Z kolei rząd Korei Południowej w 2010 r. zapowiedział, że za dziesięć lat w każdym gospodarstwie domowym znajdzie się robot ogólnego zastosowania, wyposażony w sztuczny mózg. To tylko jedno z możliwych zastosowań UAI. Kiedy systemy takie powstaną (a de Garis nie ma wątpliwości, że nastąpi to już w XXI w.), to produkcja sterowanych przez nie urządzeń stanie się jedną z najpotężniejszych i najprężniej rozwijających się gałęzi przemysłu na świecie.

To prawdziwa gratka oglądać starzejącego się de Garisa (długi wywiad, jakiego udzielił Adamowi A. Fordowi w 2010 r., dostępny jest na YouTube), kiedy w prującym się czarnym sweterku, białej koszuli z kołnierzykiem z odstającymi rogami, zmierzwionym czarnym włosem pokrywającym tylną część czaszki, opowiada ze swadą i niekłamanym przejęciem o nadchodzącej, wymyślonej przez siebie katastrofie.

Jeśli prawo Moore’a będzie obowiązywało jeszcze dziesięć lat, do 2020 r., powiada de Garis, to pojedynczy bit informacji będzie kodowany przez pojedyncze atomy. Jaka jest potencjalna moc obliczeniowa komputerów opartych na takiej technologii, w pełni zasługującej już na przedrostek nano? Liczba atomów w jednym molu materii to koło 10²⁴  (jeden z dwudziestoma czterema zerami, czyli kwadrylion). Stan jednego atomu może być przełączany z szybkością 10^-15 sekundy (jednej femtosekundy). Zatem jeśli każdy atom zawarty w jednym molu funkcjonować będzie jako komponent komputera, to zdolność obliczeniowa tej szczypty atomów wyniesie 10³⁹ zmian stanów na sekundę. Jaka jest w porównaniu z tym wydajność obliczeniowa mózgu ludzkiego? Można ją z grubsza oszacować. Liczba neuronów w naszych mózgach to sto miliardów (10¹¹). Każdy neuron łączy się z około dziesięcioma tysiącami innych (10⁴) poprzez synapsy. Każda z synaps może przekazywać dziesięć impulsów na sekundę.  Daje to wielkość rzędu 10¹⁶, czyli mniejszą o dwadzieścia trzy rzędy wielkości od teoretycznej wydajności jednego mola materii.

Szybkość przetwarzania informacji nie jest równoważna ze zdolnością myślenia. Stwierdzenie to wydaje się oczywiste, mimo że ciągle nie wiemy, czym jest zdolność  myślenia. Ta jest bowiem wynikiem właściwej architektury mózgu. Jednak architekturę tę poznajemy coraz lepiej, w czym zresztą pomagają coraz wydajniejsze komputery. Skoro w tak niewielkiej ilości materii tkwią tak ogromne możliwości, jak twierdzi de Garis, to co dopiero mówić o odpowiednio większych obiektach? Jednym z najdonioślejszych odkryć fizyki XX w. jest stwierdzenie, że tak zwane obliczenia odwracalne mogą przebiegać bez generowania ciepła. Klasyczne układy obliczeniowe nie są odwracalne, nie jest teoretycznie możliwy ich przebieg w odwrotnym porządku czasowym. W takim przypadku zawsze pojawia się niepożądane ciepło. Dlatego też trudno jest zbudować trójwymiarowe masywne jednostki obliczeniowe, działające w oparciu o model obliczeń nieodwracalnych. Tymczasem obliczenia odwracalne niekoniecznie powodują wytwarzanie ciepła, co pozwala w zasadzie zbudować sztuczne mózgi wielkości asteroidów.

Dotychczas neuroinżynieria korzystała z odkryć neurobiologii. Jednak w przyszłości także neuroinżynieria zacznie wpływać na tempo badań w neurobiologii i obie dziedziny staną się dla siebie tym, czym są dla siebie nawzajem fizyka eksperymentalna i fizyka teoretyczna.

De Garis, zafascynowany pojawiającymi się możliwościami, przewiduje następujący scenariusz rozwoju wydarzeń. W połowie XXI w. rosnący poziom inteligencji maszyn wyposażonych w sztuczne mózgi, które staną się powszechne i wszechobecne, postawi na porządku dziennym nowy, najważniejszy problem, jaki kiedykolwiek napotkała ludzkość, a mianowicie kwestię dominacji naszego gatunku. Chociaż nie wiemy na razie, czym jest inteligencja i świadomość, a sam de Garis przyznaje, że gdyby miał przystąpić do rozwiązania tej zagadki, to nie miałby nawet pojęcia, od czego zacząć, to nie ma wątpliwości, iż inteligentne obiekty mogą zostać stworzone. Dowodem na to jest każde dziecko, które rozwijając się, staje się inteligentne i świadome. De Garis zatem przekonany jest, że neuroinżynieria, uzbrojona w coraz potężniejsze moce obliczeniowe, korzystając z odkryć neurobiologii i wykorzystując zdolności algorytmów ewolucyjnych, wkroczy w nieunikniony sposób na ścieżkę budowy coraz wydajniejszych sztucznych mózgów.

Czy powinniśmy pozwolić naszym maszynom stać się tak inteligentnymi jak ludzie? A może nawet mądrzejszymi, ba, o wiele bardziej inteligentnymi niż my? W zależności od postawy wobec tego problemuspołeczeństwo Globy podzieli się, w przepowiedni de Garisa, na trzy obozy. Nazywa je, trochę jak w tandetnej powieści SF, kosmistami, terranami i cyborgistami.

Kosmiści będą parli do jak najszybszego stworzenia tzw. artilektów, czyli sztucznych umysłów tak dalece przewyższających nasze, że przejmą one rolę dominującej siły cywilizacyjnej. Ewolucja sztucznych mózgów, raz wszczęta, odbywać się już będzie poza naszym udziałem. Kolejne generacje artilektów osiągną zdolności, z naszego punktu widzenia, równe boskim. Nie możemy sobie nawet próbować wyobrażać, jakie będą ich cele i czym mogą się zająć (de Garis porównuje to do sytuacji, w której mysz próbowałaby wyobrazić sobie, o czym myśli człowiek. Może o serze? Cóż, trzeba przyznać, że niektórzy ludzie myślą czasem o serze). Wydaje się naturalne, że obszarem ekspansji artilektów stanie się Kosmos, byłoby nadzwyczaj dziwne, gdyby ograniczyły się do obszaru Ziemi. Dlatego właśnie stronników jak najszybszego zbudowania artilektów de Garis nazywa kosmistami – odpowiada to malowanemu przez niego pompatycznemu obrazowi rozwoju postludzkiej cywilizacji. W kierunku pożądanym przez kosmistów przeć będą potężne siły rynkowe, bo przemysł i rynek będą potrzebować coraz doskonalszych i wydajniejszych. Zanim zanikną państwa, AGI staną się bodaj najważniejszym elementem wyścigu zbrojeń.

Rozwój szybkich kolei, do budowy których rząd chiński skierował 10 000 inżynierów, dowodzi, że jeśli Chińczycy czegoś naprawdę chcą, to to zrobią. Niewykluczone, wieszczy de Garis, iż stworzą odpowiednik NASA, którego celem będzie stworzenie AGI, i już występuje z odpowiednią nazwą dla tej instytucji – CABA (Chinese Artificial Brain Administration). Z pewnością staniemy się świadkami zawziętego wyścigu między USA, których siła zniżkuje, i Chinami, których potęga rośnie w zaskakującym tempie. Ta rywalizacja stanie się jeszcze gorętsza, gdy Chiny dościgną USA i sięgną po supremację nad światem. Elity Zachodu nienawidzą rządzących Chinami, będąc świadome, że partia komunistyczna Chin jest najbardziej zbrodniczą organizacją w historii ludzkości i odpowiada za śmierć osiemdziesięciu milionów istnień ludzkich. Nawet jeśli społeczeństwa w Chinach i USA będą przeciwne rozwojowi AGI, to rządy zignorują ich głos.

Drugą stroną sporu, który zacznie dominować na scenie politycznej już po zakończeniu rywalizacji narodowych i utworzeniu Globy, będą terranie, przerażeni groźbą utraty przez gatunek ludzki dominującej pozycji. De Garis używa tej nazwy, podkreślając ich przywiązanie do dotychczasowej postaci cywilizacji, powiązanej z Ziemią. Terranie będą wskazywać, że artilekty prawdopodobnie nie wezmą w żadnym stopniu pod uwagę naszego stanowiska, tak jak my nie uwzględniamy w naszych rachubach potrzeb mikrobów, a tym będziemy dla tych boskopodobnych istot. Ci nowi, wykreowani przez nas bogowie, mogą nas unicestwić, jeśli tylko uznają, że stanowimy dla nich jakąkolwiek przeszkodę czy niedogodność. Stawka będzie najwyższa, dlatego terranie zrobią wszystko, by powstrzymać kosmistów od zbudownia artilektów. Spór przerodzi się w konflikt zbrojny, globalną wojnę domową, która pochłonie miliardy istot ludzkich. Terranie, kierowani przemożnym strachem, nie zawahają się eksterminować kosmistów, byleby tylko zachować dominację ludzkości i ocalić ją przed nieprzewidywalnymi posunięciami nowego supergatunku. Nadzwyczaj ciekawe jest, że de Garis przypisuje w tym konflikcie ludobójczą inicjatywę terranom. Kosmiści odpłacą się w jego wizji równie brutalną przemocą, ale będzie to reakcja na działanie terran. De Garis przyznaje, iż bliższe jest mu stanowisko kosmistów, bo czymś nie do wybaczenia byłoby zatrzymanie się na obecnym żałosnym etapie rozwoju cywilizacji. Jednak w jego podejściu widać też wyraźnie wpływ zakorzenionego w jego kulturze stereotypu, według którego to niosący postęp, prący do zmian i próbujący przekształcić społeczeństwo idealiści w pierwszym rzędzie stają się ofiarą fizycznej agresji tych, co opierają się przemianom.

Trzecią grupą uczestniczącą w sporze będą według de Garisa cyborgiści. Sami zabiorą się za przekształcenie swoich umysłów tak, aby uczestniczyć osobiście w nadchodzącej rewolucyjnej przemianie. Już dzisiaj możemy obserwować początki takiej postawy na przykładzie ludzi próbujących przy pomocy wczesnej neuroinżynierii łączyć elementy elektroniczne z układem nerwowym człowieka. Ich postawę w przyszłości charakteryzuje pytanie – jeśli potrafimy zbudować bogów, to dlaczego sami nie mielibyśmy podjąć się trudu stopniowego przekształcenia się w nich? Być może w drugiej połowie XXI w. młode matki będą musiały decydować, czy pozwolić na wszczepienie w mózg noworodka ziarenka wielkości cukru, które po zintegrowaniu z mózgiem upodobni jego umysł do umysłu artilektu. Takie same możliwości otworzą się także przed ludźmi dorosłymi.

Z punktu widzenia terran różnica pomiędzy cyborgiem a artilektem będzie nieistotna. Sztuczna część mózgu cyborga, o wiele rzędów wielkości pojemniejsza i wydajniejsza, całkowicie zdominuje naturalny, stary mózg i ze scyborgizowanego noworodka wyrośnie istota nie mająca żadnego związku ze swoją matką. Totally alien, jak podkreśla to z satysfakcją de Garis. Rodzice będą tracić swoje dzieci, jawiące im się jako niezrozumiałe monstra, wokół pojawiać się będą istoty o przerażająco nieprzewidywalnych cechach, a maszyny, które miały nam służyć, okażą się na tyle inteligentne, że nasza kontrola nad nimi stanie się iluzoryczna. Terranie uznają taki rozwój wypadków za katastrofę, unicestwienie ich świata, i przyjmując, iż cywilizacja znalazła się na krawędzi rozpadu, poczują się zmuszeni do gwałtownego i energicznego przeciwdziałania.

Kosmistami kierować będą równie potężne emocje i motywacje. Ich przekonania utworzą zręby quasi-religii. Jeśli możesz stać się nieśmiertelny, myśleć nieskończenie szybciej, mieć doskonałą pamięć, to bez wahania powinieneś pogodzić się ze swoją śmiercią w tej postaci, w jakiej bytujesz obecnie. Jako człowiek zostaniesz utopiony, rozpuszczony w oceanie artilektu. Umrzesz, by narodzić się na nowo, jako nowy człowiek, a raczej nowa boska istota. Kosmiści stworzą coś w rodzaju nowej religii o naukowych podstawach, która zaspokoi potrzeby emocjonalne, podobnie jak czyniła to religia tradycyjna. Zbudowanie artilektów uważać będą za ostateczną powinność ludzkości. To wielce inspirujące przekonanie da im poczucie celu i silnie umotywuje. Poczują, że budują bogów, i nic nie może ich powstrzymać przed wypełnieniem tego wzniosłego i przejmującego dreszczem zadania.

To nie jedyny czynnik pchający do działania kosmistów. Dlaczego ludzie wspinają się na wysokie góry i ryzykują życie? Walka, ciekawość, przezwyciężanie przeszkód zakodowane są w naszych genach. Podejmowanie ryzykownych prób, szperanie i myszkowanie jest korzystne ewolucyjnie, bo umożliwia odkrycie nowych sposobów zwiększających szanse przeżycia (to stwierdzenie w omawianym kontekście brzmi nieco ironicznie). Ludzkie usiłowanie przekroczenia granic jest nie do powstrzymania, tym bardziej, że wesprze je potężny impet racji ekonomicznych i militarnych.

Podejście ideologów terran będzie radykalnie odmienne. Artilekty nie tylko będą myśleć szybciej niż my, lecz także przewyższą nas jakościowo jako odrębny, wyższy gatunek. Staną się nieprzeniknionym, nieprzewidywalnym i najważniejszym czynnikiem kształtującym nasze środowisko i nasz los, na który natomiast sami nie będziemy mieli już żadnego wpływu. Najważniejszym problemem terran stanie się ryzyko pojawiające się przy zbliżaniu się do tej niebezpiecznej granicy. Jaka będzie etyka artilektów? Co będą czuły względem nas? Niektórzy badacze w tej dziedzinie twierdzą, że skoro artilekty będą inteligentne, to zrozumieją, iż jesteśmy ich rodzicami, zatem powinny być dla nas przyjazne. Jednak jest to czysto ludzki punkt widzenia, który może nie mieć żadnego zastosowania w wypadku tak radykalnie odmiennych bytów. Dla terran jedyny sposób wyeliminowania ryzyka to zapewnienie, że nie zostaną one nigdy zbudowane, i dlatego będą dążyć wszelkimi sposobami do wprowadzenia globalnego zakazu ich budowy. Temat ten stanie się dominujący i przykuje uwagę każdego człowieka spędzającego życie w towarzystwie coraz bardziej inteligentniejszych, budzących stopniowo coraz bardziej ambiwalentne uczucia domowych robotów. Zatem AGI według prawa przeforsowanego przez terran (jeśli zdołają oni zdominować scenę polityczną przed nadejściem ery artilektów), będą mogły być sprytne, ale tylko na tyle, by być użyteczne jako słudzy, i nie na tyle, by stać się mądrzejszymi od nas.

Tymczasem z punktu widzenia kosmistów stanowisko takie będzie się równało deicydowi, zabójstwu bogów. Skoro bowiem nie pozwalamy na ich zaistnienie, to w rezultacie skazujemy ich na śmierć.

Taki obraz końca XXI w. maluje de Garis – fanatyczne, religijne poczucie powinności kontra paniczny strach. Strach przed innością, która będzie bez porównaniagłębsza niż różnice występujące między rasami. Sto tysięcy lat temu było kilka rodzajów humanoidów. Istnieją teorie, że przetrwaliśmy, bo byliśmy najbardziej morderczym z nich. Lęk przed obcymi jest darwinowsko dobrze uzasadniony.

W dyskusjach na temat sztucznej inteligencji pojawia się argument mówiący, że projektant nie może zaprojektować czegoś, co jest od niego mądrzejsze. De Garis zgadza się z tym, i wskazuje zaraz, iż jednak zdarza się, że dzieci są inteligentniejsze od rodziców, a to dzięki nowym kombinacjom genów. Cyborgiści i kosmiści będą używali inżynierii ewolucyjnej do budowy AGI, przez wprowadzanie mutacji do instrukcji oprogramowania i obserwowanie rezultatów. Można wytworzyć AGI w ten sposób, ale nie można ich zrozumieć. It’s big engineering, but lousy science, powiada. Tym samym staje się oczywiste, że z natury rzeczy artilekty będą zbyt złożone, by przewidzieć, jak się zachowają i argument o nieprzewidywalnej złożoności tych obiektów będzie nadzwyczaj mocny.

Dla kosmistów, powiedzą terranie, jeden artilekt jest ważniejszy niż cała ludzkość, bez względu na całkowitą jego nieobliczalność, co jest dowodem na to, że kosmiści są potworami, które należy eksterminować. Jeśli rzeczywiście chcecie zbudować artilekty, które mogą wymazać nas z powierzchni Ziemi, to wcześniej my zlikwidujemy was, stwierdzą terranie. Całkiem niedawno połowa ludzkości żyła w reżymach marksistowskich. Zasadniczy spór  (przynajmniej ten oficjalnie deklarowany) dotyczył tego, kto powinien być właścicielem kapitału i środków produkcji. Starcie dwu systemów doprowadziło nieomal do III wojny światowej. De Garis wspomina swoich nauczycieli pytających w 1962 r., gdy Amerykanie wprowadzili blokadę morską Kuby, czy to już jest ostatni dzień. Pamięta doskonale ich autentyczny strach. Tymczasem tamten konflikt był trywialny w porównaniu z tym, czy ludzkość ma się stać numerem dwa i, być może, całkowicie sczeznąć.

Ray Kurzweil, główny oponent de Garisa,  twierdzi, że jeśli dojdzie do wojny między terranami a kosmistami, to będzie to jak wojna między amiszami i armią USA. Amisze, żyjący w Stanach Zjednoczonych, ze względów religijnych nie używają technologii nowocześniejszej niż dziewiętnastowieczna (porównanie Kurzweila jest o tyle nietrafne, że są jednocześnie konsekwentnymi pacyfistami). Na co de Garis odrzeka, że krytyczny stanie się okres przed powstaniem artilektów, a jego argumentacja tyczy okresu wcześniejszego, kiedy siły terran i kosmistów będą jeszcze wyrównane. Zanim okno możliwości się zamknie (powstanie artilektów kończy możliwości przeciwdziałania im, ponieważ będą zdolne, jako istoty wobec nas praktycznie wszechmocne, do sparaliżowania każdego działania wymierzonego przeciw nim), terranie uderzą prewencyjnie i jeśli wygrają, to zorganizują największe w historii polowanie na czarownice. Każdy, kto okaże choćby najmniejszą sympatię dla poglądów kosmistów, zostanie unicestwiony. Terranie okażą się bardziej paranoiczni niż komuniści czy naziści. Ilu trzeba ludzi, by zbudować artilekt? Być może wystarczy kilkuset. Dlatego podejrzane będzie samo myślenie – bo stawką jest istnienie ludzkości. Jednocześnie w krytycznym okresie kosmiści będą oczywiście świadomi zagrożenia ze strony terran i będą starali się mu przeciwdziałać.

Czy prawica w przyszłości przedefiniuje się jako terranie? A może ludzie o temperamencie religijnym staną się kosmistami? To pokaże przyszłość.

De Garis, pochodzący z długowiecznej rodziny, spodziewa się żyć jeszcze trzydzieści lat i przewiduje, że stanie się jeszcze świadkiem gorącej debaty między terranami i kosmistami. Na szczęście jest wystarczająco stary, powiada, by nie dożyć totalnej wojny domowej. Debata dopiero rozpoczyna się wśród świadomych problemu badaczy, a opinia publiczna nie jest jeszcze dostatecznie poinformowana o tym, że problem istnieje. Ma się to zmienić, jak prorokuje, już w ciągu najbliższych lat, kiedy to świadomość zagrożenia utraty dominacji przez nasz gatunek dotrze do powszechnego obiegu tak, jak stało się to z globalnym ociepleniem. Sytuacja jest podobna do tej z lat trzydziestych ubiegłego wieku, kiedy tylko garstka fizyków wiedziała o reakcji rozszczepialnej i możliwości zbudowania bomby atomowej.

 Ray Kurzweil optuje za scenariuszem, w którym część ludzi decyduje się na cyborgizację, a nieprzekonana reszta, widząc wspaniałe strony tego rozwiązania, w końcu pójdzie na to samo, i ludzkość w wersji 1.0 bezproblemowo zniknie.

Czy jest ktoś, kto zaprotestuje przeciw nieśmiertelności, możliwości nauczenia się języka obcego w kilka sekund, brakowi chorób? De Garis w czasie swoich wykładów pyta zawsze słuchaczy, czy przystaliby do terran, czy do kosmistów. Co ciekawe, wynik takich mikrosondaży zwykle wskazuje na mniej więcej równy podział stanowisk. Sam de Garis przyznaje się do wewnętrznego rozdarcia i podejrzewa, że problem jest tego rodzaju, iż musi powodować taki właśnie najbardziej niebezpieczny rozłam. Przepowiada konsekwentnie przyszłość, w której część ludzi z ochotą podda się cyborgizacji, a inni z premedytacją pozostaną jej przeciwni. Co więcej, zgodnie z prawem Murphy’ego, jeśli coś może pójść źle, to tak się stanie, pojawią się przeszkody czy nawet koszmarne katastrofy, co skłoni wielu ludzi do skwapliwego przyłączenia się do terran. Z ich punktu widzenia wokół będzie dokonywała się cywilizacyjna zapaść na ogromną skalę.

Istnieje przynajmniej jeden scenariusz, który wyklucza megawojnę wieszczoną przez de Garisa. Artilekty pojawiają się nagle, niespodziewanie i niemal natychmiast przejmują kontrolę. Nasz los znajdzie się w ich rękach. Nie ma czasu na ludzką politykę, nastaje postludzka, niepojmowalna polityka artilektów. W najlepszym wypadku artilekty opuszczają Ziemię albo robią coś, co sprawia, że znikają z naszego pola widzenia i zostawiają nas samych.

Jednak według de Garisa najbardziej prawdopodobny jest scenariusz najgorszy Wybudowanie artilektu o ludzkiej inteligencji jest bardzo trudne. Sam de Garis próbował budować sztuczne mózgi przez dwadzieścia lat i przyznaje się do niepowodzeń. Nie wiemy, czym jest inteligencja. Co mamy takiego, czego nie ma mysz, a co pozwala nam przeprowadzać analizę matematyczną? Jak jest różnica między mózgiem Einsteina a mózgiem przeciętnego człowieka? Nie mamy teorii inteligencji. Pomóc w stworzeniu takiej teorii może neurobiologia. Neurobiologowie powiedzą nam, co należy zrobić, aby otrzymać przepis na mózg. Wiemy, że to możliwe, bo przecież natura znalazła sposób na stworzenie świadomych, inteligentnych istot. Mózg to fantastyczny, najbardziej złożony obiekt w znanym ludzkości wszechświecie. Nie wiemy jeszcze, jak działa, i poznanie go zajmie nam zapewne dziesięciolecia. Będzie zatem niestety dość czasu na uformowanie się stron sporu i jego przejścia w gorącą fazę.

Ford, sam aktywny działacz ruchu transhumanistów w Australii, pyta de Garisa, czy może jest jakaś nadzieja na uniknięcie totalnej wojny między terranami a kosmistami, w wypadku, gdyby ci pierwsi upewnili się co do przyjaznego nastawienia powstających super AGI, i powołuje się na kursujące w środowisku pojęcie friendly AI, z wbudowanymi przez konstruktorów dobrymi intencjami. Pytanie to daje de Garisowi sposobność do rozwinięcia najciekawszego dla mnie wątku w jego rozważaniach.

Po pierwsze, odpowiada de Garis, owe superistoty, zdolne z pewnością do automodyfikacji, z łatwością zerwą wszelkie więzy, jakie będziemy się starali na nie nałożyć. Już w początkowej fazie ich istnienia sama ich fizyka zakładać będzie duży margines niepewności. Weźmy też pod uwagę oops factor – zawsze się można pomylić, a tu, jak w wypadku pracy sapera, jedna pomyłka kończy rozgrywkę. Pierwsze artilekty, przepowiada profesor, będą prawdopodobnie topologicznymi komputerami kwantowymi, podatnymi na mutacje wywołane choćby promieniowaniem kosmicznym. Mutacje te będą je zmieniać w sposób nieprzewidywalny i mogą zniweczyć wbudowane wcześniej ograniczenia. Ostatecznie, w każdym przypadku, kiedy staną się mądrzejsze od nas, nic nie zagwarantuje, że pozostaną przyjaźnie nastawione.

Z logiki sytuacji wynikają tylko dwa rozwiązania – albo nasza cywilizacja ulegnie zagładzie w wyniku ostatecznego konfliktu, albo w końcu nastanie era artilektów. Wojna i wygrana terran zapewne może skutkować cofnięciem rozwoju naszej cywilizacji, nie oznacza to jednak, iż w następnej turze nie nastąpi zwycięstwo kolejnego pokolenia kosmistów, a wystarczy przecież jedno takie zwycięstwo, by sprawę rozstrzygnąć. Marzenie o zbudowaniu bogów nieustannie będzie się odradzać. Model zakładający przekształcanie się każdej dostatecznie zaawansowanej cywilizacji w społeczność artilektów albo jej śmierć jest pociągający, bo tłumaczy choćby paradoks Fermiego. W samej naszej galaktyce jest kilkaset miliardów gwiazd. Wiele z nich posiada systemy planetarne i różne oszacowania wskazywały, iż powinniśmy mieć do czynienia z wielką mnogością życia inteligentnego, wypełniającego wszechświat. Tymczasem radiowy nasłuch nie potwierdził takiej hipotezy. Fermi pytał, gdzie oni są, ci wypatrywani z nadzieją i obawą obcy. Według de Garisa zamienili się w artilekty lub zostali przez nie usunięci, a ponieważ okres, w którym cywilizacje posługują się komunikacją radiową, zanim przejdą do fazy super AGI, jest w skali kosmicznej znikomy, to prawdopodobieństwo natknięcia się na ich ślad jest niewielkie.

Hipoteza przemiany cywilizacji naturalnych w sztuczne, przejęte i rozwijane dalej przez artilekty, tłumaczy nie tylko milczenie wszechświata, ale wyjaśnia też i zasadę antropiczną. Parametry fizyczne wszechświata są tak precyzyjnie dostrojone, że umożliwiają istnienie życia. Bardzo drobna zmiana któregoś z nich wykluczyłaby możliwość naszego istnienia.

Dlaczego tak jest? Istnieją dwie główne wersje zasady antropicznej, które przywołuje de Garis. Ta mniej interesująca, tak zwana słaba zasada antropiczna, stwierdza po prostu, iż prawa fizyki muszą być takie, aby umożliwiały powstanie świadomego obserwatora. Jest to konieczne, bo przecież istniejemy. Wersja ta wydaje się nie wnosić nowej wiedzy, ale jest ważną wskazówką pozwalającą eliminować te teorie, które są z nią sprzeczne. Silna zasada antropiczna głosi natomiast, że wszechświat został tak zaprojektowany i wykonany, aby umożliwić nasze powstanie.

Stwierdzenie tego zdumiewająco precyzyjnego dostrojenia wielkości fizycznych przekonało wielu astrofizyków do deizmu. De Garis z częstą wśród ścisłowców nonszalancją definiuje deizm jako przekonanie o tym, że ktoś stworzył wszechświat, teizm natomiast jako deizm plus miłość do Boga-Stworzyciela. Teizm jest śmieszny, najokropniejsze nieszczęścia spotykają ludzi, prowokując bezradne pytanie: „dlaczego?”. „Dlaczego, dlaczego?” – powtarza z upodobaniem profesor, przedrzeźniając z aktorskim zacięciem wyobrażonego religijnego obskuranta. Cóż, shit happens, świat jest wobec nas obojętny. Obaj z Fordem śmieją się przy tym z ukontentowaniem, i przypominają mi w tej chwili dwie amerykańskie studentki, bohaterki Księgi śmiechu i zapomnienia, które dochodzą do wniosku, że Ionesco zamienia w swojej sztuce ludzi w nosorożce dla efektu komicznego, co prowadzi do jednej z najokrutniejszych znanych mi scen powieściowych, wypełnionej śmiechem bardzo różnych rodzajów.

Nasz wszechświat został stworzony najprawdopodobniej przez istotę z naszego punktu widzenia tożsamą z Bogiem, przynajmniej co do mocy stwórczych, i hipotezę taką należy brać poważnie pod uwagę, przekonuje de Garis-deista. Jeśli tak jest, i jeśli proces powstawania artilektów jest zjawiskiem powszechnie występującym, to należałoby oczekiwać, że również kreacja światów nie należy do rzadkości. Osłabia to racje kosmistów, tak jak je rysuje profesor, i wzmacnia stanowisko przyszłych konserwatywnych terran. Dlaczego bowiem mielibyśmy uważać za „świętą” powinność coś, co zostało już wielokrotnie wykonane przez innych? Tym bardziej, jeśli być może nasz własny wszechświat jest kreacją artilektu, dziedzica którejś ze starszych cywilizacji? Po co tworzyć bogów i ryzykować przy tym unicestwienie, jeśli powstawali już milion razy kosztem kogoś innego, a przy tym „nasz” bóg byłby najprawdopodobniej bogiem drugiego, trzeciego, lub nawet jeszcze dalszego rzędu, zatem z natury rzeczy pośledniejszym? Z pewnością znajdą się fanatycy gotowi skoczyć w przepaść, choćby dlatego, że to możliwe; powszechne stanowisko będzie jednak odmienne – unikanie ryzyka zagłady naszego gatunku i korzystanie z dobrobytu, który sam de Garis wieszczy. Wszystko to, podkreślmy, przy założeniu sensowności najważniejszych przesłanek przedstawionego scenariusza.

Tymczasem widać wyraźnie, pod jak przytłaczającym wrażeniem możliwości współczesnych komputerów znajdują się wyznawcy podobnych prognoz. Programy szachowe wygrywają z arcymistrzami szachowymi, oprogramowanie tłumaczące staje się do pewnego stopnia użyteczne (jak choćby tłumacz Google), ale osiąga się to za pomocą brute force, ślepej siły obliczeniowej. Nie mamy nie tylko teorii inteligencji (sam de Garis w istocie podaje w wątpliwość możliwość jej osiągnięcia), ale też i nie wiemy, czym jest wolna wola i świadomość. Samo pojęcie wolnej woli jest wieloznaczne i budzi wątpliwości i spory już od starożytności, dla potrzeby chwili ograniczmy się więc do problemu samosterowania inteligentnego obiektu, jakim jest człowiek.

 

Kierują nami pasje, namiętności i strach, i coś, co nazywamy inteligencją znajduje się pod nieustannym przemożnym wpływem ciała, hormonów, warunków zewnętrznych. Samosterowanie, wolna wola, powstaje gdzieś w miejscu przecięcia się wektorów wszystkich tych sił, subtelnie dostrojonych w procesie ewolucji w oddziaływaniu ze złożonym naturalnym środowiskiem. Motywacja, zdolność do wybierania celu i uporczywość w dążeniu do jego osiągnięcia (lub też brak tych czynników) są nie do oddzielenia od naszej biologicznej tożsamości, przeciwnie, są przez nią całkowicie zdeterminowane. Mózg odjęty od ciała przestaje być człowiekiem. W wizji chrześcijańskiej zmartwychwstajemy jako ludzie z krwi i kości, nie jako symulacje intelektów.

Jeśli nawet uda nam się zbudować maszyny o „ogólnej inteligencji”, zdolne do rozwiązywania szerokiej klasy problemów natury logicznej, to będą one nieludzkie nie dlatego, że znajdą się poza zasięgiem naszego pojmowania, ale dlatego, iż pozbawione będą jakichkolwiek własnych celów i dążeń. Zdolność operacyjna do wykonywania złożonych zadań nie wymaga posiadania motywacji, nasze komputery z pewnością jej nie mają. Wyobrażam sobie artilekt de Garisa jako rodzaj wyroczni. Zadajemy jej skomplikowane pytania i otrzymujemy prawidłowe odpowiedzi, których nie rozumiemy. Jednak wyrocznia nie podejmuje żadnych działań, jest wyłącznie maszyną reaktywną.

De Garis przewiduje, że zapewne pierwszymi artilektami staną się topologiczne komputery kwantowe (TQC, Topological Quantum Computer), odporniejsze na dekoherencję niż „zwykłe” komputery kwantowe. Komputery takie mogą znaleźć zastosowanie choćby w chemii kwantowej. Symulowanie zachowania cząsteczki chemicznej wymaga mocy obliczeniowej rosnącej jak 2ⁿ, gdzie n to ilość atomów składających się na cząsteczkę. Przy wzroście liczby atomów bardzo szybko moc obliczeniowa klasycznych komputerów staje się niewystarczająca. Tymczasem moc TQC rośnie w takim samym tempie, wraz ze zwiększaniem liczby kwantowych bramek logicznych. Niewykluczone, spekuluje de Garis, że komputery takie będą wykorzystane do symulacji jeszcze bardziej złożonych systemów, choćby systemów społecznych. Albo całego wszechświata. Rzeczywiście, być może wystarczyłoby zbudować w tym celu TQC o liczbie  elementów równej liczbie wszystkich istniejących cząstek.

Obecnie de Garis próbuje znaleźć teoretyczne wskazówki prowadzące do możliwości wykorzystania w przetwarzaniu informacji zjawisk w skalach odpowiadających protonom. Słynny artykuł Richarda Feynmana There’s Plenty of Room at the Bottom (Tam na dole jest mnóstwo miejsca) zwiastował nadejście nanotechnologii, która zaczyna się rodzić na naszych oczach. Nanotechnologia zajmuje się obiektami zbliżonymi wielkością do atomów. Tymczasem znajdują się już ludzie zastanawiający się nad skalą milion razy mniejszą. Jeśliby jako elementy maszyn obliczeniowych wykorzystać cząstki elementarne, to gęstość upakowania trójwymiarowego femtoprocesora byłaby milion razy milion razy milion większa od procesora w skali nano (femtometr to 10^-15 metra, podczas gdy nanometr to 10^-9 metra). Jednocześnie szybkość przekazywania informacji pomiędzy poszczególnymi częściami składowymi takiego urządzenia byłaby również  milion razy mniejsza, bo o tyle jest mniejsza ich wzajemna odległość. W efekcie wydajność obliczeniowa femtotechnologii jest teoretycznie 10²⁴ razy większa niż możliwa do osiągnięcia przy zastosowaniu nanotechnologii. To zaledwie elementarna fizyka, o wiele rzędów wielkości potężniejsza niż cokolwiek, co może przynieść majstrowanie przy genach. Po wieku XX, wieku fizyki, wiek XXI ma być wiekiem inżynierii genetycznej. To jednak igraszki w porównaniu z potencjałem fizyki, kwituje taką przepowiednię de Garis, i strojąc pogardliwe miny powiada, że ci wymachujący sztandarem biologii naukowcy wyglądają jak dzieci.

Widoczne lekceważenie biologii przez de Garisa przywodzi nieuchronnie na myśl gnostyckie odrzucenie ciała i jego marzenie o wyzwoleniu ukrytej w nim boskiej, niematerialnej iskry. Jednak w wersji de Garisa i innych transhumanisówiskra ta ma być przekazana bytowi nieskończenie doskonalszemu niż my. Sami zaś, istoty bez przyszłości, nieodwołalnie skażone, niedające się naprawić ani wyzwolić z przypadkowego dziedzictwa biologicznej ewolucji, skazani jesteśmy na unicestwienie, o czym profesor informuje nas z wyraźną fascynacją.

W genialnym opowiadaniu Damona Knighta Maski człowiek po ciężkim wypadku zostaje wyposażony w protezę sztucznego ciała. Jego jedyną żywą częścią pozostaje mózg, który steruje tym cybernetycznym organizmem. Jest po prostu cyborgiem. Rozwija się w nim skrywana przed ludźmi odraza i pogarda dla wszystkiego, co biologiczne. Proponuje swoim opiekunom, by zrezygnować z człekokształtnej protezy jego ciała. Marzy o tym, by stać się maszyną, którą wyślą w kosmos: „Maszyna wspinała się na zbocze krateru, ramiona miała wciągnięte, głowę odchyloną do tyłu. W tle daleka ściana skalna, horyzont, czarne niebo i gwiazdy jak łebki od szpilek. To był on tam na Księżycu, ale jeszcze za blisko, bo nad głową zwisała Ziemia jak przegniły owoc – niebieski od pleśni, pomarszczony, cieknący, rojący się życiem”*.

Poprzez swoją stronę internetową de Garis stara się prowadzić działalność edukacyjną. Jego marzeniem jest umożliwienie każdemu chętnemu, za pomocą Internetu, uzyskanie wykształcenia wyższego aż do poziomu doktoratu w dziedzinach, w których czuje się kompetentny. Pisze, że podczas swoich podróży koleją po Chinach, przejeżdżając przez wioski (jest ich w tym kraju milion), doznaje uczucia ogromnej frustracji, kiedy widzi tysiące ubrudzonych wieśniaków pracujących w pocie czoła na polach ryżowych. Przeciętny iloraz inteligencji populacji Europy i Ameryki to 100, dzięki czemu kraje tych kontynentów należą do Pierwszego Świata. Tymczasem ludność Chin cieszy się przeciętną wynoszącą 105. Zatem, jeden na stu z tych ubłoconych wieśniaków znajduje się w grupie o najwyższym możliwym ilorazie inteligencji, nad czym de Garis ubolewa, i wini za to straszne marnotrawstwo dyktatorskie rządy tego kraju, utrzymujące wielomilionowe rzesze w ignorancji**.

Jak widzieliśmy wcześniej, de Garis, podobnie jak wielu innych proroków w przeszłości, przewiduje dla tych wszystkich inteligentnych ludzi (nie wspominając o mniej inteligentnych), po wyzwoleniu ich twórczych możliwości, rolę nawozu dla nadzwyczaj interesującej przyszłości. Na szczęście jego proroctwa, tak jak i inne, możemy traktować z odpowiednią dozą sceptycyzmu.

 

 

* Maski, Damon Knight, Kroki w nieznane, tom 4, tłum. Lech Jęczmyk

** Jakby reagując na uwagi de Garisa rząd chiński rozpoczął gigantyczną operację przeprowadzki rzeszy dwustu pięćdziesięciu milionów wieśniaków do centrów miejskich. Rolnicy są wywłaszczani i przymusowo przesiedlani do nowych osiedli. Przedsięwzięcie ma zakończyć się do 2025 r. i sprawić, że większość populacji tego kraju zamieszka w miastach. Włączenie wspólnot wiejskich, dotychczas w dużym stopniu samowystarczalnych, w obieg gospodarczy ma pozwolić na utrzymanie tempa rozwoju Chin i oparcie go na popycie wewnętrznym, dzięki rozszerzeniu wewnętrznego rynku o dwieście pięćdziesiąt milionów nowych konsumentów.