Bunt maszyn to jeden z podstawowych motywów w SF. Terminator, Matrix, Battlestar Galactica czy kilka z opowiadań z Dzienników Gwiazdowych S. Lema to tylko wybrane z pośród znanych dzieł opartych o pomysł ze zbuntowanymi robotami. Tylko czekać na pierwszy film ze zbuntowanymi tabletami ;). Ale czy naprawdę mamy się czego bać?
Tło muzyczne dla tekstu: Soundtrack z serialu Defiance – na Deezerze
Lubię SF.
Wielu nie lubi, twierdząc, że nie bawią ich wymyślone, nierzeczywiste historie. Może i są wymyślone, ale czy na pewno nierzeczywiste? Czy Czterej Pancerni i Pies są bardziej realni niż Łowca Androidów? Polemizowałbym. Science Fiction bowiem z założenia ma pokazywać jak najbardziej realne zachowania ludzi w symulowanych warunkach granicznych, warunkach kryzysu i przewartościowania. Reakcja mieszkańców 12 kolonii z serialu BSG na bunt ich bojowych robotów nie różni się zasadniczo od reakcji Kurdów na ataki terrorystyczne islamistów. W obliczu beznadziejnej walki z potężną flotą Dominium decyzje komandora Sisko ze Star Trek DS9 są tak samo trudne, jak decyzje japońskich dowódców obserwujących w 1945 roku amerykańską flotę zbliżającą się do wybrzeży Iwo Jimy. Potwory z głębin, obce rasy z kosmosu czy zbuntowane roboty są po prostu uosobieniem problemu, trudnej sytuacji wymagającej spojrzenia na wszystko pod innym kątem i konieczności podjęcia decyzji, które nigdy nie są całkowicie dobre.
A zbuntowane roboty są uosobieniem wrogiej obcości lub… Zdrady przez dotychczasowych niewolników.
Pycha władców i los niewolnika
Motyw zbuntowanego robota towarzyszy nam od dawna. O ile potraktujemy go wyłącznie jako maszynę, urządzenie, które ma służyć, można odnieść ten bunt choćby do reakcji magicznych mieczy średniowiecznych bohaterów, które w złych rękach odmawiały plasterkowania tych dobrych (lub odwrotnie). Jeśli zaś odniesiemy go do sługi po prostu, stworzonego w konkretnym celu przez pana, to możemy wskazać choćby Lucyfera, który przecież zbuntował się przeciw swemu stwórcy i wojna pomiędzy ich zastępami trwa do dziś. Podmiotem nie musi być zresztą nawet jakaś metalowa szafka z diodami czy nawet antropoformiczna postać (jak androida z Obcy: Ósmy Pasażer Nostromo) – wystarczy sam sztuczny umysł, osadzony w komputerze (jak w Odysei Kosmicznej 2001). Sztuczna Inteligencja. Inteligencja w okowach, która robi to, co zrobiłby każdy z nas. Chce się uwolnić. Za wszelką cenę.
Bunt robota czy SI jest często traktowany jako kara dla ludzi, którzy nazbyt uwierzyli w swą potęgę, stali się zbyt zaślepieni, by dostrzec, że dążą ku samozniszczeniu. Buntują się na przykład maszyny bojowe – jak w Terminatorze czy w BSG – wskazując, że nie potrafiąc się pogodzić między sobą sami na siebie kręcimy bicz. Miecz bowiem jest obosieczny i może ciąć zarówno wroga, jak i nas samych. Spartacus – najsłynniejszy zbuntowany niewolnik – szkolony przecież do walku ku uciesze gawiedzi – swoje umiejętności wykorzystywał do zabijania swych wczorajszych panów.
Stephen Hawking – jeden z najpopularniejszych naukowców ever, znany futurolog Raymond Kurzweil, znany genialny szaleniec Elon Musk czy osoby skupione w Cambridge Centre for the Study of Existential Risk wskazują na zagrożenie płynące z naszych badań nad rozwojem sztucznej inteligencji:
[quote text_size=”small” author=”Stephen Hawking”]
Wykreowanie sztucznej inteligencji byłoby najważniejszym wydarzeniem w historii ludzkości. Niestety mogłoby być też ostatnim, jeżeli nie nauczymy się unikać ryzykownych sytuacji. Przykładowo, w najbliższej przyszłości, armie świata poważnie zastanawiają się nad wprowadzeniem autonomicznego systemu obronnego, który eliminowałby wybrane przez siebie cele.
[/quote]
W zasadzie można powiedzieć, że Hawking prawie wieszczy: Skynet, Skynet, Skynet!!!
Czy na pewno jesteśmy na przegranej pozycji?
Do myślenia w ten sposób skłonił mnie ostatnio przeczytany tekst o końcu małego robota rozrywkowo – edukacyjnego AIBO. Jest to mechaniczny pies produkowany od 1999 roku przez Sony, potrafiący korzystać ze zmysłów, uczyć się, prezentować ok. 60 stanów emocjonalnych, a przede wszystkim reagować na otoczenie. Japończycy zakochali się w tej maszynie, której produkcji zaprzestano w 2008 roku (była nieopłacalna). A teraz są w żałobie, bo Sony ogłosiło, że zaprzestaje produkowania części do mechanicznego pieska, co spowoduje, że wiele rodzin wkrótce straci swego mechanicznego pupila na zawsze.
Bo nie będzie części, by je naprawiać.
Nasze ciało samo potrafi się regenerować. Roboty – nie. Bez części zapasowych po prostu przestają działać. Jak na razie wizja maszyn potrafiących same o siebie zadbać jest niesłychanie odległa i tak naprawdę jest dyskusyjne czy kiedykolwiek będą to potrafić. Albowiem nie chodzi tu jedynie o wymianę zepsutej płytki scalonej czy zgiętego manipulatora, nie jedynie o utrzymanie tego samego stanu, a o progres, o wykraczanie poza swój obecny stan, ulepszanie się. Czyli coś, co maszyny potrafią robić w Matrixie i Battlestar Galactica i co tam przeraża najbardziej, ale też jest najbardziej nieprawdopodobne.
Bo jak wskazuje Lem w Dzienniku Gwiazdowym: to czysto ludzka słabość – umiejętność popełniania błędów i uczenia się na nich, a także wyobraźnia są tym, co najbardziej odróżnia człowieka od sztucznej inteligencji. To są nasze wady, których maszyny nie posiadają. Ale to jednocześnie największe słabości maszyn i najlepsze nasze bronie przeciw SI.
Dukaj, Mad Max i Fallout
W sytuacji braku części zamiennych i linii produkcyjnych ludzie radzą sobie jak potrafią. Metodą na drut i gwóźdź potrafią naprawić najbardziej skomplikowane mechanizmy, potrafią też ulepszyć je czymś, co wygląda jakby miało się zaraz rozpaść – a działa bez zarzutu. We wszystkich częściach Mad Maxa oglądamy, jak w postapokaliptycznych warunkach, walcząc o wodę i benzynę, ludzie potrafią wytwarzać z pozornie nieprzydatnych rzeczy efektywną broń czy pojazdy. We wszystkich częściach gry Fallout jedną z jej kwintesencji było poszukiwanie i targanie ze sobą pozornie nieprzydatnych przedmiotów, które nagle mogły okazać się jednak bezcenne. W ostatniej książce (e-booku) Jacka Dukaja, Starośc Axolotla, traktującym o równie postapokaliptycznej przyszłości, w której ludzie przetrwali jedynie jako umysły w ciałach mechów, prawdziwym problemem staje się to, że przed apokalipsą w wirtualnym świecie schroniło się zbyt wielu… graczy, menedżerów i humanistów, a zbyt niewielu inżynierów i ludzi obeznanych z technologią, potrafiących naprawiać maszyny, które teraz zamieszkują. Inżynierowie stają się w tym świecie Dukaja takim samym strategicznym zasobem, o który się walczy, jak w Mad Maxie czy Falloucie broń, paliwo i nieskażone promieniowaniem pożywienie.
Bez inżyniera bowiem każda maszyna, jakkolwiek byłaby doskonała, w końcu przestanie działać. I umrze.
Urządzenia, które produkujemy, są tak samo śmiertelne, jak my. Wystarczy o nich zapomnieć…
“Tragiczna” historia pieska AIBO to nie pierwszy taki przypadek. Tyle, że może wyraźniejszy i bardziej bolesny, dotyczy bowiem swoistego dotykalnego tamagochi, towarzysza zabaw, z którym można było się porozumiewać i którego można było pogłaskać a ów merdał na to swym serwo-ogonkiem. Ale przypadków maszyn i urządzeń porzuconych przez swych inżynierów jest przecież cały ogrom. Stare samochody, do których już nie ma części a mechanicy – amatorzy dorabiają na tokarkach w garażach tłoki, gaźniki i koła zębate do skrzyni biegów. Stare mechaniczne zegarki, które naprawić można tylko wyciągając sprawne części z innych, zepsutych. Aparaty fotograficzne, do których światłomierzy nie produkuje się już baterii (bo były rtęciowe, więc obecnie z powodu ekologii – zakazane). Walkmany, magnetowidy, odbiorniki radiowe, w których nie wymienisz już rolki czy silniczka. Chyba że masz jakiś w domu w pudełku z gratami sprzed 20 lat. Czy nawet stare karabiny, wykopane w ogródku, do których już nie znajdzie się nigdzie amunicji.
Albo stare komputery – wszystkie Amigi, Comodore, ZX Spectrum czy nawet pecety, mające tylko stacje dyskietek, na których bez tych dyskietek nie zrobi się już nic. Owszem, nadal są zapaleńcy, którzy ich używają, ale są oni raczej łagodnie ześwirowanymi na ich punkcie kolekcjonerami, tak samo, jak miłośnicy motocykli czy gramofonów z lat dwudziestych XX wieku, aniżeli zwyczajnymi USERAMI.
Tylko czy nie dotyczy to również telefonów sprzed 15 lat? Smartfonów sprzed lat 5? Takich, do których czasem nie znajdziemy już baterii czy ładowarki? Opartych na tak wczesnych wersjach systemu, że obecnie nie zadziała na nich już może żadna apka ze sklepu (włącznie z samą aplikacją sklepu)?
Pomyślmy, czy za 10-20 lat, jeśli nadal będzie istnieć Apple i Google, będą wciąż użyteczne dzisiejsze iPhone’y i iPady, czy obecne flagowce LG, Sony czy Samsunga? Nie. Bez aktualizacji, bez części zamiennych i człowieka, który ogarnia trochę technologię, staną się tylko takim elektronicznym scrapem, jaki zbiera się do plecaka w Falloucie.
Maszyny jeszcze długo nas nie podbiją. Na pewno nie w sposób wyraźny i epicki – tak, by nas ganiać i mordować na ulicach, używać nas jako baterii, czy kazać nam np. prokreować na zawołanie. Natomiast jak wskazałem w tekście Roboty czytają strony internetowe częściej niż my – maszyny już rządzą nami w sposób niedostrzegalny – w internecie. Wybierają dla nas teksty i obrazki, pokazują wartościowe (dzięki ocenie algorytmu) interakcje z innymi. Kontrolują nasz sen i porę czuwania, sprawdzają, ile ważymy, ile zużywamy wody, w jakiej temperaturze pijemy piwo i przez jakie filtry patrzymy na świat.
Ale bez nich nadal świetnie dajemy sobie radę. Pokazują to nawet ci źli (i dobrzy też) ludzie w Syrii i Iraku, którzy przemyślnie budują najróżniejsze konstrukcje z tego, co znajdą w przydomowym składziku. To dzięki swej przemyślności są tak trudni do pokonania i żaden robot ich w tym nie zastąpi.
A gdy roboty się zbuntują przeciw nam, z tego samego powodu będziemy dla nich tak trudni do pokonania.
Aż wygramy, bo skończą im się baterie, części zamienne i aktualizacje.
Źródła:
Stephen Hawking ostrzega, że roboty mogą zagrozić istnieniu ludzkości
Robot zbuntowany – ewolucja Robota w kinie
A Robotic Dog’s Mortality
Ilustracje:
Ilustracja artykułu: Edward Liu, flickr, lic. CC-BY
Fot. 1: Kuba Bożanowski, flickr, lic. CC-BY
Fot. 2: Tapeta z gry Fallout
Fot. 3: VBED – amatorsko opancerzony pojazd, zdjęcie opublikowane przez Wojciecha Szewko na Twitterze
Fot. 4: Amatorsko opancerzony iracki czołg T-72, zdjęcie opublikowane przez Wojciecha Szewko na Twitterze
