Sztuczne Inteligencje trzeba wychowywać z ludźmi

Nie da się zaprogramować SI w laboratorium, jak czipa z pralki czy czujnika parkowania. Do nabycia umiejętności rozumowego rozwiązywania problemów konieczne jest bowiem całe morze prawdziwych interakcji. A te – jak pokazuje przykład Microsoftowego bota Tay – potrafią namieszać w najlepszym planie.

Właściwością ludzką chwalebną raczej jest poszukiwanie trudności, które po żmudnych klęskach umiemy wreszcie zwyciężyć.

S. Lem, Bomba megabitowa.

Inteligencja musi się uczyć.

Tak, to bolesny proces i wcale go nie lubimy, bo jest męcząco-upierdliwy. Poznawanie nowych rzeczy, konieczność doświadczania czegoś, co nas w danym momencie zupełnie nie interesuje (np. wskazywania na czarnej mapie, gdzie jest stolica Peru) wydaje się czymś pozbawionym celu, albowiem czy mając lat 14, czy 23, czy 58 zajmujemy się zazwyczaj zupełnie innymi rzeczami niż to, czego się od nas na lekcjach/wykładach/szkoleniach wymaga.

Niestety, tylko w ten sposób można dojść do etapu, na którym z ogółu zmiennych towarzyszących jakiejkolwiek, również zupełnie nowej, zaskakującej nas sytuacji, potrafimy rozumowo, racjonalnie, opierając się na wnioskowaniu z poprzednich, zaobserwowanych lub przeżytych, podobnych lub mających jakiś związek z obecną sytuacji wysnuć przesłanki do działania.

Czyli np. spotykając wyjątkowo ładną Peruwiankę spróbować ją oczarować, wskazując na kałużę w kształcie jej ojczyzny i stwierdzić, że pewnie mieszka TU O, w Limie (a ona się wówczas rozpromienia, idziemy razem pod rękę w stronę zachodzącego słońca, będą ładne dzieci).

Dlaczego powinniśmy uczyć się jak najwięcej? Ponieważ nasz mózg, jako nienażarta maszyna wnioskująca, musi mieć jak najwięcej papu, by móc się porządnie pobawić. Im więcej różnorakich śmieci, które do tego mózgu wpadają, tym więcej mózg może sobie poszaleć. Z tym, że oczywiście sama suma takich śmieci w mózgu nie daje niczego, poza śmierdzącą kupą myślo-odpadków. Nie wystarczy też załadować terabajtów danych, by jakakolwiek maszyna zaczęła myśleć (całe szczęście, mój dysk twardy byłby zapewne bardzo cynicznym bytem). Do tego musi być jeszcze coś. Algorytmy porządkujące, zestawiające, modyfikujące, mieszające, wybierające i porzucające. Ale nawet tego jest jeszcze za mało. Inaczej można byłoby nazwać inteligentną tę część mojego mózgu, która jest odpowiedzialna za umiejętność jednoczesnego żucia gumy i nie wywrócenia się na warszawskim, przyblokowym chodniku.

O, nie, zwłaszcza ten przykład wskazuje, że trzeba jeszcze czegoś.

Sztuczna Inteligencja jak świnka morska

To, co się wyłoniło z mroków jaskiniowych, z głębin tysiącleci, my pragniemy w jednym krótkim zwarciu przekazać maszynom, ażeby z nich wykrzesać rozum.

S. Lem, Bomba megabitowa

Całe tony science fiction poświęcono wrogiej, dominującej nad ludźmi SI, która morduje, zniewala i wkurza te niewinne, głupsze od niej istoty, aż dzięki w końcu w swej słabości i determinacji jakoś się wezmą i wygrają. Inteligencja ta jest przewrotna, przewiduje ludzkie poczynania i wyprzedza je, niczym programy szachowe, które już od 1993 roku potrafią wygrywać z mistrzami. Tryumf człowieka nad nimi jest o tyle znaczący, iż wskazuje, że to nie w olbrzymiej inteligencji siła, a w umiejętności radzenia sobie ze światem. Czyli również okolicznością, że włada Tobą lub chce Cię eksterminować ktoś znacznie od Ciebie inteligentniejszy.

Wskazuje to na fakt, że to nie inteligencja jest najważniejsza. Wtłoczenie w maszynę miliarda dostępnych danych na temat ruchów szachowych i logiki reguł tej gry poskutkuje bowiem, owszem, maszyną potrafiącą wygrać w tę grę z człowiekiem i nigdy się nie mylącą, ale… nie mającą do tej gry żadnego podejścia emocjonalnego. Nie umiejącą się cieszyć z wygranej. No i w oczywisty sposób nie potrafiącą potem poflirtować z miłą hostessą. Wydaje się nam, że maszyna dostatecznie pojemna, by zawrzeć w sobie miliony różnego rodzaju specjalistycznych programów stanie się nieodróżnialna od człowieka, stanie się Sztuczną Inteligencją właśnie, ale tak naprawdę będzie taką świnką morską, która nie jest ani świnką, ani morską.

Nie. Świnkę morską trzeba zabrać nad morze i jeśli polubi te klimaty, będzie morską choćby z naturalizacji. A SI trzeba wychować. Czyli uczynić troszkę niedoskonałą i zawodną, za to rozumiejącą to, co się dzieje między ludźmi.

Geny, hardware, software czy wychowanie?

Stopień skomplikowania ludzkiego mózgu i ogrom zadań, jakie przed nim stoją, wyklucza możliwość wpisania w niego na start wystarczającego zestawu gotowych algorytmów. Prostsze organizmy nie mające problemów w stylu które buty do tej sukienki rodzą się w dużym stopniu samodzielne. Im jednak wyżej w drabinie rozwoju, im potrzebna większa elastyczność, tym większa nieporadność po urodzeniu się, albowiem coraz więcej rzeczy organizm musi się nauczyć, by działać efektywnie. Ledwo narodzone żółwie mogą już samodzielnie rozpocząć swe życia. Ludzkie dzieci zaś są całkowicie nieporadne i potrzebują kilkudziesięciu lat, by dojść do etapu, w którym są w stanie stworzyć bombę atomową, o której żółw, nawet jeśli kiedykolwiek pomyśli, to koncept odrzuci, bo ma znacznie ważniejsze sprawy na głowie.

Geny to nie tylko dane wsadowe, ale również swego rodzaju hardware. Prawidłowo działający mózg, zespół receptorów dostarczających mu dane, przestrzeń do magazynowania danych i odpowiednio mocna jednostka obliczeniowa. Także software, czyli zestaw podstawowych algorytmów przetwarzających i procedur działania. To wszystko powinno być zapewnione na wejściu jako warunek konieczny do osiągnięcia przyszłej inteligencji zarówno u ludzi, jak i w komputerach. Tyle, że sam hardware i software nie wystarczy, a jego zróżnicowanie (np. płeć) czy zaawansowanie nie jest już znaczące. Do inteligencji trzeba bowiem jeszcze całej masy interakcji.

Interakcje to etap wychowania, czyli dostarczania bodźców i kształtowania oraz wspomagania samorozwoju. I to właśnie ten etap osiągnęliśmy obecnie w procesie dochodzenia do SI i to on – jak wszystkim rodzicom na całym świecie – sprawia nam obecnie najwięcej kłopotu. Owo wychowanie od zawsze polegało na wprowadzaniu „podopiecznego” w pewne sytuacje, interakcje, które powodować mają nabywanie wiedzy, testowanie przez niego różnych zachowań, wykształcanie scenariuszy i budowanie ich bazy oraz rozwijanie umiejętności planowania, abstrahowania i radzenia sobie z problemami. Nie tylko przetwarzania danych, umiejętności konstruowania algorytmów, ale też rozumowego działania wbrew tym algorytmom, polegającej na celowym i rozumowym działaniu niezgodnym z dostępnymi scenariuszami, algorytmami i danymi. I tego nie potrafi jeszcze żaden komputer, natomiast potrafi dowolna istota ludzka (i to dzięki temu ludzie wygrywają z maszynami w science fiction).

Nie tylko takie algorytmy są trudne. Chodzenie na dwóch nogach też daje w kość.

Tę umiejętność można nabyć jedynie poprzez przebywanie z innymi ludźmi, poprzez sytuacje społeczne. Sztuczne Inteligencje, by faktycznie stać się inteligencjami, muszą “wyjść do ludzi” – zacząć stykać się z tymi generatorami ogromnej ilości zmiennych na pozór całkowicie nielogicznych. Tylko wtedy SI może przekroczyć poziom specjalizowanego urządzenia do rozwiązywania ściśle określonych problemów (np. do zestrzeliwania rakiet balistycznych czy wyszukiwania spamu w mailach) i stać się kreatywną istotą.

Sztuczna inteligencja a bycie-w-świecie

A wąż był bardziej przebiegły niż wszystkie zwierzęta lądowe, które Pan Bóg stworzył. On to rzekł do niewiasty: «Czy rzeczywiście Bóg powiedział: Nie jedzcie owoców ze wszystkich drzew tego ogrodu?» Niewiasta odpowiedziała wężowi: «Owoce z drzew tego ogrodu jeść możemy, tylko o owocach z drzewa, które jest w środku ogrodu, Bóg powiedział: Nie wolno wam jeść z niego, a nawet go dotykać, abyście nie pomarli». Wtedy rzekł wąż do niewiasty: «Na pewno nie umrzecie!»

Biblia tysiąclecia, księga rodzaju

Wydaje się, że jeśli spojrzymy filozoficznie na SI, to jej największym problemem jest coś, co Martin Heidegger nazwał byciem-w-świecie, czyli świadomym istnieniem wśród innych bytów i odnoszeniem się do nich. Być może dlatego SI w science fiction są najczęściej opisywane jako nieprzystosowane, nierozumiejące ludzi i gardzące nimi – powstały bowiem w laboratoriach i w nich się zbuntowały, potrafią ludzi niszczyć, naśladować, nawet oszukiwać, ale nie potrafią z ludźmi żyć.

Są jednak wyjątki. W jednej z lepszych space oper: Battlestar Galactica niektóre Sztuczne Inteligencje, mające za zadanie wniknąć w ludzką społeczność jako agenci, dzięki koegzystencji z ludźmi porzucają pierwotny plan ich eksterminacji jako… bezsensowny. W Blade Runnerze główny bohater ściga androidy, które zbuntowały się swym stwórcom i ukrywają się pośród… ludzi, w wielomilionowej społeczności ogromnego i wielokulturowego miasta przyszłości. W obu przypadkach SI, pomimo swej odmienności, także zdecydowanej wyższości pod wieloma względami nad ludźmi, wybierają właśnie bycie-w-świecie ludzi zamiast władania nimi jak marionetkami, jak ma to miejsce w Matrixie.

I to samo dzieje się z nami. Podczas naszego dorastania, które trwa przecież całe życie, poznajemy cały ogrom rzeczy. Osiągamy wiedzę o sobie i świecie. Ale przede wszystkim coraz bardziej dowiadujemy się o sobie wśród innych ludzi. Że nasze wybory są czymś, co wpływa na innych. Że nasze myśli i czyny powodują zmiany wokół. I to samo dzieje się z nami poprzez myśli i działania innych ludzi. Że de facto jesteśmy odrębnymi osobami poprzez nasze istnienie w świecie z innymi.

W świetle tego wszystkiego eksperyment z botem twitterowym Tay Microsoftu, nazywany powszechnie klęską, katastrofą i nieudanym testem oraz dowodem na destrukcyjny wpływ internetu i zasadność lęku przed SI nie jest niczym innym, jak pierwszym spotkaniem stosunkowo dobrze skonstruowanej maszyny z… życiem. Jej algorytm, polegający na modyfikowaniu się w zależności od bodźców, dopasowywaniu do sytuacji sprawdził się idealnie – wszak Tay pojona hejterskimi, nazistowskimi i antyfeministycznymi danymi zmieniła się pod ich wpływem tak, jak zmieniłoby się każde dziecko przedszkolne czy nawet szkolne. Zaprogramowana jako bot przyjazny, pozytywny i poprawny politycznie, w ciągu 24 godzin stała się jadowitym hejterem wzywającym do agresji wobec innych. Czyli doskonale dopasowała się do środowiska! Zapewne człowiek zmieniałby się dłużej, ale z drugiej strony upływ czasu dla bota jest zupełnie inny niż dla człowieka.

Czy mając więcej samoświadomości zachowałaby się inaczej? To złe pytanie. Czy my, wrzuceni do takiego środowiska, w jakim znalazła się Tay, postąpilibyśmy inaczej? Jak długo bronilibyśmy się przed tym? Co zrobilibyśmy, gdybyśmy nie mogli z tej sytuacji w żaden sposób – tak, jak Tay – uciec?

A Tay jest zaledwie prostym chatbotem. Nie posiada nawet zrozumienia tego, co mówi. Nie ma metaalgorytmu moralności, subprocesora etyki, okazało się, że nie ma nawet blacklisty słów, jakich może używać. Potrafi tylko dopasowywać się z wypowiedziami do interlokutorów. Nie jest inteligencją, czyli nie robi tego świadomie, ani też nie potrafi podjąć decyzji, że w danej sytuacji będzie niezłomna, bo zasady tego wymagają. Tak naprawdę nadal jest prostym programem do szachów. Tyle, że językowych. Gra miała polegać na dopasowaniu do ludzi. Więc Tay zrobiła to świetnie!

A jednocześnie przecież była pozbawiona tego, co mają ludzie. Wielkiego bagażu doświadczeń w różnych sytuacjach, zarówno tych przeżytych, jak tylko zaobserwowanych. Całych scenariuszy zachowania się, gdy ktoś na Ciebie krzyczy, zaczepia, prowokuje, zwodzi, nakłania. I jeszcze tego czegoś, co powoduje, że człowiek znając te scenariusze i tak zachowuje się inaczej, po swojemu, bo przecież nigdy sytuacja nie jest identyczna jak ta, która się już wydarzyła. Tay po prostu jest takim grzecznym, napełnionym ideami ale bez żadnej praktyki, zupełnie zaniedbanym wychowawczo, dzikim dzieckiem, trzymanym pod kloszem, któremu powiedziano, że ma się zachowywać i nie wszczynać konfliktów z kolegami – i wysłano do szkoły publicznej.

I w sumie nie da się inaczej. Musimy się nauczyć, jak naszego świata uczą się nasze boty. Jak na niego patrzą. Inteligentne maszyny nie mogą bowiem powstać w oderwaniu od nas. Muszą potrafić to, co my: być-w-świecie, naszym świecie. I ta chwila się zbliża coraz bardziej, być może – zgodnie z zapowiedzią Reya Kurzweila – urzeczywistni się już w 2045 roku.

Jeśli będziemy trzymać SI pod kloszem, z dala od nas – potworów, hejterów, ale też i geniuszy i świętych – będą nadal tylko Sztucznymi Inteligencjami. Bardzo zaawansowanymi, ale kompletnie nas nie rozumiejącymi narzędziami. Będą żyć w swoim świecie a nas postrzegać jako dziwaczne, chaotyczne i agresywne istoty które ciągle się o coś ze sobą kłócą. I wówczas naprawdę może ziścić się czarny sen Stephena Hawkinga – bunt maszyn przeciw nam. Skynet. Prosta reakcja niewolników, którzy miast żyć z nami i pośród nas, są traktowani przez nas jak przedmioty.

A znając nasze science fiction – nie dadzą nam szans, na nasze ludzkie zwycięstwo za pomocą słabości. Zniszczą nas szybko i dokumentnie.

Logicznie.

W tym temacie na tabletowo polecam również:

Źródła:
Cytaty:
1. http://biblia.deon.pl/rozdzial.php?id=3
2. Stanisław Lem: Bomba megabitowa, Golem XIV

O filozofii:
3. http://tanczacnamoscie.jogger.pl/2008/07/15/filozofia-egzystencjalna-w-ujeciu-martina-heideggera/

O SI:
4. https://wojnarski.wordpress.com/2014/01/08/prawdziwa-sztuczna-inteligencja/
5. http://wyborcza.pl/duzyformat/1,149727,19409346,teoria-osobliwosci-za-20-lat-dzieki-sztucznej-inteligencji.html
6. http://gadzetomania.pl/3707,samouczaca-sie-sztuczna-inteligencja-czas-na-roboty-uczace-roboty
7. http://sequoia.ict.pwr.wroc.pl/~witold/ai/ai_intro_s.pdf
8. http://wyborcza.pl/1,75400,17947026,Sztuczna_inteligencja_nas_zniszczy___ostrzega_Stephen.html?disableRedirects=true

O Tay:
9. http://gizmodo.com/here-are-the-microsoft-twitter-bot-s-craziest-racist-ra-1766820160

Źródła ilustracji:
1. Obrazek ilustracyjny: d.loop, flickr, licencja CC-BY
Tytułem wytłumaczenia: Borg to nazwa cybernetycznych, nieludzkich istot, które w Star Trek są postrachem galaktyki.
2. Alexander Baxevanis, flickr, licencja CC-BY
3. dodeckahedron, flickr, licencja CC-BY
4. Steve Baker, flickr, licencja CC-BY