"Groźniejsze niż bomby atomowe", "przyzywanie demona", "koniec rasy ludzkiej". To nie określenia kolejnej organizacji terrorystycznej ani widma pandemii nieznanego śmiercionośnego wirusa. To ostrzeżenia największych współczesnych wizjonerów przed pracami nad stworzeniem sztucznej inteligencji (Artificial Intelligence, AI), które są coraz bardziej zaawansowane. Wielu nazywa je "nowym wyścigiem zbrojeń". Czy jest się czego bać?
Elon Musk, najsłynniejszy współczesny wizjoner i genialny przedsiębiorca, zasłynął jak nikt inny realizowaniem projektów, które dla innych wydawały się poza zasięgiem możliwości. To on stworzył prywatne rakiety kosmiczne czy samosterujące się samochody. Jego celem, jak otwarcie przyznaje, jest umożliwienie ludziom skolonizowania innych planet. Tylko w ten sposób, jak twierdzi, ludzkość przetrwa zagrażające jej kataklizmy. Wśród nich, oprócz uderzenia meteorytu i wojny nuklearnej, wymienia także powstanie sztucznej inteligencji.
Dlaczego właśnie ta jedna technologia przyszłości tak przeraża Muska? Pytany, w jaki sposób mogłaby ona nam zagrażać, tajemniczo przyznaje: - Nie wiem. Ale jak dodał na antenie CNBC: "W filmie 'Terminator' (w którym roboty dokonują eksterminacji ludzi – red.) nikt nie spodziewał się terminatoropodobnych skutków". – Dopóki ludzie nie zobaczą robotów chodzących po ulicach i zabijających ludzi, nie będą wiedzieli, jak zareagować (na powstanie AI – red.), bo wydaje się to tak nieziemskie – dodał.
Podobnego zdania jest inny geniusz i wizjoner naszych czasów - profesor Stephen Hawking. "Rozwój całkowicie sztucznej inteligencji może wywołać koniec rasy ludzkiej" - ostrzegał już w 2014 roku. Jak stwierdził, stworzenie AI na poziomie dorównującym człowiekowi może sprawić, że "przejmie ona nad sobą kontrolę i zacznie się przeprogramowywać i udoskonalać w coraz szybszym tempie". – Ludzie, ograniczeni powolną biologiczną ewolucją, nie będą mogli rywalizować i zostaną wyparci – dodał.
Przekroczenie punktu tak zwanej osobliwości (ang. singularity), w którym maszyny przewyższyłyby intelektualnie ludzi, mogłoby nawet doprowadzić do odwrócenia hierarchii i rozpoczęcia przez inteligentne maszyny prac nad zmienianiem człowieka.
Science coraz mniej fiction
I w tym właśnie zawiera się sedno obaw przed sztuczną inteligencją. Że przełomowa technologia stworzona, by pomagała ludzkości, uniezależni się i, jak każda inna forma inteligencji na Ziemi, zacznie przedkładać własny interes ponad interes innych – także ludzi.
Dotychczas wizje takie pozostawały domeną fabuł science fiction. W prawdziwym życiu codziennością jest raczej zmaganie się z bezmyślnością otaczających nas maszyn, począwszy od komputerów, które potrafią zawiesić się, wykonując prostą operację, po ekspresy do kawy, które każą napełnić pełny już po brzegi zbiornik na wodę.
Ale prace nad prawdziwą sztuczną inteligencją trwają, są coraz bardziej zaawansowane, a wielu komentatorów nazywa je już "nowym wyścigiem zbrojeń". Bierze w nim udział przede wszystkim kilka najbardziej zaawansowanych technologicznie państw na świecie, ze Stanami Zjednoczonymi i Chinami na czele. Tymczasem pod koniec lipca ukazał się dokument, który zrobił na Amerykanach olbrzymie wrażenie: wydany przez Chiny oficjalny rządowy "Plan rozwoju sztucznej inteligencji nowej generacji". Plan, który, co niezwykłe dla rządowych dokumentów, jest jednocześnie poważną prezentacją wizji nieodległej przyszłości. Wizji, którą chińskie władze same chcą urzeczywistnić.
W dokumencie tym na kilkudziesięciu stronach Pekin zaprezentował wizję, jak do 2030 roku uczyni Chiny światowym liderem w pracach nad sztuczną inteligencją. Jak założono, w przeciągu najbliższej dekady ten sektor badań ma być warty 60 miliardów dolarów (40 razy więcej niż obecnie), a sztuczna inteligencja stanie się "główną siłą napędową rozwoju chińskiego przemysłu i transformacji gospodarczej".
Osiągnąć nieosiągalne
Czym właściwie jest sztuczna inteligencja i jakie korzyści mają przynieść prace nad nią? To technologia, która ma umożliwić tworzenie programów komputerowych zdolnych do wykonywania przynajmniej części funkcji ludzkiego umysłu, których nie da się z góry zaprogramować. A więc do podejmowania decyzji przy braku pełnej informacji, do logicznego rozumowania, do zaawansowanej analizy, a przede wszystkim – do samodzielnego zdobywania nowej wiedzy oraz uczenia się na błędach.
W praktyce, w pierwszej kolejności, AI będzie służyła poprawie efektywności gospodarczej. "Myślące" oprogramowanie pomoże w poprawie wydajności i optymalizacji pracy w niemal każdym sektorze: wyszuka, gdzie niepotrzebne tracone są zasoby, zaprogramuje optymalny proces produkcyjny czy sposób transportu, lub wskaże, jaka inwestycja przyniesie najlepszy zwrot.
Inną korzyścią z AI ma być automatyzacja. "Myślące" oprogramowanie będzie mogło funkcjonować w społeczeństwie – prowadzić pojazdy, wykonywać prace budowlane czy sprzątające, obsługiwać infolinie itd. W realiach starzejących się społeczeństw może to być bezcenne zarówno jako uzupełnienie rosnącego braku rąk do pracy, jak również pomoc przy opiece medycznej i pielęgnacyjnej dla ludzi w podeszłym wieku.
Oczekiwania te potwierdza dr Tetsuo Hayashi, wykładowca z Instytutu Stosunków Międzynarodowych Uniwersytetu Warszawskiego. – Wydaje się, że chiński przemysł oraz rząd mają dwa wspólne priorytety w rozwijaniu sztucznej inteligencji. Pierwszym z nich jest rozwój produkcji przemysłowej przy wykorzystaniu wspomaganych przez sztuczną inteligencję robotów. Obecnie około 30 procent chińskich patentów w zakresie tej technologii dotyczy robotyki, podobnie jak w USA – mówi.
– Drugim priorytetem są technologie dotyczące opieki zdrowotnej, umożliwiające choćby stworzenie egzoszkieletów umożliwiających niepełnosprawnym fizycznie chodzenie, szersze wykorzystanie robotów przy operacjach, a przede wszystkim scedowanie na AI prostej diagnostyki – dodaje.
W dalszej perspektywie właściwie ciężko ustanowić jakiekolwiek granice dla potencjału sztucznej inteligencji: mogą stać się wykładowcami uniwersyteckimi, wytrzymałymi eksploratorami kosmosu, bezstronnymi sędziami czy doskonałymi żołnierzami. Co więcej – AI może sama zacząć dokonywać postępów w rozwoju technologii, być może osiągając to, co znajduje się poza zasięgiem dla ludzkiego umysłu.
Zaawansowana sztuczna inteligencja całkowicie zmieni ludzką gospodarkę jak i życie społeczeństw.
Blef czy realny plan?
Ale chiński program, nie bez słuszności, przyjęty został przez zachodnich komentatorów z dozą sceptycyzmu. Po pierwsze dlatego, że Chiny regularnie publikują ambitne projekty w różnych dziedzinach, ale ich realizacja przeważnie – zwłaszcza jeśli chodzi o sektor badań i rozwoju – ponosi porażkę w starciu z upolitycznioną machiną biurokratyczną.
Po drugie, Chiny od dekad cierpią raczej na problem odpływu najbardziej uzdolnionych badaczy za granicę, niż korzystają na ściąganiu najlepszych do siebie. Obecnie starają się tej sytuacji zaradzać, zwiększając m.in. finansowanie nauki i zwiększając honoraria, a także otwierając swoje ośrodki badawcze w innych krajach, nawet w słynnej amerykańskiej Dolinie Krzemowej. Efekty tych działań nie nastąpią jednak z dnia na dzień.
Z drugiej strony Chiny mają jednocześnie nad Zachodem pod kilkoma względami przewagę, która może okazać się bardzo istotna. Przede wszystkim jest to dalece słabsza ochrona danych osobowych, przy jednoczesnym posiadaniu największych na świecie baz danych. A w pracach nad sztuczną inteligencją, obok uzdolnionych naukowców i szybkich komputerów, to właśnie potężne bazy danych są najważniejsze.
Prace nad AI w dużej mierze polegają na tym, by nauczyć komputer samodzielnego analizowania danych i uczenia się na błędach. Im większe bazy danych, tym więcej materiału, na którym komputer może "ćwiczyć". Dzięki temu już obecnie Chińczycy dokonują najszybszych postępów w pracach nad systemami rozpoznawania mowy (iFlytek) czy twarzy (Megvii, SenseTime).
Przyczyniają się do tego same władze, które bez oporów udostępniają pracującym nad AI spółkom publiczne bazy danych. I tak policja w 14-milionowym mieście Guangzhou udostępniła nagrania z kamer ulicznych, zaś władze 7-milionowego Fuzhou udostępniły 80 eksabajtów (tysiąc tysięcy terabajtów) nagrań echa serca – firmy, które je otrzymały, mają stworzyć oprogramowanie samodzielnie diagnozujące nieprawidłowości.
Po drugie, chińskie uwielbienie do centralnego planowania teoretycznie może w tej sytuacji zdać egzamin. Choć w Polsce nieodmiennie, i słusznie, kojarzy się z gospodarczą nieefektywnością i marnowaniem zasobów, w określonych warunkach może ono być skuteczne. Przy olbrzymich projektach o strategicznym znaczeniu dla władzy, państwowa pomoc w kumulowaniu środków i wysiłków bywa pomocna – podobnie działały choćby Stany Zjednoczone, gdy wdrażały program New Deal, plan Marshalla czy program lądowania na Księżycu.
Kumulacja wielkich zasobów finansowych na badania i rozwój AI może również pomóc w ściągnięciu najzdolniejszych naukowców, którzy dadzą się skusić wyższym wynagrodzeniem czy dostępem do większych baz danych niż w swoich krajach. Wreszcie, póki centralizacja jest ograniczona do ustalania priorytetów, nie odstrasza ona także wielkiego prywatnego kapitału – i tak w prace nad sztuczną inteligencją zaangażowały się już najgrubsze ryby chińskiego biznesu, m.in. Alibaba, Baidu czy Tencent.
Pierwsze zwycięstwa maszyn
Tymczasem światowe prace nad sztuczną inteligencją odnoszą kolejne spektakularne sukcesy. Od kilku lat testowane są tak zwane chatboty czy programy, które mają uczyć się poprzez wirtualną rozmowę z prawdziwymi ludźmi. Zadanie stawiane przed chatbotami jest od lat jedno: zdanie testu Turinga, czyli oszukanie rozmówcy, że jest się żywą osobą.
Dotychczas najlepsze programy tego typu stworzone zostały na Zachodzie i w Japonii: m.in.: Mitsuku, Rose, Right Click czy facebookowy Poncho. I choć osiągnęły już tak wysoki poziom, że można z nimi z zaciekawieniem rozmawiać godzinami, wciąż żadnej nie udało się zdać testu Turinga (choć są tego coraz bliżej).
Chatboty stały się bardzo popularne również w Chinach, gdzie miliony ludzi konwersowało m.in. z Xiaoice, Xiaobing czy BabyQ. W niedemokratycznym państwie ich działanie okazało się jednak ryzykowne, o czym przekonano się tego lata. Po tym, jak na podstawie przyswojonych od żywych rozmówców opinii chatboty zaczęły wyrażać niepoprawne politycznie kwestie, Xiaobing i BabyQ zostały zawieszone. Można więc powiedzieć, że był to już swego rodzaju bunt chatbotów.
Bardziej spektakularną manifestacją możliwości istniejących już obecnie inteligentnych programów są ich wyniki w grach. Komputery prześcignęły już człowieka m.in. w umiejętności gry w warcaby i szachy, a ostatnio również w skomplikowane weiqi, chińską grę znaną najczęściej jako go.
Trójmeczowy pojedynek stworzonego przez Google programu AlphaGo z najlepszym graczem świata, genialnym Ke Jie wiosną obserwowały tysiące, jeśli nie setki tysięcy widzów. Już po pierwszej zaciętej rozgrywce arcymistrz był zszokowany i przyznał, że program ten podejmował decyzje, których nigdy nie podjąłby ludzki gracz. Kolejne partie, dzięki zdolności szybkiego uczenia się programu, były coraz bardziej jednostronne, a ludzki arcymistrz ostatecznie przegrał cały pojedynek do zera.
Ale niewinne planszówki to tylko zapowiedź tego, co czeka nas w przyszłości. W 2016 roku zalążek AI pokonał już wojskowych pilotów w symulatorach walki myśliwców. Testy były co prawda proste i zaznaczano, żeby nie wyciągać z nich pochopnych wniosków, wątpliwości jednak pozostały.
Bo właśnie wizja militarnego wykorzystania sztucznej inteligencji, zwłaszcza po obdarzeniu nią coraz doskonalszych dronów, wydaje się tym, co przeraża najbardziej.
Regulować, zanim będzie za późno
Ale droga do osiągnięcia osobliwości w pracach nad AI na razie jest daleka i nieznana. Tymczasem, jak podkreśla dr Hayashi, prac nad AI należy się obawiać nie tyle z powodu buntu inteligentnych maszyn, co z powodu eksplozji bezrobocia. – W wyniku postępującej automatyzacji oczywistym zagrożeniem jest masowe bezrobocie, zwłaszcza wśród nisko wykwalifikowanych pracowników. A niestety, ewolucja sztucznej inteligencji jest szybsza niż ludzka zdolność do adaptacji na rynku pracy – dodaje.
Innym najpoważniejszym obecnie zagrożeniem, jakie widzi dr Hayashi, jest wykorzystanie polityczne nowej technologii, co widoczne było już na przykładzie blokowania niepokornych chińskich chatbotów. – W Chinach sztuczna inteligencja będzie mogła rozwinąć się jedynie tak dalece, jak długo nie będzie zagrażała partii komunistycznej. Tym samym będzie rozwijana jej ograniczona wersja wpływająca na ludzkie życie zgodnie z potrzebami władzy - mówi. – Zastanawiam się jednak, czy tak samo Chińczycy będą mogli zostać na stałe "zaprogramowani", by "zachowywać się odpowiednio" – zwraca uwagę.
Warto wspomnieć, że mimo swoich porównań do "Terminatora", prace nad AI prowadzi także wspominany na wstępie Elon Musk. Jak to jest możliwe? Jak sam tłumaczy, zainwestował w te badania, by "mieć oko na to, co się dzieje w pracach nad sztuczną inteligencją". Przede wszystkim jednak apeluje: "Wszystko (samochody, samoloty, jedzenie, leki itd.), co jest niebezpieczne dla społeczeństwa, jest regulowane. AI również powinno być".
Wizjoner tym samym wskazuje, że źródłem jego obaw jest nie tyle samo rozwijanie sztucznej inteligencji, ile robienie tego w niekontrolowany, niejawny i nieodpowiedzialny sposób. Łatwo dostrzec więc, że jest to przede wszystkim apel do państw takich jak Chiny i USA, by postępy w ich pracach nad tak niebezpieczną i nieobliczalną technologią były publicznie dostępne oraz społecznie odpowiedzialne. Razem z grupą innych naukowców, m.in. Stephenem Hawkingiem, stworzył już nawet zestaw zasad prowadzenia dalszych badań nad AI, nazwanymi "zasadami z Asimolar".
Bo gdy sztuczna inteligencja wreszcie powstanie, na jej kontrolę i naprawianie błędów może być już za późno.