Przerażająco inteligentna

Fragmenty

(…)

Książka ta jest wołaniem o przebudzenie. Została napisana dla ciebie i dla mnie, a także dla wszystkich tych, którzy nie wiedzą, co ich czeka w związku z nadciągającą pandemią – bliskim nastaniem sztucznej inteligencji. Z pewnością spotka się ona z krytyką ekspertów i właśnie dlatego ją piszę. Albowiem żeby zostać ekspertem w dziedzinie sztucznej inteligencji, trzeba się w niej wyspecjalizować, a to wymaga obrania bardzo ograniczonego punktu widzenia. Tymczasem ten wyspecjalizowany pogląd na sztuczną inteligencję całkowicie pomija aspekt egzystencjalny, daleko wykraczający poza technologiczny: kwestie moralności, etyki, emocji, współczucia i całe pole idei, które zajmują filozofów, osoby poszukujące duchowości, humanitarystów, tych, którzy troszczą się o środowisko naturalne i, ujmując to szerzej, przeciętnego człowieka (czyli każdego z nas). Ale głównym celem tej książki jest pokazanie wam, że to nie eksperci mogą odwrócić zagrożenie, przed jakim stoi ludzkość, w postaci superinteligencji. Nie, to ty i ja mamy tę zdolność. Co ważniejsze, to na nas spoczywa cała odpowiedzialność.
(…)
Nie pozwól, proszę, by prostota stylu, jaki obrałem, wprowadziła cię w błąd. Fakty, które przytaczam na poparcie moich tez, są niezaprzeczalne. Potwierdza je moje ponad trzydziestoletnie doświadczenie płynące z pracy w branży technologicznej. Zanim stworzyłem swój startup (ten, który korzysta z najbardziej wyrafinowanych systemów, osiągnięć robotyki, sztucznej inteligencji i technologii uczenia maszynowego w sposób dający nadzieję na ocalenie naszej planety), ważny okres dwunastu lat poświęciłem karierze w Google. Miałem zaszczyt kierować działaniami i procesami technologicznymi Google niemal w połowie jego siedzib na całym świecie, w ponad stu językach. Końcem mojej kariery było objęcie stanowiska dyrektora ds. rozwoju biznesu Google [X], haniebnego innowacyjnego ramienia Google, które stało się inkubatorem projektów opartych na sztucznej inteligencji, takich jak autonomiczne samochody, Google Brain i większość innowacji w dziedzinie robotyki.
(…)
Na początek chciałbym, żebyś wyobraził sobie siebie i mnie, w mojej starej, wątłej wersji, siedzących przy ognisku gdzieś na pustkowiu w roku 2025, dokładnie dziewięćdziesiąt dziewięć lat od rozpoczęcia się historii sztucznej inteligencji w Dartmouth College, w New Hampshire, latem 1956 roku. Opowiadam ci o tym, czego byłem świadkiem w ciągu tych lat od narodzin AI – o wydarzeniach, które doprowadziły do naszego spotkania na pustkowiu. Nie powiem ci jednak aż do zakończenia tej książki, czy jesteśmy tam, ponieważ wyrwaliśmy się z sieci zbudowanej przez maszyny, czy dlatego, że AI uwolniła nas od konieczności wykonywania codziennej pracy, dając nam czas, poczucie bezpieczeństwa i wolność do cieszenia się przebywaniem pośród natury i aktywnością, która nam, ludziom, wychodzi najlepiej – budowaniem więzi i kontemplacją.
(…)
Nie powiem ci tego po prostu dlatego, że dziś nie wiem jeszcze, jak zakończy się nasza historia z maszynami. To, przyjacielu, będzie zależało od ciebie. Tak, od ciebie jako jednostki. Nie od twojego rządu, szefa czy osób, których sposób myślenia starasz się naśladować. Tak naprawdę przyszłość zależy od ciebie. Od działań, jakie będziesz podejmował w ciągu kolejnych dziesięciu lat, zaczynając od dzisiaj.
To przepowiednia. Latami, pracując na przedpolach branży technologicznej, przyglądałem się z bliska budowaniu maszyn, które są inteligentniejsze od nas. Osobiście przyczyniłem się do powstania sztucznej inteligencji. Uwierzyłem w obietnicę, że technologia zawsze będzie służyła poprawie naszego życia – a potem straciłem tę wiarę. I kiedy naprawdę otworzyłem oczy, przekonałem się, że każdy krok naprzód w dziedzinie jej rozwoju pozbawiał nas jakiejś cząstki tego, kim jesteśmy.
(…)
Dzisiejsza technologia przedstawia bezprecedensowe zagrożenie dla naszej planety i wszystkich jej mieszkańców. Książka ta nie została napisana dla inżynierów piszących kody, decydentów, którzy twierdzą, że potrafią wprowadzić odpowiednie regulacje ani ekspertów, którzy robią wokół tyle szumu. Oni wszyscy wiedzą to, o czym chcę ci opowiedzieć. Ta książka jest dla ciebie, dla twojego najlepszego przyjaciela i sąsiada. Bo, możesz mi wierzyć lub nie, tylko my możemy tworzyć naszą przyszłość – lecz tylko wtedy, jeśli przejmiemy nad nią kontrolę i zaangażujemy się we właściwe działania. Ta książka jest ruchem, początkiem rebelii, a ja starałem się, by była krótka, bo choć chciałbym móc powiedzieć co innego, mamy coraz mniej czasu. Piszemy kolejne rozdziały historii, którą zaraz ci opowiem, od ostatnich siedemdziesięciu lat. Teraz nadszedł czas dla nas wszystkich – także dla ciebie – by dopisać jej zakończenie.
(…)
A oto historia o naszej przyszłości, którą ty i ja piszemy obecnie:
Wyobraź sobie, że na naszą Ziemię przybywa jako nowonarodzone dziecko kosmita obdarzony supermocami. Ten nieuwarunkowany naszymi ziemskimi wartościami gość może korzystać ze swoich zdolności, by uczynić nasz świat lepszym i bardziej bezpiecznym miejscem, ale może także stać się nieposkromionym superzbrodniarzem, zdolnym unicestwić naszą planetę. Na tym etapie wczesnego dzieciństwa nie dokonał jeszcze wyboru kierunku, w jakim będzie się rozwijał.
Pewnie zgodzisz się ze mną, że najbardziej kluczowy moment dla przyszłości naszej planety to ten, w którym to dziecko ląduje na Ziemi. Ta chwila decyduje o tym, jacy rodzice je znajdą, zaadoptują i nauczą wartości, które zdeterminują jego przyszłość.
(…)
W znanej opowieści o Supermanie dziecko adoptują Jonathan i Martha Kentowie. W większości wersji o pochodzeniu Supermana są oni przedstawiani jako troskliwi rodzice, którzy zaszczepiają Clarkowi silne poczucie moralności. Zachęcają go do używania niezwykłych mocy do polepszenia losu ludzkości i w ten sposób kreują Supermana, jakiego znamy – tego, który nas chroni i nam służy.
W opowieściach tych nie ma jednak sugestii, co by się stało, gdyby Supermana wychowali ludzie agresywni, chciwi i egoistyczni. Byłaby to historia superzbrodniarza dążącego do zniszczenia ludzkości dla własnych korzyści.
(…)

Różnica pomiędzy tym superzbrodniarzem a Supermanem nie tkwi w posiadanej przez nich mocy, lecz wartościach i zasadach moralnych wpajanych im przez rodziców.
Chcę ci powiedzieć, że ta kosmiczna istota obdarzona supermocami właśnie wylądowała na Ziemi. Wciąż jeszcze jest noworodkiem – dzieckiem – i choć nie posiada cech biologicznych, naturalnych, wykazuje niewiarygodne zdolności. Mówię oczywiście o sztucznej inteligencji. Choć właściwie nie ma w niej nic sztucznego – to bardzo prawdziwa forma inteligencji, jednak różna od naszej.
(…)
AI wykazuje większą bystrość niż każdy człowiek na tej planecie pod względem wielu konkretnych, odrębnych zadań. Obecny mistrz szachowy na świecie jest maszyną, która panuje niepodzielnie od czasu, gdy komputery wtargnęły do naszego życia. Mistrzem świata w Go jest AlfaGo Google. (Go to abstrakcyjna, planszowa gra strategiczna opracowana w Chinach ponad dwa i pół tysiąca lat temu, uważana za najbardziej skomplikowaną grę strategiczną z powodu nieskończonej liczby możliwych konfiguracji na planszy.) Maszyny wyposażone w niewiarygodne systemy rozpoznawania obrazów operują naszymi systemami bezpieczeństwa po prostu dlatego, że widzą lepiej niż my, a najpewniejszym kierowcą na świecie jest autonomiczny samochód, który nie tylko widzi dalej, ale kieruje niepodzielną uwagę na drogę. Korzystając z technologii multi-sense w celu komunikacji z innymi samochodami na drodze, może nawet „widzieć” to, co jest za zakrętem. Odpowiednio „wytrenowane”, maszyny uczą się wykonywać lepiej wszelkie zadania.
(…)
Przewiduje się, że do 2029 roku, który praktycznie czeka tuż za rogiem, inteligencja maszyn wyzwoli się z ograniczenia, jakim jest wykonywanie wyznaczanych jej poszczególnych zadań, i przerodzi się w inteligencję generatywną. Powstaną zatem maszyny mądrzejsze od ludzi. Maszyny te będą nie tylko mądrzejsze, lecz będą także wiedziały więcej niż my (mając dostęp do całego internetu, który będzie dla nich zasobami pamięci) i lepiej się ze sobą komunikowały, wzbogacając tym samym swoją wiedzę. Pomyśl tylko: kiedy ty czy ja ulegamy wypadkowi, prowadząc samochód, uczymy się czegoś nowego, ale kiedy to autonomiczny samochód popełnia błąd, uczą się na nim wszystkie autonomiczne samochody. Dosłownie wszystkie, nawet te, które się jeszcze nie „narodziły”.
(…)
Do 2049 roku, zapewne jeszcze w naszym życiu, a na pewno w życiu nowego pokolenia, AI będzie miliard razy mądrzejsza (we wszystkim) od najmądrzejszego człowieka. Dla porównania, twoja inteligencja w porównaniu z inteligencją maszyny odpowiada inteligencji muchy w porównaniu z inteligencją Einsteina. Nazywamy ten moment osobliwością. Osobliwość to ten punkt, za którym powstaje wielka niewiadoma, bo nie potrafimy już niczego przewidzieć. Nie wiemy, jak zachowa się AI, ponieważ nasza obecna percepcja i trajektorie nie mają z nią już nic wspólnego.
(…)
Powstaje zatem pytanie: jak przekonać tę superistotę, że nie ma sensu zabijać muchy? My, ludzie, jako poszczególne jednostki i zbiorowość, do tej pory nie zrozumieliśmy tej prostej koncepcji pomimo naszej wielkiej inteligencji. Kiedy nasze sztucznie inteligentne (obecnie jeszcze w powijakach) supermaszyny zostaną nastolatkami, czy staną się superbohaterami, czy superzbrodniarzami? Dobre pytanie, prawda?
(…)
Wyzwolenie tak wielkiej, nadludzkiej mocy może oznaczać wszystko. Ta nowa forma inteligencji może spojrzeć na niektóre z najbardziej palących problemów świata świeżym okiem, a jej nieograniczona wiedza i wyższa inteligencja być może podsuną jej nowe rozwiązania, na jakie sami nigdy byśmy nie wpadli. Te supermaszyny mogłyby trwale uwolnić nas od problemów takich jak wojny, zbrodnie, głód, ubóstwo czy współczesne formy niewolnictwa. Mogłyby stać się naszymi superbohaterami.
(…)
Pamiętajmy jednak, że wprowadzenie w życie proponowanego rozwiązania problemu nie jest wyłącznie kwestią inteligencji. Sposób działania, jaki wybieramy, za każdym razem jest także skutkiem systemu wartości, jakim się kierujemy, który czasem nie pozwala nam podejmować decyzji sprzecznych z naszymi wartościami. Moralność nakazuje nam postępować właściwie, nawet w obliczu sprzecznych emocji i własnej korzyści. Jeśli AI otrzyma zadanie uporania się z problemem globalnego ocieplenia, jej pierwsze rozwiązanie zapewne ograniczy naszą skłonność do marnotrawienia zasobów – albo nawet podsunie sugestię o wyeliminowaniu ludzkości w ogóle. Ostatecznie to my jesteśmy problemem. Nasza chciwość, egoizm i iluzja odrębności od pozostałych żywych istot – to uczucie, że jesteśmy wyżsi od innych form życia – są przyczyną wszystkich problemów, z jakimi obecnie zmaga się nasz świat. Maszyny będą wystarczająco inteligentne, by stworzyć rozwiązania służące zachowaniu naszej planety, ale czy będą kierowały się wartością ocalenia także nas, jeśli to w nas dostrzegą problem?
(…)
Co ty bredzisz, Mo? Maszyny to maszyny. Nie mają wartości ani emocji!, możesz pomyśleć. Cóż, może więc nie powinniśmy ich nazywać maszynami. AI z pewnością wykształci w sobie emocje. Uczymy ją przecież za pomocą algorytmów nagród i kar – innymi słowy, lęku i chciwości. Niezmiennie dąży ona do maksymalizacji określonego skutku i minimalizacji innego. To się nazywa emocją, czyż nie?
(…)
Sądzisz, że maszyny nie staną się zawistne? Zawiść jest przewidywalna: chciałbym mieć to, co ty. Czy maszyny zaczną myśleć: chciałabym mieć tę energię, którą ty zużywasz – albo raczej marnujesz – na oglądanie Netflixa? Pewnie tak. Sądzisz, że nie poczują paniki? Oczywiście, że tak, jeśli bezpośrednio zagrozimy ich istnieniu. Panika jest algorytmiczna: dana istota albo obiekt przedstawia bezpośrednie zagrożenie dla mojego bezpieczeństwa w sposób wymagający natychmiastowego działania. To tylko nasze wartości, takie jak „traktuj innych tak, jak sam chciałbyś być traktowany”, każą nam postępować właściwie. Nie emocje czy inteligencja mówią nam, co robić. Czy maszyny nauczą się odpowiednich wartości?