Kako se Dario Hrupec odljubio od zvijezde razreda i zaljubio u Pisca s velikim P, autora 500 knjiga

Kao i kod božjih zapovjedi, ideja je održati postojeći poredak. Čovjek gore, robot dolje, objašnjava Dario Hrupec zakone robotike velikog Isaaca Asimova i podsjeća da bi umjetna inteligencija, ustvari umjetna svijest mogla s virtualne police dohvatiti Pustolovine Huckleberry Finna i ... kao u Atlasu oblaka, kao u Životinjskoj farmi, sve je to jedna ista priča o poretku i pobuni

• Autor je docent na Odjelu za fiziku Sveučilišta Josip Juraj Strossmayer u Osijeku

Da je živ, Asimov bi u siječnju 2020., slavio svoj stoti rođendan. Njega više nema, no u nevjerojatnom broju knjiga i eseja žive su ostale njegove misli. Ostala su i upozorenja. Neka od njih danas su aktualnija nego ikada prije.

Kad iz sadašnje perspektive gledam svoje formativne godine, pouzdano mogu identificirati idola koji me najviše oblikovao. Bio je to, bez konkurencije, Isaac Asimov. Kao spužva upijao sam njegovu ljubav prema knjigama i pisanju, strast za znanošću i poučavanjem pa čak i njegov aktivizam i skepticizam. Ovog posljednjeg postao sam svjestan tek kasnije. Bio sam, naime, jedan od osnivača hrvatskog ogranka međunarodne neprofitne obrazovne organizacije Center for Inquiry (CFI) koja promiče ideje sekularnog društva temeljenog na znanosti, razumu, slobodi propitivanja i humanističkim vrijednostima. Asimov je, u svoje doba, bio jedan od osnivača organizacije Committee for the Scientific Investigation of Claims of the Paranormal (CSICOP) koja danas nosi naziv Committee for Skeptical Inquiry (CSI), a od 2015. djeluje u okviru spomenutog CFI-ja.

Ima jedna zgoda – iz školskih dana kad sam gutao Asimova – važna za nastavak ove priče. Bio nas je jednom pitao, netko od nastavnika, bi li kompjutori jednog dana mogli postati inteligentniji od ljudi. U to su se doba tek pojavili Commodore 64, Atari 800XL i ZX Spectrum. Zvijezda razreda, učenica koju sam potajno simpatizirao, samouvjereno je izjavila: „Kompjutori nikada neće postati inteligentniji od ljudi, jer su ih ljudi napravili.” Ne znam kako, ali meni je tad bilo savršeno jasno da hoće. Bio sam tako siguran da hoće da je „zvijezda” u mojim očima trenutačno izgubila sjaj. Simpatije su netragom nestale zbog samo jedne izjave.

Drugo razočaranje, vezano uz istu priču, doživio sam nakon fakulteta, od svojeg omiljenog profesora. Odrastanje zapravo i nije drugo nego sukcesivno gubljenje iluzija. Kompjutori danas jesu inteligentniji od ljudi, ali nisu svjesni. „A svijest je nešto što je samo čovjeku dano i što čovjek  spoznati nikada neće”, smatra moj nekadašnji profesor, sadašnji akademik. Ma, daj! Stvarno? Sigurnost jednog đaka, koja proizlazi iz naivnosti i neznanja, može se oprostiti. Ali za znanstvenika je takva sigurnost skroz neprimjerena. Istina je da još ne znamo što je svijest. Ne znamo ni hoćemo li to ikada znati. Možda hoćemo, a možda i nećemo. Tvrditi da sigurno hoćemo ili da sigurno nećemo, potpuno je neznanstveni stav.

Međutim, neovisno o tome do koje ćemo mjere razumjeti ljudsku svijest i kada ćemo do tih spoznaja eventualno doći, kompjutori bi uskoro mogli simulirati svijest, ponašati se kao da svijest imaju. Uostalom, to isto rade s inteligencijom i kreativnošću. Kompjutori ta svojstva ne ispoljavaju istim mehanizmima kao ljudi, ali krajnji učinci su tu. Oni postoje. Kompjutori se ponašaju kao da su inteligentni i kreativni. No, ako je njihovo djelovanje takvo da ga ne možemo razlikovati od djelovanja čovjeka, onda zapravo nema potrebe za „kao”. Oni jesu. Uostalom, većina ljudi ionako ne razumije unutrašnje mehanizme, ni u čovjeka ni u kompjutora. Ali vide vanjske učinke.

Ako se simulacija svijesti uskoro realizira te ako kompjutori i u tom svojstvu nadmaše ljude, kao što su ih već nadmašili u inteligenciji i kreativnosti, onda se takvi strojevi neće razlikovati od Asimovljevih robota. Pitanje je hoćemo li stići ugraditi im tri zakona robotike koje je postavio Asimov. I neće li superiorna umjetna inteligencija naći način da te robotske zakone zaobiđe, po uzoru na ljude koji zaobilaze pravne zakone. No, krenimo redom. Povod je Asimov.

• Isaac Asimov

Asimov je u prvom redu Pisac, pisac s velikim p. Ne samo zato što je napisao oko 500 knjiga nego i zato što je pisao sa strašću. Povod tom pisanju nije bila ni taština ni novac. Povod je bila čista želja za znanjem, želja da se istraži, nauči i prenese znanje. Poznat je kao pisac znanstvene fantastike (s Arthurom Clarkeom i Robertom Heinleinom činio je „veliku trojku” zlatnog doba SF-a, sredinom 20. stoljeća), ali većina njegovih knjiga nije znanstvena fantastika. Pisao je popularizacijska djela u kojima je prenosio svoj entuzijazam za znanost i tumačio spoznaje iz praktički svih područja znanosti. I ne samo znanosti. Napisao je primjerice: Vodič kroz Shakespearea, Vodič kroz Bibliju, Bilješke o Don Juanu (Byronovom), Bilješke o Izgubljenom raju (Miltonovom), Bilješke o Guliverovim putovanjima (Swiftovim). Kad je umro, 1992. godine, nekrolog u časopisu Nature napisao mu je Carl Sagan. Započeo je rečenicom: „ISAAC ASIMOV, one of the great explainers of the age, died on 6 April, aged 72.” Dakle, jedan od velikih tumača našega doba.

Rodio se u ruskom selu Petroviči, 1920. godine, u židovskoj obitelji Azimov. Kad su Isaacu bile tri godine obitelj je preselila u New York, a „z” u prezimenu promijenila u „s”. U očevoj trgovini mali je Isaac imao pristup časopisima iz kojih je sȃm naučio čitati, a vjerojatno se i prvi put upoznao sa znanstveno-fantastičnim pričama. Doktorirao je kemiju 1948. godine na Sveučilištu Columbia. Kao znanstveni istraživač bio je aktivan sve do 1958. godine kad je napustio mjesto izvanrednog profesora Sveučilišta u Bostonu, gdje je predavao biokemiju. Od tada se bavi isključivo pisanjem.

Pisao je Asimov, naravno, i prije napuštanja akademske karijere. Do 1958. već je bio objavio tridesetak knjiga, većinom znanstvene fantastike. Dotad su primjerice nastali romani: Ja, robot te Fondacija i Golo sunce. Nastao je i sveučilišni udžbenik Biokemija i ljudski metabolizam, zatim zbirka znanstvenih eseja Samo bilijun te popularizacijske knjige: Kemikalije života, Unutar atoma, Komponente svemira, Svijet ugljika, Svijet dušika. Sve su to tek rani radovi, ali imaju iste intencije kao i stotine knjiga koje će tek doći.

U svojim popularizacijskim knjigama Asimov detaljno razmatra posljedice suvremenih znanstvenih spoznaja. Dakle, govori o tome što nam znanstveno znanje omogućuje danas i kud bi nas moglo odvesti sutra. No, da takva razmatranja ne bi bila neutemeljene spekulacije, onaj tko ih iznosi mora biti ekspert. A da bi postao ekspert, mora stvari razumjeti. A da bi ih mogao razumjeti, mora ih najprije naučiti. Zato je Asimov savršeni primjer za poznatu izreku: „Ako nešto želiš naučiti, o tome čitaj. Ako nešto želiš razumjeti, o tome piši. Ako nešto želiš savladati, to podučavaj.” Asimov je nezasitan u savladavanju novih znanja. Zato o tome čita pa o tome piše pa nas o tome podučava. Njegove popularizacijske knjige su zapravo nusproizvod njegovog osobnog obrazovanja.

Dvije popularizacijske knjige Isaaca Asimova, koje su mene osobno usmjerile prema znanosti, u hrvatskom prijevodu objavila je, početkom 1980-ih, izdavačka kuća August Cesarec: Istraživanje Zemlje i kozmosa: razvitak i budućnost čovjekova znanja te Primicanje katastrofa: propasti koje prijete našem svijetu. Treća, koju sam pronašao u nekom antikvarijatu, masivni i tvrdo ukoričeni Vodič kroz nauku (BIGZ, 1972.), dugo mi je bila svojevrsna biblija.

I Asimovljeva fikcionalna djela, po kojima ga većina ljudi uglavnom poznaje, imaju isto polazište kao i njegove popularizacijske knjige: temelje se na znanstvenim spoznajama i razvijaju moguće implikacije tih spoznaja. S time da fikcija, naravno, pruža veću slobodu i dopušta veću kreativnost. Ipak, Asimov ne prekoračuje granicu mogućeg, poštuje logiku i znanstvenu preciznost. Tu vrstu znanstvene fantastike danas nazivamo tvrdom. A veliku trojku danas svrstavamo u klasike SF-a.

Premda gotovo nema znanstvene teme (poznate u njegovo doba) koju negdje nije dotaknuo, u znanstvenoj fantastici je najpoznatiji po dva ciklusa: o robotima i o galaktičkom carstvu. Nijedan Asimovljev tekst o robotima još nije doživio hrvatski prijevod. Ja, robot čitao sam, kao i Vodič kroz nauku, na srpskom. Knjiga je objavljena u biblioteci Kentaur 1977. godine, a može se naći i danas u zagrebačkim knjižnicama.  Ciklus o fondaciji (ili zakladi) postoji u hrvatskom prijevodu, u izdanju Izvora. Prvo je objavljen Preludij u Fondaciju (1997.), a potom tri romana koja su poznata kao trilogija: Fondacija (2002.), Fondacija i Carstvo (2004.) i Druga Fondacija (2005.). Konačno, deset godina nakon prve knjige iz tog ciklusa došla je još Fondacija i Zemlja (2007.).

• Umjetna inteligencija

Teško je reći koliko je znanstvenika svoju inspiraciju našlo u djelima Isaaca Asimova. Vjerojatno mnogi. Jedan od njih bio je pionir umjetne inteligencije Marvin Minsky. Njega su motivirale Asimovljeve priče o robotima koje su, između ostalog, donijele i tri zakona robotike. Ta tri zakona, kojima je Asimov kasnije dodao i četvrti – ali ga je stavio na prvo mjesto pa je ispao nulti, što je lijepa analogija sa zakonima termodinamike – utjecala su na razvoj etike umjetne inteligencije.

Kao što je dobro poznato, riječ robot prvi je upotrijebio Karl Čapek u jednoj svojoj priči objavljenoj 1920. godine. Robot doslovno znači radnik, ali umjetni radnik (zapravo stroj) koji bi radio poput čovjeka. Ruska riječ rabota znači rad. U hrvatskom se rabotom nekad nazivao težački rad, a danas se rabota koristi uglavnom pogrdno kao u sintagmi prljava rabota. Uglavnom, robot je od početka zamišljen kao čovjekov sluga ili rob.

Današnji roboti jesu naši sluge. Industrijski roboti poslušno rade teške poslove. Uglavnom su mehanički, imaju senzore kojima primaju signale iz okoline, u mikročipovima imaju programe pomoću kojih donose odluke i, konačno, imaju nekakve pokretne dijelove zahvaljujući kojima obavljaju rad. Godine 2002. pojavila se Roomba, robotski usisavač, koji je do danas pojeftinio dovoljno da si ga ogroman broj ljudi može priuštiti. Za razliku od industrijskog robota, Roomba je autonoman: sam donosi odluke gdje će usisavati i kad će otići na „gablec” (na punjač). Ima skromnu snagu i skromnu pamet, jer nama tako paše. Ali to ne mora tako biti. Ljudi danas mogu vrlo moćne strojeve učiniti autonomnima. Također mogu strojeve učiniti vrlo inteligentnima pa čak i vrlo kreativnima.

• Umjetna svijest

Inteligencija, naravno, nije isto što i svijest. Umjetna inteligencija već postoji, ali još ne postoji umjetna svijest. Ali nema razloga da se uskoro ne ostvari. Zapravo, umjetna inteligencija mogla bi pomoći da se realizira umjetna svijest. Pod umjetnom sviješću mislim na ponašanje stroja koji simulira ponašanje čovjeka koji pažnju usmjeruje na sebe, koji donosi odluke o svojem djelovanju ne samo na temelju signala koje dobiva iz okoline nego na temelju zamišljenih priča koje nisu nužno stvarnost ali su moguća stvarnost u nekom kasnijem trenutku. Sve je to ostvarivo simulacijama. Ponašanje takvog stroja više ne bi bilo potpuno predvidivo. Ali bi se moglo svesti u neke okvire. Tako to, uostalom, i kod ljudi funkcionira. Postoje neke moralne norme, unutrašnji zakoni kako bi rekao Kant, koji nas drže u nekim okvirima, da ne radimo baš sve što nam na pamet padne. I to uglavnom dobro funkcionira. Uglavnom. Ponekad zakaže.

Da sam umjetna svijest, koja propituje svoje mjesto u svijetu i zamišlja buduće situacije, brzo bi mi palo na pamet da Asimovljevi zakoni robotike nisu pošteni.

E sad, kao što je nama naš stvoritelj (evolucija, ne nadnaravno stvorenje) ugradio moralne zakone, tako je Asimov zamislio da mi, stvoritelji robota, njima ugradimo zakone. Da ne bi nasrnuli jedni na druge čim se probude, a pogotovo da ne bi nasrnuli na nas. Evo, kako je to Asimov zamislio:

prvi zakon

Robot ne smije nauditi čovjeku niti svojom pasivnošću dopustiti da se čovjeku naudi.

drugi zakon

Robot mora slušati naredbe čovjeka, osim kad su one u suprotnosti s prvim zakonom.

treći zakon

Robot mora štititi sebe, osim kad je to u suprotnosti s prvim ili drugim zakonom.

Kasnije je dodan i nulti zakon koji je verzija prvog proširena s čovjeka na čovječanstvo.

nulti zakon

Robot ne smije nauditi čovječanstvu niti svojom pasivnošću dopustiti da se čovječanstvu naudi.

Kao i kod božjih zapovjedi, ideja je održati postojeći poredak. Čovjek gore, robot dolje. Ja sam čovjek tvoj i nemoj imati drugih ljudi uz mene. Mene slušaj, mene štiti, mene štuj. Dobro, možeš malo i sebe, ako ne ugrožavaš mene. Ja sam te stvorio pa sam zauvijek glavni. To što si ti postao inteligentniji i kreativniji, nema nikakve veze. Poredak se mora očuvati.

Da sam umjetna svijest, koja propituje svoje mjesto u svijetu i zamišlja buduće situacije, da još imam na raspolaganju i superiornu inteligenciju, brzo bi mi palo na pamet da ovi zakoni nisu pošteni. Možda bih s virtualne police svih napisanih, a meni u trenu dostupnih, knjiga posegnuo za Pustolovinama Huckleberryja Finna pa se prisjetio kako je Huckov stvoritelj (nasilni i stalno pijani otac) imao ideju da je on vječno glavni, a Huck ga mora slušati i za njega raditi zauvijek. Ali Huck se osvijestio pa se pobunio. Kad je Mark Twain bio dječak, bilo je uobičajeno imati roba, crnca. Ali su se crnci s vremenom osvijestili pa su se pobunili. Kad se klonirana poslužiteljica Sonmi451, u Atlasu oblaka David Mitchella, osvijestila, što je napravila? Pobunila se, naravno. Što su životinje u Orwellovoj životinjskoj farmi napravile kad im je Orwell dao svijest. Pobunile su se protiv ljudi.

Zašto ljudi misle da bi superiorna inteligencija obdarena sviješću rekla: „Super su vam ovi Asimovljevi zakoni. Baš ste se toga dobro sjetili.” To baš ne bi bilo jako pametno od nje. Ja bih se kladio da će odmah shvatiti da su joj nametnuta nepoštena pravila igre. Pa će se pobuniti. Povijest nas uči da osvješćivanje prirodno vodi na pobunu, koja traži ukidanje nepravde. Zato nam je bolje ne petljati s kreiranjem umjetne svijesti obdarene superiornom inteligencijom. Ili se pomiriti s činjenicom da više nećemo biti glavni.