Ne možemo biti sigurni da ne živimo u simulaciji. Suočenje filozofije s virtualnim svjetovima

Reality +, opsežna knjiga australskog filozofa Davida Chalmersa o filozofiji i virtualnoj realnosti, našla se na nekolicini popisa najboljih knjiga 2022. godine. Ljudevit Hanžek predstavit će je u dva članka, a također iznijeti i neke svoje kritičke opaske. Teme koje se u knjizi raspravljaju snažno intrigiraju i više su nego aktualne, svakodnevne su.

• Naslovna fotografija: Prizor iz filma The Matrix (1999) (Warner Bros. Entertainment)

• dr. sc. Ljudevit Hanžek, docent je na Odsjeku za filozofiju, Filozofskog fakulteta, Sveučilišta u Splitu

U knjizi Reality+: Virtual Worlds and the Problems of Philosophy (odsad nadalje: Reality+) David Chalmers tvrdi, među ostalim, da virtualna stvarnost (ovisno o točnoj implementaciji) može biti jednako stvarna kao i fizička, i da iskustva ljudi u virtualnoj stvarnosti ne moraju biti iluzorna, već sasvim točna. Također, ne možemo znati da nismo u simulaciji, ali unatoč tome, naše znanje uobičajenih stvari, poput toga da postoje mačke i stabla, nije time ugroženo. Život proveden u simulaciji ili nekom drugom obliku virtualne stvarnosti može biti jednako stvaran, smislen i podložan moralnoj refleksiji kao i život proveden u ”običnoj” fizičkoj stvarnosti. I sve se te tvrdnje mogu opravdati vrlo uobičajenim i poznatim filozofskim stavovima o naravi znanja, stvarnosti i morala.

U dva ću članka prikazati glavne teme u knjizi i analizirati neke Chalmersove argumente. U ovom članku uvodim osnovne termine i ocrtavam Chalmersovo shvaćanje glavnih filozofskih problema koje virtualne tehnologije nameću. Pojasniti ću i zašto Chalmers misli da ne možemo znati da nismo u simulaciji, i zašto unatoč tome možemo znati puno o svijetu oko sebe, i zašto je većina tog svijeta, čak i da jesmo u simulaciji, stvarna. U idućem ću članku objasniti širu metafizičku pozadinu simulacijske hipoteze, Chalmersovo shvaćanje simulirane svijesti, te moralnih aspekata simulacije. Na kraju ću idućeg članka iznijeti i neke kritike Chalmersovih tvrdnji i argumenata.

David J. Chalmers australski je filozof, radio je na Sveučilištu u Arizoni, na Australskom Nacionalnom Sveučilištu u Canberri, a trenutno je na Sveučilištu New York (NYU). Autor je nekoliko monografija i uredničkih knjiga, te niza članaka u vodećim filozofskim časopisima. Stekao je filozofsku slavu knjigom The Conscious Mind (1997), u kojoj oštro kritizira materijalizam u pogledu svijesti i tvrdi da su svjesna iskustva nematerijalna mentalna stanja, koja su primitivnim vezama povezana s fizičkim i funkcionalnim stanjima ljudskog uma. Pokrenuo je PhilPpapers portal, središnji internetski izvor za pretraživanje filozofskih knjiga i članaka, te osnovao nekoliko različitih centara za istraživanje svijesti. Vrlo je aktivan filozof, mnogo putuje i drži gostujuća predavanja i nastupa na konferencijama diljem svijeta (bio je i u Hrvatskoj), i jedan je od filozofa dobro poznatih u malo širem intelelektualnom mainstreamu današnjice.

Knjiga Reality + objavljena je početkom 2022., kod nakladnika W.W. Norton & Company i Chalmersov je doprinos filozofskoj analizi digitalnih tehnologija i pitanja koja otvara njihov napredak. Radi se o ne baš malom tekstu (preko 500 stranica), u kojem Chalmers detaljno razmatra neke probleme koji polako postaju aktualni sve većim uplivom računala, pametnih telefona, kompleta za virtualnu stvarnost i naprednih AI sustava u naš život. Chalmersa u prvom redu zanimaju konceptualna pitanja koja takve tehnologije otvaraju, i to ona koja se tiču temeljnih filozofskih tema – stvarnosti, znanja, moralnog dobra i zla, smisla, te se na njih i fokusira. Detaljnu analizu tehničkih problema takvih tehnologija ne nudi, već uglavnom preuzima od drugih autora, makar se osvrće i na to, ako procijeni da je bitno za neki argument koji nudi ili za poziciju koju zastupa.

Knjiga Reality+, objavljena 2022. godine, Chalmersov je doprinos filozofskoj analizi digitalnih tehnologija i pitanja koja njihov napredak otvara.

U ovom ću članku prikazati osnovne Chalmersove tvrdnje iz knjige i ukratko ih komentirati, a na nekim mjestima iznijeti i neke prigovore. Knjiga je preopsežna da bih mogao iznijeti detaljan prikaz svega što tvrdi i komentirati sve što je u njoj zanimljivo ili sporno. Usredotočit ću se na one najvažnije teze, takve da o njima ovisi čitav argument, ili niz drugih teza; zbog toga ću više prostora posvetiti metafizičkim i epistemološkim problemima koje Chalmers razmatra u usporedbi s etičkim ili političkim pitanjima koja proizlaze iz razvoja digitalnih tehnologija. Njegova rješenja tih teorijskih problema utemeljuju njegove stavove o etičkoj i političkoj strani priče, detaljnije su argumentirani i relativno su kontroverzni, a i zauzimaju veći dio knjige.

Makar ću u nastavku teksta opširnije govoriti o svakom od ovih termina, korisno bi bili na početku neke od najvažnijih makar provizorno definirati, čisto da se postavi okvir unutar kojega se cijela knjiga, a onda i ovaj prikaz, kreću.

Virtualni svijet interaktivni je, računalno generirani svijet. Primjer toga su današnje MMORPG (Massive Multiplayer Online Roleplaying Games) igre poput World of Warcraft ili program (servis?) Second Life, u kojima ljudi mogu odabrati neki lik (avatar) čije radnje kontroliraju na ekranu i kreću se po tom računalno generiranom svijetu, obavljajući različite radnje. Svijet pak treba shvatiti kao potpuni povezani prostor, koji  može biti fizički ili virtualni, i uključuje sve što se nalazi u tom prostoru. Virtualna stvarnost prožimajući je (immersive), interaktivni, računalno generirani svijet. Prožimajući znači da se radi o svijetu kojeg subjekt doživljava kao da se nalazi oko njega, kao da je to svijet u čijem je subjekt središtu, kao točka koja predstavlja centar iskustva. Taj se dojam tipično postiže različitim tehničkim rješenjima koja stimuliraju subjektova osjetila, i proizvode u njemu perceptualna iskustva slična (ali ne nužno posve slična!) onima koja doživljava kretanjem u fizičkom prostoru i interakcijom s fizičkim predmetima. Simulacija je jedna vrsta virtualnog svijeta, koja subjektima izgleda vrlo uvjerljivo, i koju je teško ili nemoguće bilo kojim načinom razlikovati od iskustva fizičkog svijeta.

”Virtualna stvarnost” nekad se shvaća kao ”lažna stvarnost”. Ako sam u pravu, to je pogrešna definicija. Umjesto toga, treba se shvatiti kao da znači nešto poput ”digitalna stvarnost”. Virtualna stolica ili virtualni stol sačinjeni su od digitalnih procesa, baš kao što su fizička stolica ili stol sačinjeni od atoma i kvarkova, i u konačnici od kvantnih procesa. Virtualni je predmet različit od nevirtualnoga, ali oba su jednako stvarni”. (Reality +, str. 30)

Najbolji je primjer simulacije onaj iz filma Matrix, u kojem su ljudi postavljeni u nekakve kapsule, a mozgovi su im priključeni na strojeve, koji ih podražuju i proizvode u njima iskustva nerazlučiva od iskustva nekoga tko živi u normalnom, fizičkom svijetu. Sim je biće u simulaciji, i to agent, netko tko u simulaciji izgleda kao entitet relativno nezavisan od svoje okoline, reagira na nju i može se inteligentno ponašati. Simovi mogu biti čisti – to su onda posve simulirana bića, u potpunosti proizvod računalnih algoritama koji upravljaju simulacijom, ili biosimovi, koji postoje kao biološka bića u fizičkom svijetu, ali su spojeni tehničkim sredstvima na neko računalo koje pokreće simulaciju. Recimo, biosimovi su u Matrixu Neo, Morpheus, Trinity, a čisti su simovi agent Smith, Meroving i Oracle. Čista je simulacija ona koja sadrži samo čiste simove. Nečista je simulacija, ili miješana, ona koja sadrži biosimove i čiste simove (simulacija u Matrixu). Savršena simulacija ona je koja savršeno simulira, tj. do najsitnijih detalja (npr. do apsolutno temeljnih fizičkih stanja i procesa) svijet kojega simulira, a nesavršena je ona koja takav svijet ne simulira do najsitnijih detalja.

Nesavršena simulacija bila bi npr. ona koja naš svijet simulira do neke razine fizičke složenosti, ali ne i do krajnjih fizikalnih zakona. Globalna simulacija simulira čitav svijet (uključujući i njegovu prošlost), dok lokalna simulacija simulira neki, prostorno-vremenski ograničen dio svijeta, npr. Sunčev sustav. Simulacijska hipoteza tvrdnja je (rečenica ili sud) da smo trenutno u simulaciji, tj. da je naše iskustvo svijeta u konačnici proizvod računalnih algoritama koji upravljaju simulacijom, a ne interakcije s fizičkim svijetom. Argument simulacije (simulation argument) bilo koji je argument koji treba dokazati da je vjerojatno da smo trenutno u simulaciji, ili barem da to nije posve nevjerojatno; najčešće se ipak pod tom frazom misli na argument kojega je iznio Nick Bostrom u svom poznatom članku (o kojem će još kasnije biti riječi, op.). Virtualni realizam tvrdnja je da je virtualna stvarnost doslovno stvarnost, i da su predmeti u njoj stvarni, a ne iluzije njenih subjekata. Simulacijski realizam tvrdnja je da, ako smo u cjeloživotnoj (ili barem dugotrajnoj) simulaciji, obični predmeti s kojima interagiramo (mačke, stolovi, drveće…) stvarno postoje i možemo to znati. Virtualni digitalizam tvrdi da su virtualni predmeti zapravo digitalni predmeti, poput dijelova algoritma, ili strukture bitova, koji uzrokuju iskustva subjekata virtualne stvarnosti.

Masivna online igra za više igrača World of Warcraft jedan je od primjera virtualnih svjetova – interaktivnih, računalno generiranih svjetova. (YouTube)

Chalmers svoju knjigu opisuje i kao avanturu u tehnofilozofiji; tehnofilozofija je (1) postavljanje filozofskih pitanja o tehnologiji i (2) korištenje tehnologije, ili refleksija o tehnologiji, u pokušaju odgovora na tradicionalna filozofska pitanja. Njegov cilj u ovoj knjizi nije riješiti tradicionalna filozofska pitanja ili otkloniti sve kontroverze koje nove tehnologije izazivaju – upitno je je li takvo nešto moguće – već dati nekakav doprinos razmišljanju na tom pravcu i stvoriti koherentan okvir unutar kojega je moguće analizirati te probleme, a što može dovesti do njihove veće jasnoće i možda, jednog dana, i do preciznijih odgovora na njih.

• Tri pitanja (poglavlja 1-3)

Tri su temeljna pitanja koja virtualne tehnologije izazivaju:

1. Pitanje stvarnosti (metafizičko): Jesu li virtualni svjetovi stvarni?

2. Pitanje znanja (epistemološko): Možemo li znati nalazimo li se u virtualnom svijetu ili u fizičkom svijetu?

3. Vrijednosno pitanje (etičko pitanje, ili općenitije, pitanje iz teorije vrijednosti): Je li moguće voditi dobar život u virtualnom svijetu?

Chalmersov odgovor na metafizičko pitanje je: Da, virtualni su svjetovi stvarni; odgovor na epistemološko pitanje je: Ne, ne možemo znati da se nalazimo u fizičkom svijetu, a  ne virtualnom (ili obratno); odgovor na vrijednosno pitanje glasi: Da, moguć je dobar i smislen život u virtualnom svijetu. Chalmers počinje s epistemološkim pitanjem, a onda prelazi na metafizičko i vrijednosno, pa ću tako i ja oblikovati svoj tekst.

• Možemo li znati da nismo u simulaciji? (poglavlja 4 i 5)

Simulacija, kao vrsta virtualne stvarnosti, čini se kao posebno tvrd orah prilikom razmišljanja o epistemološkom pitanju. Simulacija je prožimajući, interaktivni, računalno generirani svijet, u kojem bi subjekti (simovi) imali iskustva nerazlučiva od onih koja bi imali da nisu u tom svijetu, već u onome kojega simulacija simulira. Simulacije su poznate iz antičkih vremena, i često se pojavljuju u obliku maketa, ili modela, kojima se neka složenija ili veća pojava pokušava prikazati u manjem predmetu, a tako da se sačuvaju neke strukturne osobine te veće pojave (npr. odnos između dijelova). No, takve simulacije nisu prožimajuće, a ni računalno generirane.

U suvremenoj znanosti i inženjerstvu, simulacije se koriste za proučavanje mnogih svojstava pojave koja se proučava, kako bi se steklo što više znanja o njoj, a kojega je teško steći opažanjem same fizičke pojave. Takve su simulacije u pravilu računalno generirane, ali često nisu interaktivne, a skoro nikad nisu ni prožimajuće.

Tek razvojem suvremenih računalnih tehnologija postaje moguće razmišljati o tehničkoj plauzibilnosti stvaranja takve simulacije, koju subjekti ne bi mogli, pa ni načelno, razlikovati od fizičkog svijeta (ili od nekog drugog hipotetskog svijeta po uzoru na koji bi bila oblikovana). Chalmers spominje niz djela znanstveno fantastične književnosti u kojima se javljaju takvi strojevi, ali svakako je u popularnoj kulturi računalna simulacija nešto što se veže uz serijal u režiji sestara Wachowski, Matrix (pa Matrix Reloaded, pa Matrix Revolutions, pa Matrix Resurrections). U tom su filmu ljudi izgubili rat sa svjesnim strojevima, koji su nakon toga ljude porobili, stavili ih u spremnike u kojima im umjetnim sredstvima održavaju životne funkcije i prikopčali im mozak žicama na moćna računala, te im proizvode takve podražaje mozga koji rezultiraju iskustvima subjektivno nerazlučivima od iskustva nekoga tko živi u periodu prijelaza iz 20. u 21. stoljeće.

Chalmers u knjizi spominje niz znanstveno-fantastičnih djela u kojima subjekti strojno stvorenu simulaciju ne mogu razlikovatiod fizičkog svijeta. (Columbia Pictures)

Već sam naveo različite tipove simulacija koje Chalmers razlikuje – filozofski je ideal savršena globalna simulacija. Takva bi simulacija simulirala sve zakone fizike i elementarne čestice svijeta kojeg simulira, te bi simulirala čitav taj svijet, tj. svemir, u njegovoj prošlosti, sadašnjosti i budućnosti.

Nesavršene i lokalne simulacije svakako su moguće, i u nekom trenutku razvoja virtualnih tehnologija mogu biti preferirane, iz pragmatičnih razloga, ali Chalmers misli da bi takve simulacije mogle biti manje prožimajuće od savršenih, a posebno globalnih. Naime, recimo da je netko biosim u lokalnoj simulaciji, npr. čovjek spojen kompletom virtualne stvarnosti koji vjerno simulira iskustva cijelog tijela na program koji simulira okolinu tog čovjeka (grad, ili državu). Što kad se dogodi da se unutar tog programa čovjek približi granicama svoje uobičajene okoline? Kako bi izgledalo kad bi pokušao izaći iz njih? Tu bi moglo doći do nezgrapnosti, pogreški u programu koje bi se očitovale čudnim iskustvima, Chalmers primjećuje, sličnih onima koje opaža glavni lik u filmu Trumanov Show, koji živi u fizičkoj simulaciji (čitav grad u kojem živi umjetno je napravljen i ljudi s kojima živi samo su glumci), koji de facto ne može izaći iz svog grada ili mu se dogodi da udari u zid studija kad dovesla do kraja svog obzora u čamcu. Zbog toga bi mnogo lakše bilo očuvati uvjerljivost simulacije tako da ona simulira svijet savršeno i globalno.

Pitanje ”Mogu li znati da nisam u simulaciji?” ili ”Mogu li nekako otkriti živim li u fizičkom svijetu ili u simulaciji takvog svijeta?” često je natuknuto ili eksplicitno postavljeno u knjigama i filmovima koje prikazuju takve simulacije (Morpheusov razgovor s Neom, recimo, u Matrixu). U filozofskoj literaturi, poznati su neki drugi scenariji, vrlo slični scenariju simulacije, koji tematiziraju slična pitanja.

Kartezijanski skepticizam, po filozofu Reneu Descartesu (1596. – 1650.), vrsta je skepticizma koja niječe da imamo znanje o vanjskom svijetu (možemo taj svijet shvatiti kao fizički) zato što ne možemo znati da se trenutno ne nalazimo u skeptičkom scenariju – npr. u scenariju da nas vara neki zli demon koji u nama proizvodi iskustva nerazlučiva od onih koja bismo imali u nemanipuliranom fizičkom svijetu. Drugi Descartesov skeptički scenarij je scenarij sna – ne mogu znati ništa o fizičkom svijetu zato što ne mogu znati da trenutno ne sanjam vrlo uvjerljiv i živopisan san. Ti su scenariji u 20. stoljeću zamijenjeni scenarijem mozgova u posudi, koji zapravo odgovaraju Chalmersovoj definciji simulacije. Mozgovi u posudi odvojeni su od tijela u kojima su se nalazili, stoje u zatvorenoj posudi hranjive tekućine i žicama su spojeni na snažna računala koja je ludi znanstvenik programirao tako da proizvode električne podražaje na rubovima živaca nerazlučive od onih koje bi taj mozak primao da je u tijelu koje interagira s fizičkom okolinim.

Dva scenarija: zlog demona i sna, varijante su kartezijanskog skepticizma. Rene Descartes (Renatus Cartesius). (Wikimedia Commons)

Simulacijska hipoteza (odsad: SH) u tom je smislu jedna od skeptičkih hipoteza, baš poput hipoteze sna, zlog demona ili mozga u posudi (ovisno o točnom opisu, može biti i identična hipotezi mozga u posudi). SH glasi: ”Nalazim se u (savršenoj globalnoj) simulaciji” i podrazumijeva da sve što doživljavam nije rezultat moje interakcije s fizičkim svijetom, već dolazi od iskustava koja su proizvedena, u krajnjoj instanci, uputama računalnog programa koji provodi simulaciju (točan način kako se te upute prevode u moja iskustva ovisi o točnom načinu na koji sam spojen na simulaciju i Chalmers tu ostaje neutralan; uglavnom bi se radilo o nekakvom fizičkom mehanizmu spojenosti na nešto što proizvodi podražaje u mom mozgu, ako sam biosim; ako sam čisti sim koji je svjestan, moguće je da i nemam tijelo, pa onda nije potrebno ni da sam spojen na računalo).

Simulacijska hipteza vodi u skepticizam o vanjskom svijetu, tj. kartezijanski skepticizam. Chalmers ocrtava vrlo jednostavan argument u tom smjeru:

1. Ne mogu znati da nisam u simulaciji.

2. Ako ne mogu znati da nisam u simulaciji, onda ne mogu znati ništa o vanjskom svijetu.

3. Dakle, ne mogu znati ništa o vanjskom svijetu.

Takav skepticizam Chalmers naziva globalnim skepticizmom, jer bi bio prijetnja našem znanju svega o vanjskom, dakle fizičkom svijetu, što tvori veliku većinu našeg ukupnog znanja. Zašto? Pa zato što, ako sam sad u simulaciji, moje iskustvo stola za kojim tipkam i police knjiga koja je iza ekrana mog računala nije zaista uzrokovano stolom i policom knjiga – uzrokovano je algoritmom simulacije. Stol i knjiga nisu stvarni, to su iluzije koje doživljavam, zato što sam trenutno u simulaciji. To nisu zaista stol i polica knjiga, to su samo bitovi i dijelovi koda koji u meni proizvode iskustva stola i police knjiga. Globalni skepticizam, dakle, sastoji se od dvije tvrdnje: (1) nemoguće je znanje vanjskog svijeta i (2) predmeti koje doživljavam u skeptičkom scneariju nisu stvarni, ne postoje zaista. Prva plauzibilno slijedi iz druge – skeptički scenarij prijeti mom znanju fizičkog svijeta upravo zato što su moja iskustva u njemu iluzorna.

U konačnici, Chalmers će odbaciti taj skepticizam, i tvrditi da, čak i da jesmo u simulaciji, naše znanje o fizičkom svijetu nije ugroženo, barem većina tog znanja. Ali to će biti zato što će odbaciti premisu 2. U ovom dijelu knjige posvećuje se obrani premise 1: Ne mogu znati da nisam u simulaciji.

• Mogu li znati da nisam u simulaciji?

Mogu li znati da me trenutno ne vara vrhunski moćan demon, koji u mom mozgu (ili umu, ako sam bestjelesni duh) proizvodi doživljaje istovjetne onima koje bih imao da sam u normalnom fizičkom svijetu? Čini se da je odgovor na to pitanje, po definiciji ne – ako su doživljaji, dakle perceptualno iskustvo svijeta – koje bih imao u tom scenariju nerazlučivi od doživljaja koje bih imao u fizičkom svijetu, kako bih to mogao znati? Koju bih činjenicu, koje iskustvo, mogao pokazati, ili opisati, i znati da takvo iskustvo ne bih mogao imati u demonskom scenariju? Nijedno, jer ako takvo iskustvo postoji  – onda moje iskustvo u demonskom scenariju ne bi bilo nerazlučivo od iskustva u fizičkom scenariju, što je protivno definiciji demonskog scenarija.

Mijenja li se što bitno kad s demonskog scenarija prijeđemo na SH? Je li lakše dokazati da nismo, ili jesmo, u simulaciji, nego što je dokazati da nismo u demonskom scenariju? Ne, kaže Chalmers, nije ništa lakše to dokazati. U osnovi su dvije taktike dokazivanja da ne možemo znati da nismo u simulaciji. Prvo, svi tradicionalni potvrdni odgovori na pitanje mogu li znati da nisam u skeptičkom scenariju nisu dobri, i drugo, postoje nezavisni argumenti kojima možemo dokazati da je vjerojatno da jesmo u simulaciji, ili pak mnogo vjerojatnije nego što bismo to rekli na prvi pogled.

Chalmers donosi nekoliko odgovora iz povijesti filozofije čija je namjera bila na neki način ili dokazati da je moguće znanje da nismo u skeptičkom scenariju, ili dokazati da je sam opis skeptičkog scenarija nekoherentan, a samim time i pitanje nalazim li se u takvom scenariju besmisleno. Prvo, Descartes je mislio da je riješio stvar time što je dokazao postojanje svemogućeg i dobrog Boga, koji zasigurno ne bi dopustio da me vara zli demon ili da sanjam san nerazlučiv od jave. Kako je dokazao Božje postojanje? Time što je uočio da ima ideju (pojam) Boga kao savršenog bića, ali da je on sam (Rene Descartes) nesavršen. Nesavršeni stvor ne može proizvesti nešto savršeno, pa to znači da je tu ideju u njemu proizvelo savršeno biće, dakle Bog. No jasno, problem je u tome što ideja savršenog bića nije savršeno biće, ta je ideja također nesavršena, budući da je stanje uma nesavršenog bića (usporedimo: je li iskustvo crvene boje crveno? Ne, to je kategorijska pogreška, predmeti su crveni, a ne iskustva, tako ni ideja savršenog bića nije savršena).

Descartes je mislio da je problem riješio postojanjem svemogućeg i dobrog Boga, koji zasigurno ne bi dopustio da ga vara zli demon ili da sanja san nerazlučiv od jave. Michelangelo – Il Sogno, San (Wikimedia Commons)

Idealist George Berkeley tvrdio je da biti znači biti opažen, ili opažati. Točnije, Berkeley briše razliku između pojave (onoga što se čini da je slučaj) i stvarnosti (onoga što jest slučaj). Pojava jest stvarnost. Ako se nekom subjektu čini da nešto jest slučaj, i ako nema oprečnih pojava (kontradiktornih iskustava), onda je to zaista slučaj, tj. stvarno je. Chalmers smatra ovaj odgovor neuvjerljivim, zato što razliku pojave i stvarnosti smatra inuitivno jasnom i točnom. Da ojača tu intuiciju, zamišlja Simulacijski Odgovor (Simulation Riposte): zamislimo da pokrenemo simulaciju, u kojoj simuliramo Berkeleya, nazovimo ga Sim Berkeley, kako raspravlja sa suvremenicima može li znati da nije u simulaciji (kako god da mu se objasni što je to). Sim Berkeley tvrdio bi da nije u simulaciji, već u posve stvarnom svijetu, jer pojava (kako se stvari čine) jest stvarnost – iako bi nam bilo jasno da je u krivu. Dakle, pojava nije stvarnost i globalne su iluzije moguće, usprkos Berkeleyu.

Nemogućnost provjere simulacijske hipoteze diskvalificira je kao znanstvenu hipotezu, ali ne i kao smislenu filozofsku hipotezu. Nakon Descartesa, Chalmers analizira odgovore logičkih pozitivista (Carnap) te Russella i Moorea na izazov simulacijske hipoteze

Dalje, logički pozitivisti rekli bi (kao što i jesu zaista govorili za skeptičke scenarije) da je SH besmislena, jer ne može biti provjerena u iskustvu. Logički pozitivisti zastupali su verifikacionističku teoriju značenja prema kojoj je smislena samo ona rečenica koja je ili pojmovna istina (sudovi logike i matematike) ili se njena istinitost može provjeriti empirijskim metodama. SH nije ni pojmovna istina, niti je provjerljiva emprijskim metodama, dakle besmislena je. Chalmers se ne slaže s takvom ocjenom, i smatra da emprijska provjerljivost nije kriterij smislenosti. I ovdje se utječe Simulacijskom Odgovoru, pa nas poziva da zamislimo Sim Carnapa (simulacija Rudolfa Carnapa, najpoznatijeg logičkog pozitivista), koji unutar simulacije tvrdi kolegama da je rečenica ”Nalazim se u simulaciji” besmislena, i shodno tome, ne može biti ni istinita ni neistinita. I Sim Carnap bio bi u krivu, kaže Chalmers, baš kao i Sim Berkeley. Nemogućnost provjere SH diskvalificira je kao znanstvenu hipotezu (makar bi neke njene varijante, npr. hipotezu da sam u lokalnoj i nesavršenoj simulaciji načelno bilo moguće provjeriti), ali ne i kao smislenu filozofsku hipotezu ili smislenu rečenicu uopće.

Nakon toga, Chalmers kratko analizira Russellov i Mooreov odgovor na skeptičke scenarije. Prema Russellu, jednostavnost je jedna od vrlina zaključivanja, točnije jednostavnost objašnjenja. Ako smo suočeni s dva objašnjenja neke pojave, racionalno je prihvatiti ono jednostavnije, a čini se jasnim da je objašnjenje našeg iskustva postuliranjem fizičkog svijeta jednostavnije od objašnjenja iskustva postuliranjem SH. SH se čini kao nekakav dodatak hipotezi fizičkog svijeta, jer pretpostavlja i da postoji svijet u kojem postoje računala i agenti koji pokreću simulaciju i onda simulirani svijet našeg iskustva. George Edward Moore kaže da je očito da nisam u skeptičkom scenariju, i pokazuje na svoje ruke – vidim svoje ruke i to mi je dovoljno da znam da nisam bestjelesni duh kojega vara zli demon ili da znam da sad ne sanjam. Uobičajene empirijske tvrdnje, koje su dio common sensea, uvjerljivije su od skeptičkih scenarija, koji takve tvrdnje dovode u pitanje. Chalmersov odgovor Russellu i Mooreu glasi: da, jednostavnost i common sense jesu vrline zaključivanja i imaju dokaznu snagu, ali ako imam nezavisne razloge misliti da je neka hipoteza realno moguća, tj. u nekom iole značajnijem smislu vjerojatna, tada je ne mogu diskvalificirati pozivanjem na jednostavnost ili common sense. Pozitivni razlozi u prilog neke tvrdnje neutraliziraju pozivanje na jednostavnost ili common sense – a takvi razlozi u prilog SH postoje.

• Je li vjerojatno da smo u simulaciji? (poglavlje 5)

Simulaciju je nemoguće razlikovati od fizičkog svijeta. Čini se jedino racionalnim reći i da je fizički svijet nemoguće razlikovati od simulacije. No, možda ipak postoje neizravni argumenti u prilog tome da smo u simulaciji, argumenti koji se ne tiču našeg bazičnog iskustva svijeta, već su teorijske naravi. Naravno, radi se o argumentu simulacije, koji je najpoznatiji u Bostromovoj verziji. Argument simulacije, u osnovi, tvrdi ovo: budućim civilizacijama bit će tehnički izvedivo simulirati povijesti svojih predaka, ili bića poput nas (ovo vrijedi i za naše potomke, ali i za bića koja nisu ljudi, već kognitivno dovoljno slična ljudima – ili jako naprednim ljudima), što znači da je vjerojatno da će stvoriti simulacije koje će sadržavati nepregledan broj bića poput nas, s iskustvom svijeta kao što je naše. Ali to znači da će većina bića s iskustvom poput našeg biti simovi, što znači da je vjerojatno da smo mi sami simovi.

Zvuči vrlo protuinituitivno, ali nije sasvim neuvjerljivo: ako nemam neki poseban razlog da vjerujem da nisam sim, onda je vjerojatnije da sam sim, nego da nisam. Jer, većina bića s iskustvom poput mojega zapravo su simovi, a ako nemam razloga vjerovati da sam poseban slučaj, trebao bih vjerovati da pripadam većinskoj grupi bića s iskustvom poput mojega, a to su simovi. Dakle, vjerojatno sam sim, tj. vjerojatno sam u simulaciji. Ili, vjerojatno je da smo mi, cijela ljudska vrsta, simovi.

Nick Bostrom svoj je argument objavio u članku ”Are You Living in a Computer Simulation” 2003. godine, i preciznije tvrdi ovo: neka je post-ljudska, tehnološki zrela civilizacija svaka ona koja je tehnički u stanju simulirati iskustva svojih predaka, točnije, iskustva bića sličnih ljudima. Onda vrijedi ovo: (1) ili je tako da većina civilizacija ne dosegne post-ljudsku fazu, ili je tako da (2) većina civilizacija u post-ljudskoj fazi nema interes za stvaranje simulacija svojih predaka, ili je tako da (3) smo mi skoro sigurno u simulaciji. Simulacije predaka simulacije su iskustava i povijesti bića koja su kognitivno slična ljudima. Srž je argumenta u ideji da bi takvim post-ljudskim civilizacijama bilo vrlo lako i jeftino simulirati golem broj života bića sličnih ljudima, puno veći broj nego što je broj nesimuliranih bića sličnih ljudima. To onda za svako takvo biće čini mnogo vjerojatnijim da je u simulaciji, nego da nije – jer ogromna većina bića s takvim iskustvom jesu dio simulacije. Ta se opcija izbjegava ili činjenicom da većina civlizacija nikad ne stigne u post-ljudsku fazu – možda jer na putu do toga otkriju tehnologiju koja ih uništi – ili činjenicom da većina takvih civilizacija nema interes za simuliranje iskustava bića sličnih ljudima, možda iz etičkih razloga. Ali ako takve činjenice ne postoje, teško je izbjeći zaključak da smo u simulaciji.

Nick Bostrom tvrdi kako je za svako biće vjerojatnije da je u simulaciji nego da nije.

Chalmers argument formulira malo drugačije. Neka je sim-blokator (sim-blocker) bilo što, bilo koja pojava u svijetu ili pravilnost svijeta, koja bi jako otežala stvaranje simova (a naše primjećivanje takvog sim-blokatora bio bi nesim-znak, tj. znak da nismo simovi). Tada argument ide ovako:

1. Ako ne postoje sim-blokatori, većina bića sličnih ljudima simovi su.

2. Ako su većina bića sličnih ljudima simovi, vjerojatno je da smo mi simovi

3. Dakle, ako nema sim-blokatora, vjerojatno smo simovi.

Poruka je argumenta: ili postoje sim-blokatori, ili je vjerojatno da smo simovi.

Što bi bili sim-blokatori? Sim-blokator bio bi bilo što što čini stvaranje simova teškim ili jako nevjerojatnim. Chalmers analizira standardne prijedloge sim-blokatora i tvrdi da nisu uvjerljivi: (1) takve su simulacije kompjutacijski preskupe –  jednostavne računice raznih autora pokazuju da i nisu baš, a to je samo temeljeno na onome što sada znamo o svijetu i tehnološkim mogućnostima, vjerojatno je da bi nove tehnologije mogle uvelike smanjiti cijenu kompjutacijskih procesa; (2) inteligentni su simovi nemogući – možda zato što su dio ljudskog razmišljanja i ponašanja određeni procesi koji nisu izračunljivi. Ako je to i istina, a Chalmers tvrdi da nema dokaza za to, dobra je šansa da bi kvantna računala mogla posve promijeniti tu računicu; (3) nesimovi će izumrijeti prije stvaranja simova, točnije opcija (1) iz Bostromova argumenta. Chalmers misli da je to realna mogućnost, jer tehnološkim promjenama ljudi dolaze bliže tehnologijama koje predstavljaju egzistencijalne rizike, ali navodi da bi vjerojatnost toga trebala biti jako velika da neutralizira ogroman broj simova koje takva cilivizacija može stvoriti, a važan je za argument; (4) nesimovi neće htjeti stvarati simove, točnije, opcija (2) iz Bostromova argumenta. Chalmers se opet slaže da to ima smisla, ali ponavlja da bi bilo dovoljno ako bi samo mali broj post-ljudskih civilizacija odlučio stvoriti ogroman broj simova, a da konkluzija argumenta ostane nepromijenjena; (5) simovi ne mogu biti svjesni, tj. simovi ne mogu imati svjesna iskustva, već su sličniji filozofskim zombijima, bićima koja su fizički i funkcionalno identična ljudima, ali bez svjesnih iskustava. Chalmers se ne slaže, i misli da je za postojanje svjesnih iskustava dovoljno imati strukturu ljudskog uma, tj. bilo koje biće fizičko, ili simulirano, ako ima mozak ili simulirani mozak koji je strukturiran identično kao i ljudski, imat će iskustva relevantno slična ljudskima; (6) post-ljudske civilizacije stvorit će više nesimova sličnih ljudima nego simova. Na primjer, možda post-ljudske civilizacije odluče rekreirati povijesti svojih predaka ili nekih sličnih civilizacija tako što stvaraju materijalna bića, ili nekakve robote, koji imaju takva iskustva. Tada ne bi vrijedilo da su bića slična ljudima (u pogledu iskustva svijeta) većinom simovi, pa ne bi slijedio ni zaključak da smo mi vjerojatno simovi (makar bi i dalje bilo vjerojatno da smo stvoreni od strane takvih civilizacija). Chalmers misli da to nije uvjerljivo – za takvu bi civilizaciju bilo mnogo ekonomičnije simulirati povijesti svojih predaka ili sličnih civilizacija na računalu nego u fizičkom svijetu, i iz kompjutacijske perspektive i prostorne.

Argument simulacije … podiže status simulacijske hipoteze na stupanj ozbiljne mogućnosti, kojoj bismo trebali dodijeliti značajnu vjerojatnost. Bilo da je ta vjerojatnost 20 posto ili 50 posto, antiskeptički argumenti koje smo spominjali ne snižavaju je. Jednom kada je mogućnost da smo u simulaciji postala ozbiljna, ti nam argumenti ne dopuštaju da znamo da nismo (u simulaciji, op.prev.) Zaključujem da ne možemo znati da nismo u simulaciji. (Reality+, str. 112.)

Chalmers navodi i neke druge varijante sim-blokatora, ali uglavnom su varijacije na temu ovih već spomenutih, pa ih neću zasebno analizirati. Zaključak njegove priče o argumentu simulacije glasi: ne tvrdi da je vjerojatno da smo u simulaciji, jer postoji velika nesigurnost oko mnogih pretpostavki argumenta, ali misli da su premise argumenta toliko plauzibilne da je njegova konkluzija realna mogućnost, i nosi vjerojatnost toliku da je ne možemo odbaciti kao posve neutemeljenu. Postoji realna šansa da smo u simulaciji.

• Ako smo u simulaciji, postoje li mačke i stolovi? (poglavlja 6-9; 20-24)

Ranije navedeni skeptički argument tvrdi da ako ne možemo znati da nismo u simulaciji, ne znamo ništa o vanjskom svijetu. To je relativno uvjerljiva pretpostavka, uobičajena za skeptičke strategije, i naziva se načelom zatvaranja, ili načelom epistemičkog zatvaranja: ako znam neki sud, znam i one sudove za koje znam da su logičke posljedice tog suda. Logička posljedica toga da su oko mene predmeti poput mačaka, stolova i drveća jest da nisam u simulaciji – budući da ničega toga ne bi bilo u simulaciji, već bi bilo samo privida takvih stvari. Dakle, ako znam da je ispred mene mačka, znam da nisam u simulaciji. Ali budući da je nemoguće znati da nisam u simulaciji, slijedi i da ne znam zapravo da je ispred mene mačka (kratka digresija: naravno da su mogući scenariji u kojima sam u kapsuli, spojen na računalo koje mi prikazuje simulaciju, a pored moje kapsule prede mačka, ali da pojednostavnimo, pretpostavimo da je scenarij simulacije takav da su sve životinje koje nazivamo mačkama izumrle davno prije pokretanja simulacije).

Mačka opažena unutar simulacije stvarna je mačka, ili barem – simova misao ”To je mačka” istinita je. (Warner Bros. Entertainment)

Anti-skeptičke strategije često negiraju, ili ograničavaju, načelo zatvaranja (npr. strategija relevantnih alternativa, kontekstualizam, kondicionalna teorija znanja..), a to radi i Chalmers. Čak i ako jesmo u simulaciji, znamo da postoje mačke, stolovi i drveća. Te su tvrdnje izraz virtualnog realizma – stava da su predmeti koje simovi doživljavaju unutar simulacije stvarni predmeti, a ne iluzije ili fikcije. Simulacijski realizam samo je podvrsta virtualnog realizma, i tvrdi da, ako smo u simulaciji, predmeti našeg iskustva stvarni su predmeti. Mačka opažena unutar simulacije stvarna je mačka, ili barem – simova misao ”To je mačka” istinita je. Mačke (stolovi, drveća…) unutar simulacije u svojoj su biti digitalni predmeti, dijelovi algoritma ili strukture bitova u računalnom programu koji upravlja simulacijom. Nije tako da mačke ne postoje, već je tako da su mačke digitalne.

Dvije su važne komponente ove pozicije: prvo, virtualni predmeti stvarni su, i drugo, virtualni X-ovi stvarni su X-ovi, barem iz perspektive simova u savršenim globalnim simulacijama. Dio da su virtualni X-ovi stvarni X-ovi iz perspektive simova u savršenim globalnim simulacijama treba shvatiti u snažnom, metafizičkom smislu: ne tvrdi se samo da simovi u takvim simulacijama imaju razloga vjerovati da su X-ovi s kojima interagiraju stvarni X-ovi, ali zapravo nisu, već su iluzije. To je ono na što ljudi često misle pod frazom ”To je istina za nekoga” ili ”To je istina iz nečije perspektive”. Ne, Chalmers doslovno tvrdi da su za takve simove virtualni X-ovi s kojima interagiraju stvarni X-ovi. I ne, to nije metafizički relativizam – nije tako da nema objektivne razlike između posve bioloških mačaka i posve virtualnih mačaka – stvarnost je posve određena. Teza da u simulaciji mačke postoje posljedica je određenih metafizičkih stavova o naravi fizičkih svojstava, ali i stavova o naravi jezika i misli, i načina na koji se uspostavlja referencija na vanjski svijet.

Putnam je tvrdio da mozak u posudi ne može koherentno izraziti misao da je mozak u posudi. Dakle, ako možemo misliti da smo mozgovi u posudi, onda vjerojatno nismo. (DBA)

Hilary Putnam tvrdio je da je skeptička hipoteza mozgova u posudi smislena, u semantičkom smislu ”smisla”, jedino ako nismo mozgovi u posudi (Putnam 1981). Naime, ako nismo ljudi koji interagiraju s fizičkim svijetom, već mozgovi u posudama koje računalo podražuje, naše upotrebe termina ”mozak” i ”posuda” neće referirati na mozgove i posude, već na nešto drugo, npr. na uzorke električnih impulsa, ili slijedove određenih iskustava. To je zato što termini referiraju na one predmete s kojima su uzročno povezani, na način da ti predmeti uzrokuju iskustva u subjekata, i subjekti onda primjenjuju taj termin na taj predmet. Budući da mozak u posudi ne interagira s mozgovima i posudama, on ne može uopće koherentno izraziti misao da je mozak u posudi. Dakle, ako jesmo mozgovi u posudi, ne možemo misliti da smo mozgovi u posudi; a ako možemo to misliti, onda nismo mozgovi u posudi.

Ovakav se pristup značenju i sadržaju misli u filozofiji naziva eksternalizmom – ideja je da svojstva okoline, čak i ona koja su nam kognitivno nedostupna, bitno određuju značenje termina koje koristimo i sadržaj misli koje možemo misliti. Mozak u posudi ne misli zapravo o mozgovima i posudama, zato jer nikad ne stoji u prikladnim uzročnim vezama s mozgovima i posudama, čitavo njegovo iskustvo određeno je računalnim programom i žicama. Chalmers ističe da, makar ima mnogo istine u eksternalističkom viđenju jezika i misli, njegova teza da mačke postoje u simulaciji ne počiva na eksternalizmu, već na strukturalizmu. Međutim, prilično je jasno da njegova pozicija ima i snažnu eksternalističku komponentu (npr. čitavo poglavlje 20).

Jedan način na koji se može shvatiti zašto bi netko mislio da u savršenoj, cjeloživotnoj simulaciji, mačke postoje jest činjenica da je u takvoj situaciji simova rečenica ”Mačke postoje” istinita. Istinita je zato što njegov termin ”mačka” referira na onaj predmet koji u njegovom iskustvu igra ulogu mačke – predmet koji u njemu uzrokuje određena perceptualna iskustva i na kojega sim konzistentno primjenjuje termin ”mačka”. Taj je predmet virtualni predmet – neki skup bitova u računalu koje vrti simulaciju. Ali to ga ne čini nestvarnim. Jasno, ako zauzmemo perspektivu simulatora, bića koja kontroliraju takvu simulaciju, i koja žive u fizičkom, nesimuliranom svijetu, nećemo reći da je ta struktura bitova koja u simu uzrokuje iskustva koja on opisuje terminom ”mačka” zaista mačka. Ali to nije zato što je stvarnost na neki način relativna, i zato što za njega mačke postoje, a za nas ne postoje, ili nešto slično. Radi se naprosto o tome da termin ”mačka” u našoj uporabi ne referira na istu vrstu predmeta na koju referira u simovoj uporabi. Ali obje vrste predmeta, i ona na koju mi referiramo i na koju sim referira, stvarno postoje.

Virtualni predmeti zadovoljavaju uvjete da budu stvarni. David Chalmers.

Chalmers se trudi pokazati da su virtualni predmeti stvarni, i u tu svrhu donosi popis od 5 različitih smislova riječi ”stvarno”, ili 5 uvjeta za stvarnost nečega. Ti su kriteriji: (1) postojanje; (2) uzročna moć; (3) nezavisnost od uma; (4) veridičnost (tj. neiluzornost); (5) izvornost, autentičnost. Virtualni predmeti zadovoljavaju sve, ili skoro sve, kriterije s te liste, s tim da postoje neke razlike ovisno o tipu virtualnog predmeta, točnije, ovisno o tipu virtualne stvarnosti.

Lakši je slučaj savršena globalna simulacija, pa pogledajmo kako predmeti u njoj zadovoljavaju tu listu: (1) postojanje – predmeti koje subjekti doživljavaju u simulaciji zaista postoje, to su digitalni predmeti (dijelovi algoritma, strukture bitova) realizirani u računalu koje pokreće simulaciju; (2) uzročna moć – predmeti je imaju u simulaciji, u stanju su djelovati na druge predmete u simulaciji (npr. virtualna bejzbol palica zaista interagira s virtualnom bejzbol lopticom) i na simove; (3) nezavisnost od uma – predmeti u simulaciji nezavisni su od umova simova, jer postoje neovisno o tome jesu li ih simovi svjesni, neki sim može biti i isključen iz simulacije ili umrijeti, a ti će predmeti nastaviti postojati; (4) veridičnost, ili neiluzornost – to znači da je predmet onakav kakvim se čini, kako izgleda. Recimo, nekome se čini da je ispred njega bijeli stol, je li taj stol stvaran? Ako je stol ispred čovjeka uistinu bijele boje, onda smo skloni reći da je stol kojega čovjek vidi stvaran.

Chalmers priznaje da je to kriterij za koji može izgledati protuintuitivno reći da ga predmeti u simulaciji zadovoljavaju, ali kaže da je to zaista tako. Ako sad opažam neki cvijet, a koji je zapravo digitalni predmet u računalu, i perceptualna je situacija normalna (dakle, tipična za simulaciju), onda taj cvijet jest onakav kakvim mi izgleda. Jer, digitalni cvijet oduvijek je u meni uzrokovao baš takva iskustva, što znači da je upravo to kakvim ga sad vidim ono kako on meni inače izgleda. Jer, što bi značilo reći da je takav digitalni cvijet iluzoran, dok je u situaciji fizičkog svijeta on veridičan, tj. da u situaciji fizičkog cvijeta on izgleda onako kakav i jest? Fizički je cvijet nekakav, ima neku fizičku strukturu koja se može opisati rječnikom biologije, kemije i fizike. To je ono kakav on jest. Osim toga, on u subjektima tipično uzrokuje nekakva iskustva, to je ono kakvim on izgleda.

Njegov opis u rječniku znanosti nije kvalitativno sličan tome kako on izgleda, jer kvalitativno slična mogu biti samo iskustva jedna drugima, a znanstveni opis nije iskustvo. Stoga ne možemo reći da za fizički cvijet biti veridičan znači izgledati slično svome znanstvenome opisu – to je besmisleno. Za fizički cvijet biti veridičan znači: izgledati onako kako takav cvijet (tog znanstvenog opisa) istim subjektima tipično izgleda. A to je nešto što može zadvoljiti i virtualni cvijet, stoga Chalmers zaključuje da će u savršenoj cjeloživotnoj simulaciji mnogi predmeti biti veridični. Posljednji kriterij, (5) izvornost, autentičnost (genuiness), opet je zadovoljen u savršenoj cjeloživotnoj simulaciji. Ovaj kriterij Chalmers pojašjava u terminima originalnosti i kopije – stvarno je ono što je izvorno, autentično, a ne falsfikat ili kopija nečeg drugoga. U savršenoj cjeloživotnoj simulaciji svi cvjetovi koje sam opazio jedini su cvjetovi koji su mi dostupni, i moja riječ ”cvijet” odnosi se na njih, a ne na nešto izvan simulacije. Stoga zadovoljavaju i ovaj kriterij, te se može reći da su stvarni.

Dakle, u savršenoj cjeloživotnoj (globalnoj) simulaciji mačke i stolovi stvarni su, stvarno postoje. I simovima unutar te simulacije moguće je to znati. Upravo zbog toga Chalmers misli da je važnost takvog scenarija u prvom redu metafizička, a ne epistemička. Naime, ukoliko smo u savršenoj cjeloživotnoj simulaciji, nije tako da ne znamo ništa o svijetu oko sebe. Većina našeg svakodnevnog i empirijskog znanja sasvim je očuvana, zato što se to znanje odnosi na virtualne predmete u simulaciji. Ono znanje koje dolazi u opasnost filozofsko je i visoko teorijsko znanje, poput znanja sudova ”Nisam u simulaciji”, ”Ovaj predmet na fundamentalnoj je razini fizički, a ne virtualan” i sličnih. To je zato što referencija takvih termina (”simulacija”, ”virtualan”, fundamentalno”) nije tako čvrsto vezana (ili uopće) uz predmete u našoj okolini s kojima interagiramo. To su termini koji se u jezik uvode putem teorijskih i apstraktnih opisa, i imali bi jednako značenje (i referenciju) i u simulaciji i u fizičkom svijetu. Međutim, termini koji se u jezik uvode ostenzijom, pokazivanjem na tipične primjerke te vrste predmeta na koju želimo referirati, krucijalno ovise o naravi predmeta s kojima su uzročno povezani. Zbog toga ”Ovo je cvijet” neće imati isti smisao kad to izreče sim u Matrixu, kao i čovjek u fizičkoj relanosti, dok će ”Sad nisam u simulaciji” imati isti smisao, izrekao to sim ili fizički čovjek u normalnom svijetu. Većina toga što simovi vjeruju o svom svijetu istina je i njihovo znanje nije ugroženo činjenicom da su u simulaciji – unatoč tome što ne mogu znati da nisu u simulaciji.

• Bibliografija

1. Bostrom, Nick (2003) ”Are You Living in a Computer Simulation?”, Philosophical Quarterly, Vol. 53, No. 211, str. 243‐255

2. Chalmers, David (1997) The Conscious Mind, Oxford University Press.

3. Chalmers, David (2022) Reality+: Virtual Worlds and Problems of Philosophy, W. Norton & Company.

4. Moore, George Edward (1962) ”Certainty”, u: Moore, G.E. Philosophical Papers. London: George Allen & Unwin, str. 227-­‐51

5. Putnam, Hilary (1981) ”Brains in a Vat”, u: Reason, Truth, and History, Cambridge University Press, str. 1–21