Slučaj Open AI. Microsoftov izbor između profita i čovječanstva

Neovisni Odbor direktora tvrtke OpenAI imao je zadaću osigurati da umjetna inteligencija bude na korist cijelog čovječanstva, a ako se pokaže opasnom na vrijeme je zaustaviti, piše Ivan Fischer. No spektakularno je posrnuo. Ispada da razvojem sve umjetne inteligencije danas upravlja kapital, bez ikakvih osigurača i zaštitnih ograda.

• Naslovna fotografija: Apstraktna ilustracija umjetne inteligencije koja se oslobađa, koju je izradio model DALL-E 3 OpenAI-ja.

• Autor je izvršni urednik portala Ideje.hr, suradnik Agence France Presse u Hrvatskoj i Hrvatskog radija. Bivši novinar i analitičar Jutarnjeg lista, gdje je duže od desetljeća pratio tehnologiju, znanost i vanjsku politiku.

Sam Altman, najpoznatije lice revolucionarnog uzleta umjetne inteligencije koji je šokirao cijeli svijet u proteklih godinu dana, sjedio je u nedjelju nezadovoljan u predvorju svoje sad već bivše tvrtke. S kiselim izrazom, podijelio je na X-u svoj selfie sa značkom OpenAI-ja na kojoj je pisalo “gost”. “Prvi i zadnji put da nosim jednu od ovih”, napisao je. Ispostavit će se da je bio u pravu, iako je malo nedostajalo da bude u pravu na sasvim drugačiji način nego što je mislio..

Samo dva dana ranije, Altman je bio direktor OpenAI-ja, tvrtke koja je izradila ChatGPT i prije godinu dana ga podijelila sa svijetom. Samo tjedan dana ranije, Altman je bio glavni govornik na DevDayu, velikoj prezentaciji na kojoj je tvrtka izložila svoje planove za budućnost, nove alate i nove proizvode koji će uskoro postati dostupni. Radilo se o onoj vrsti prezentacija po kojima je nekad Apple bio slavan, dok je njime upravljao Steve Jobs – cijeli je tehnološki svijet s nestrpljenjem čekao što će novo predstaviti i najaviti tvrtka koja se trenutačno doima kao vođa u razvoju umjetne inteligencije. Konkurenti su gledali sa strepnjom, korisnici s oduševljenjem, analitičari, investitori i mediji s velikim interesom. Tu će se postavljati trendovi, zadati smjer razvoja u sljedećih godinu dana, dat će se vizija što bi i kako umjetna inteligencija mogla ponuditi u bliskoj budućnosti.

Bila je to prva takva konferencija OpenAI-ja^[1]. Altman je izašao na pozornicu poput zvijezde i ponosno nanizao uspjehe tvrtke u prethodnih godinu dana. “Ima ih puno, ne morate pljeskati svaki put”, našalio se. Objavio da je tjedni broj korisnika ChatGPT-a prešao 100 milijuna, da njihove usluge koristi čak 93% tvrtki s liste Fortune 500. Najavio je i rad na ChatGPT-u 5, najnovijoj i još jačoj verziji tvrtkinog jezičnog generativnog modela, ali i niz drugih promjena koje bi polako mogle pomoći tvrtki da donese veću zaradu, da lakše pokrije svoje operativne troškove.

Vrijednost serverskog vremena i svih drugih računalnih resursa neophodnih da bi svi trenutačni korisnici imali pristup ChatGPT-u procijenjena je na oko 21 milijun dolara mjesečno – iznos koji pretplate na ChatGPT+ ne pokrivaju ni izbliza^[2]. Altman je, jedan od suosnivača i direktor tvrtke, iznimno uspješno osiguravao financiranje: tvrtka si je mogla priuštiti gubiti milijune svaki mjesec, istovremeno još više ulagati u razvoj i plaćati sedamsto sedamdeset zaposlenika, nekih od najbistrijih i najsposobnijih programera, inženjera i znanstvenika na polju umjetne inteligencije.

A onda je stigao poziv. U četvrtak navečer, 16. studenog, Altman je dobio poruku da bi Odbor direktora htio sutradan porazgovarati s njim na brzom online sastanku^[3]. Poziv je bio neobičan ne samo zašto što je i Altman bio član Odbora, već i što poziv nije stigao od predsjednika Odbora, suosnivača Grega Brockmana, već od Ilye Sutskevera, trećeg suosnivača i glavnog znanstvenika tvrtke, čovjeka kojeg mnogi smatraju mozgom iza OpenAI-ja. U petak, točno u podne, Altman se suočio sa Sutskeverom i još troje vanjskih članova Odbora. “Otpušten si”, rekli su mu. “Nemaš više naše povjerenje”. Pola sata kasnije, Ilya je nazvao Brockmana, dotadašnjeg predsjednika Odbora. Objasnio mu je da mu Odbor oduzima njegovo mjesto u Odboru, no da se nadaju da će ostati i dalje raditi za tvrtku kao jedan od njezinih vodećih tehnologa. Puč je bio završen. Sutskever i vanjski članovi Odbora preuzeli su tvrtku. Ili barem se tako činilo.

Suosnivač tvrtke i, po mnogima, mozak iza njezinog uspjeha, Sutskever se okrenuo protiv Altmana i Brockmana. (TED / YouTube)

Krovna tvrtka, OpenAI Inc., registrirana je kao neprofitna organizacija s ciljem razvoja “sigurne i korisne” opće umjetne inteligencije^[4]. Osnovali su je 2015. Sutskever, Brockman i niz drugih inženjera i znanstvenika, zajedno s Elonom Muskom i Samom Altmanom, koji su bili prvi članovi Odbora. Musk je dvije godine kasnije podnio ostavku na mjesto u Odboru, kada je naveo potencijalni budući sukob interesa s obzirom na to da je Tesla radila na razvoju samovozećih vozila pogonjenih umjetnom inteligencijom^[5]. Prema Altmanu, Musk je tada vjerovao da OpenAI kaska za drugim igračima na tržištu, kao što su Google i Facebook, te je pokušao preuzeti tvrtku, što je tadašnji Odbor odbio.

Tvrtka je od početka privlačila najveće umove na polju dubokog učenja i umjetne inteligencije. Brockman je navodno još u prosincu 2015. skupio listu najboljih stručnjaka na tom polju i uspio ih zaposliti čak devetero. Iako su bili neprofitna organizacija, svojim su stručnjacima nudili plaće usporedive s privatnim sektorom – plaće takvih stručnjaka usporedive su s cijenama obećavajućih bekova u američkom nogometu. No, ipak im nisu mogli nuditi ono što su nudili Googleov DeepMind ili Facebook, koji su svojim top zaposlenicima nudili i udjele u tvrtkama. Stoga je Altman osnovao i “ograničenu” profitnu tvrtku, OpenAI Global LLC, kroz koju se zaposlenicima trebala osigurati i nagrada u vrijednosnicama, a koja je trebala zaradu ostvarivati kroz prodaju licenci na svoja otkrića.

Za dio idealista koji su sjedili u Odboru, među koje se ubrajao i Sutskever, radilo se o koraku u krivom smjeru. Sljedeći korak koji su mu zamjerili idealisti i dio stručnjaka koji su pozivali na oprezan i polagan razvoj umjetne inteligencije bilo je partnerstvo s Microsoftom. Čelnik te tvrtke Satya Nadella, jedan od najpodcjenjenijih direktora tehnološkog svijeta, lukavo je 2019. “gurnuo nogu u vrata” tako što je Altmanovoj tvrtki ponudio korištenje prijeko potrebne serverske infrastrukture, i uložio milijardu dolara Microsoftovog novca^[6].

Upravljačka struktura OpenAI-ja. Odbor direktora upravlja neprofitnom matičnom tvrtkom, koji kroz tvrtku-kćer upravlja profitnom podružnicom. (OpenAI)

Za neke od suosnivača, povezane s pokretom učinkovitog altruizma, to je bio korak previše, pa su te godine napustili tvrtku i započeli novu, nazvanu Anthropic^[7]. Upućeni su je pogrdno nazivali tvrtkom “zlogukih proroka umjetne inteligencije”, no dobila je podršku i financije od drugih pripadnika pokreta, poput kripto prevaranta Sama Bankmana-Frieda, čija je Alameda Research uložila oko pola milijarde dolara. Dobili su financije i podršku i od Amazona i od Googlea. Microsoft je, u međuvremenu, ispod radara, uložio daljih 2 milijarde dolara u OpenAI 2021.

Nakon što je OpenAI razvio svoj ChatGPT model i učinio ga javno dostupnim krajem prošle godine, ubrzo je uslijedilo još značajnije partnerstvo s Microsoftom – Nadella je u siječnju ove godine obećao dugogodišnje ulaganje ukupne vrijednosti od 10 milijardi dolara u ovu tvrtku – konkretno, u njezinu profitnu tvrtku-kćer, dok je upravljanje nad krovnom tvrtkom i dalje vodio Odbor direktora koji je slijedio njezinu viziju i misiju razvoja sigurne i korisne opće umjetne inteligencije. Odbor koji je još uvijek vukao korijene iz pokreta – neki ga zovu i kultom – učinkovitog altruizma.

Troje vanjskih članova Odbora – koji nemaju funkcije unutar tvrtke i nisu povezani s njezinim radom – su čelnik Quore Adam D’Angelo, poduzetnica Tasha McCauley (inače supruga glumca Josepha Gordona-Levitta), te Helen Toner, direktorica za strategiju Centra za sigurnost i nadolazeće tehnologije Sveučilišta Georgetown. Svi su povezani s pokretom učinkovitog altruizma i u tehnološkim krugovima ih se smatra osobama koje strahuju od opasnosti koje bi opća umjetna inteligencija mogla donijeti.

Iako ne možemo znati što se dogodilo iza zatvorenih vrata sastanaka na kojima je njih troje sa Sutskeverom raspravljalo o Altmanovim i Brockmanovim grijehovima, nagađanja su brojna – od onog da je Sutskever zaključio da je tvrtka blizu općoj umjetnoj inteligenciji do onog da je ostatku Odbora jednostavno smetala Altmanova komercijalizacija projekta. Prema nekim glasinama, Altman se nalazio s Jonyjem Iveom, bivšim čelnikom dizajna tvrtke Apple, s planom da pokrenu izradu AI gadgeta, “iPhonea umjetne inteligencije”. Prema Bloombergu, bio je zainteresiran za otvaranje postrojenja za dizajn i izradu čipova za umjetnu inteligenciju, za to je financiranje tražio od SoftBanka, kao i investicijskih fondova u vlasništvu Saudijske Arabije i Ujedinjenih Arapskih Emirata^[8]. Reuters je tvrdio kako je nekoliko znanstvenika OpenAI-ja poslalo pismo Odboru samo par dana prije otkaza, u kojem su upozoravali na potencijalno otkriće na polju umjetne inteligencije za koje su tvrdili da bi moglo ugroziti čovječanstvo^[9].

“Vjerujemo da je potrebno novo vodstvo na putu prema naprijed”, stajalo je u priopćenju Odbora. (OpenAI)

Ono što možemo reći sa sigurnošću jest da je Odbor svoju odluku o smjeni Altmana donio samostalno, bez ikakvih konzultacija s ostalim vodećim ljudima tvrtke, te da je cijeli korporativni dio te odluke izveden izrazito neprofesionalno, od načina na koji je predstavljeno Altmanu i Brockmanu, do načina na koji je to predstavljeno drugim zaposlenicima, i, u konačnici, kako je to preneseno investitorima i široj javnosti. Odbor je priopćio kako Altman “nije bio dovoljno iskren” prema njima, te da više “nemaju povjerenje” u njegovu sposobnost vođenja tvrtke^[10]. Imenovana je privremena direktorica, dotadašnja čelnica tehnologije tvrtke Mira Murati, te je također navedeno kako će “u sklopu tranzicije u vodstvu” Brockman napustiti mjesto predsjednika Odbora, no da će ostati na svojem radnom mjestu u tvrtki.

Brockman je isti dan napustio tvrtku. Za Brockmanom i Altmanom su smjesta otišli još troje čelnika pojedinih odjela. Šef operative Brad Lightcap i Murati ostali su kako bi pokušali shvatiti što se dogodilo, no vrlo brzo je bilo jasno da Altman nije prekršio nikakav zakon niti statut organizacije – odluka Odbora bila je čisto osobne prirode.

Satya Nadella, koji nije poznat po izljevima snažnih emocija, bio je izvan sebe od bijesa, tvrde upućeni. Skupina ljudi koji nemaju nikakvu izravnu ulogu u vodećoj AI tvrtki današnjice preko noći je povukla potez koji ne samo što je ugrozio tvrtku, već je srozao i cijenu dionica Microsofta. Tvrtka iz Redmonda svoju je budućnost čvrsto vezala uz OpenAI. Njezinu tražilicu Bing po novom pokreće ChatGPT OpenAI-ja. Njezinu uslugu generiranja slika i crteža isto tako pogoni OpenAI-jev DALL-E 3. Njeni poslovni alati poput Officea počeli su integrirati umjetnu inteligenciju temeljenu na OpenAI sustavima.

Problem je bio što Microsoft, pa tako ni Nadella, nema izravnog utjecaja na odluke koje donosi Odbor OpenAI-ja. Radi se neprofitnoj organizaciji, koja ne odgovara nikakvim dioničarima niti investitorima, i to su uvjeti na koje je Nadella pristao kada im je obećao deset milijardi dolara. No to ne znači da nema neizravnog utjecaja.

Microsoft je danas druga najveća tvrtka na svijetu po tržišnoj vrijednosti, i tek neznatno kaska za Appleom. (companiesmarketcap.com)

Microsoft danas možda nije ona svjetski sveprisutna, ‘seksi’ tvrtka kakva je bila u devedesetim godinama prošlog stoljeća – u medijima su više Apple, Alphabet (Google), Meta (Facebook) i Amazon. No to je zato što Microsoft, kao i sam Nadella, često prolazi ispod radara oko kontroverzi aktualnih u ovom stoljeću. Unatoč tome, tvrtka je pod Nadellom čvrsto osigurala svoju poziciju među “the big five”, i to na drugom mjestu. I sad puše za vrat Appleu^[11]. Teško je znati što su pučisti u OpenAI-ju mislili da će se dogoditi, no očito nisu bili spremni na reakciju Nadelle. Microsoft može tvrtki uskratiti svoje financiranje, što bi je boljelo, no još bi više boljelo kada bi joj uskratila svoje Azure servere u oblaku na kojima se vrte ChatGPT i DALL-E. A postoji i nuklearna opcija.

U subotu je pritisak Microsofta i drugih investitora na Odbor bio toliki da su pozvali Altmana natrag na razgovor. Bili bi ga, kažu, ipak voljni primiti natrag, i sve kolege koji su u međuvremenu otišli za njim. Dok je čekao na sastanak, Altman se slikao u predvorju sa značkom na kojoj piše “gost”. Kao što je i najavio, bit će to zadnji put da je nosi. Altmanov je uvjet za povratak bio jednostavan – cijeli Odbor mora podnijeti ostavku. Kako glasi poznati citat iz “Žice” – “ako napadaš kralja, bolje ti je da ne promašiš”. Još se u subotu navečer činilo da bi se to uistinu i moglo dogoditi, no već je u nedjelju uslijedio novi šok. Odbor je odlučio ustrajati pri svome, i preko noći su imenovali novog privremenog direktora – smijenivši Murati koja je stala na Altmanovu stranu. Za novog je privremenog direktora postavljen Emmet Shear, suosnivač i dotadašnji direktor Twitcha, platforme za prijenos snimki igara uživo, koji do sada nije imao nikakva iskustva s umjetnom inteligencijom, no po svojim je ranijim izjavama iskazao da se smješta u kamp ljudi koji strahuju od potencijalne opasnosti umjetne inteligencije^[12]. Odbor je tako mislio da je riješio svoj problem i raskrstio s Altmanom, odlučili su ignorirati prigovore drugih zaposlenika, investitora i vodećih ljudi industrije i izgurati svoju odluku do kraja. No potom je stigao udarac Satye Nadelle na Twitteru, elegantan završni udarac poljuljanom Odboru.

Već je u nedjelju navečer postalo jasno da, kako god da se kriza završi, pobjednik će biti – Satya Nadella. (Dan Taylor / CC BY 2.0)

Prvo je naglasio kako je Microsoft “i dalje predan svojem partnerstvu s OpenAI-jem”, te da se vesele upoznati Emmeta Sheara i nove vodeće ljude tvrtke. A potom je rekao kako je iznimno uzbuđen što može podijeliti vijest: Sam Altman i Greg Brockman, zajedno s kolegama, prelaze u Microsoft, gdje će voditi novi tim za razvoj napredne umjetne inteligencije. “Veselimo se što prije im pružiti sve resurse koji su im potrebni za uspjeh”, napisao je. Za Microsoft, koji je procijenjen na oko 2,5 bilijuna dolara (2.512 milijardi krajem listopada ove godine), deset milijardi koje su obećali OpenAI-ju je kap u moru. Tvrtka je ove godine potrošila 68,7 milijardi na kupovinu Activision Blizzarda, jednog od većih izdavača video igara, kako bi podigla dugoročnu vrijednost divizije za zabavu^[13].

Najveća vrijednost OpenAI-ja nisu ni dionice ni brand – ona leži u ljudima koji rade u tvrtki. Samo par sati nakon Nadelline objave, upravo su tu tvrdnju zaposlenici OpenAI-ja počeli sinkronizirano dijeliti na X-u. “OpenAI nije ništa bez svojih ljudi”, počeli su masovno objavljivati. Ubrzo se slomio i Sutskever. “Duboko žalim zbog svojeg sudjelovanja u akcijama Odbora. Nikad nisam htio naškoditi OpenAI-ju. Volim sve što smo izgradili zajedno i učinit ću sve što mogu da ponovno ujedinim tvrtku”, napisao je u ponedjeljak.

Potom se pridružio otvorenom pismu koje su zaposlenici poslali Odboru – njih više od 700 od ukupno 770 zaposlenih^[14]. “Iz vaših je poteza očito da niste sposobni nadgledati OpenAI. Nismo u stanju raditi za ili s ljudima kojima nedostaje sposobnosti, prosudbe i brige za našu misiju i zaposlenike. Mi, potpisnici, možemo podnijeti ostavku u OpenAI-ju i pridružiti se novonajavljenoj podružnici Microsofta koju vode Sam Altman i Greg Brockman. Microsoft nam je obećao da postoje mjesta za sve zaposlenike OpenAI-ja u ovoj novoj podružnici ako joj se odlučimo pridružiti”; napisali su. Šah i mat. Pobjednik – Satya Nadella^[15]. Dionica Microsofta skočila je 2,5% odmah nakon objave.

Odbor je kapitulirao. Sam Altman ponovno je imenovan direktorom tvrtke

U utorak navečer, Odbor je kapitulirao. Sam Altman ponovno je imenovan direktorom tvrtke, a McCauley i Toner podnijele su ostavke na svoja mjesta u Odboru. Ostavku je podnio i Sutskever, no on nije napustio tvrtku već je ostao na mjestu glavnog znanstvenika. D’Aangelo je ostao uz objašnjenje kako je potrebno da barem jedan od starih članova ostane radi održavanja kontinuiteta, dok je imenovano dvoje novih članova.

Za novog predsjednika Odbora imenovan je Brett Taylor, veteran Silicijske doline, bivši programer koji je radio na integraciji Google Mapsa, potom kao direktor tehnologije Facebooka, te kao direktor Salesforcea. Taylor je također, vrijedi napomenuti, bio i posljednji predsjednik Odbora Twittera, prije nego što ga je kupio Elon Musk i pretvorio u X.  Uz njega, u Odbor je ušao i ekonomist Larry Summers, bivši ministar financija za mandata Baracka Obame, te bivši čelnik Sveučilišta Harvard^[16].

Kriza u tvrtki je time barem privremeno zaključena, na olakšanje Microsofta, ali i brojnih zaposlenika. Prije nego što je dobio otkaz, Altman je planirao i prodaju dionica profitne podružnice tvrtke, čija je vrijednost bila procijenjena na oko 86 milijardi dolara^[17]. Dio lojalnosti koju su zaposlenici pokazali Altmanu vjerojatno je bio vezan i uz činjenicu da im se uskoro smiješila pristojna isplata, koju je Odbor efektivno torpedirao zajedno s Altmanom. S njegovim povratkom, oživio je i plan nove ponude dionica, a investitori vjeruju da će vrijednost ostati ista kao i prije kaosa na čelu – tri puta veća nego kada je Microsoft ulagao u tvrtku u veljači ove godine^[18].

Prije nego što se osvrnemo na pouku koja bi se iz cijelog slučaja mogla izvući, trebali bi navesti još dva zanimljiva elementa koji su isplivali u medijima nakon završetka cijele drame na vrhu kompanije. Prvi su priče i spekulacije o tome kako je točno došlo do naizgled naprasne odluke o izbacivanju Altmana iz tvrtke koju je osnovao, dok je drugi, povezani element, priča o navodnom novom prijelomnom otkriću za koji je Odbor saznao nedugo prije donošenja svoje odluke.

Nekoliko medija tvrdilo je kako je u pozadini puča bio Altmanov sukob s Helen Toner. (Brookings Institution / CC BY-NC-ND 2.0)

Prema New York Timesu i drugim medijima, odnosi između Altmana i članova Odbora koji su ga izbacili bili su nategnuti već duže vrijeme^[19]. Altman je ušao u izravni sukob s Helen Toner, nakon što je ona u publikaciji Centra za sigurnost i nadolazeće tehnologije Sveučilišta Georgetown kritizirala OpenAI – specifično, tvrtkin rad na očuvanju AI tehnologija sigurnim po ljude i čovječanstvo – dok je istovremeno hvalila napore Anthropica, konkurentske tvrtke koju su osnovali bivši djelatnici OpenAI-ja^[20].

Altman je napao Toner u osobnom razgovoru kojeg je kasnije opisao kolegama u e-mailu – smatrao je da je svojim sudjelovanjem u toj publikaciji učinila štetu tvrtki, pogotovo u trenutku kada se ona nalazi pod istragom Savezne trgovinske komisije SAD-a^[21]. Altman je tada, par dana prije nego što će dobiti otkaz, započeo razgovore s drugim vodećim ljudima tvrtke oko ideje da se Toner ukloni iz Odbora. No, Sutskever je u konačnici stao na njenu stranu i donio prevagu.

U divljoj potrazi za nasljednikom Altmana nakon što ga je Odbor otpustio, Toner i kolege navodno su čak kontaktirali i čelnike Anthropica i pitali bi li preuzeli tu poziciju, te im čak ponudili i spajanje dvije tvrtke – možemo pretpostaviti da su to predstavili kao da je odlaskom Altmana nestao i glavni razlog zašto su uopće otišli iz OpenAI-ja i osnovali konkurentsku tvrtku. Čelnici Anthropica – brat i sestra Daniela i Dario Amodei, koji je u OpenAI-ju bio potpredsjednik za istraživanja – glatko su odbili ponudu Odbora^[22].

Što je točno zabrinulo Sutskevera do točke da odlučio da njegov prijatelj i suosnivač tvrtke mora otići, možemo samo spekulirati, a u medijima je nakon puča izronio pregršt spekulacija. Sutskever je jedan od vodećih evanđelista umjetne opće inteligencije – AGI-ja. Kaže kako je rasprava o ovoj tehnologiji, koja još ne postoji, dobra zato što ljude čini svjesnima budućnosti koju on već shvaća zdravo za gotovo.

“Možete činiti toliko zapanjujućih stvari s AGI-jem”, kazao je za MIT Technology Review u listopadu ove godine, samo par tjedana prije nego što će protjerati Altmana iz tvrtke. “Automatizirati zdravstvo, učiniti ga tisuću puta jeftinijim, izliječiti toliko bolesti, uistinu riješiti globalno zatopljenje…”. U istom razgovoru kazao je i kako vjeruje da su današnje velike neuralne mreže već pomalo svjesne. “Osjećam kao da su ti jezični modeli nalik Boltzmannovom mozgu^[23]. Počnete pričati s njime, neko vrijeme pričate; potom prestanete, a mozak – puf.” Na pitanje znači li to da misli da ima nešto u toj mreži dok je aktivna, dok proizvodi svoje odgovore, Sutskever je rekao kako misli da da. “Ne znam zasigurno, ali to je mogućnost protiv koje je teško argumentirati. Ali tko stvarno zna što se događa, zar ne?”

Pozivajući se na upućene izvore, Reuters tvrdi kako je Altmanovom otkazu prethodilo pismo koje je Odboru uputilo nekoliko znanstvenika iz tvrtke o projektu nazvanom “Q*” (Q-star). Prema neimenovanim izvorima iz tvrtke, Q* mogao bi biti nova prekretnica u potrazi za AGI. Taj je model, koristeći velike računalne resurse, navodno uspio logički rasuđivati – razumjeti i rješavati matematičke zadatke na razini osnovne škole. Možda ne zvuči impresivno u odnosu na druga postignuća suvremenih modela umjetne inteligencije, no ako se pokaže točnim moglo bi se raditi o ozbiljnom napretku: ChatGPT i DALL-E, uz sve svoje impresivne rezultate, u konačnici samo izbacuju statistički relevantne šablone prepoznate u podacima na kojima su trenirani. ChatGPT izbacuje tekst na temelju svih tekstova koje je vidio, DALL-E na temelju svih fotografija, slika, crteža i stripova. Matematički problemi izrazito su teški za umjetne inteligencije. ChatGPT ih pokušava pretvoriti u formule, koje ne zna sam riješiti već se mora oslanjati na vanjske alate, no pretvorba u formule i interpretacija vanjskih rezultata stvara dvije točke probabilistički uvjetovanog prevođenja zbog kojih njegovi rezultati ne mogu biti konzistentni – efektivno on se igra “pokvarenog telefona” s matematičkim sustavima kao što je Wolfram Alpha. Novi model, ako su izvještaji točni, prvi je koji je u stanju izbacivati rezultate na kojima nije treniran – tako reći proizvesti više inteligencije nego što je stavljeno u njega.

“Sada već četiri puta u povijesti OpenAI-ja, zadnji put prije samo par tjedana, dogodilo se da sam bio u sobi kada smo na neki način odgurnuli velo neznanja unazad a granicu otkrivenog unaprijed, i činiti to je profesionalna čast mog života”, kazao je Altman na summitu ekonomske suradnje Azije i Pacifika, samo dan prije nego što će dobiti otkaz.

AGI možda nije iza ugla, ali netko je, možda, prvi put, vidio jasan put do njega

Koliko bi i kako bi takva tehnologija mogla biti opasna po ljude i čovječanstvo, nije jasno, no znanstvenici koji su poslali pismo Odboru izrazili su zabrinutost. AGI možda nije iza ugla, ali netko je, možda, prvi put, vidio jasan put do njega. S druge strane, stručnjaci izvan OpenAI-ja čvrsto vjeruju kako bi Q*, ako radi kako je opisano, bio zanimljiv napredak, no da se predstavljanje njega kao prekretnice ili egzistencijalne prijetnje svodi na novo prenapuhavanje važnosti i potencijalnog utjecaja umjetne inteligencije, koje u konačnici čini više štete od koristi^[24]. Možda je, nagađaju neki, riječ samo o pokušaju uprave ili djelatnika da povrate dio ugleda i povjerenja investitora nakon propalog puča.

Vrijedi ponoviti i da su brojni zaposlenici OpenAI-ja – uključujući i većinu vodstva tvrtke – pobornici učinkovitog altruizma, o kojem su Ideje.hr već pisale. Osnivači tvrtke – Altman, Brockman i Sutskever, ali i Elon Musk, Peter Thiel i drugi koji su prisegnuli financirati neprofitni startup pri njegovom osnivanju 2015. – ugradili su načela učinkovitog altruizma u samu povelju OpenAI-ja. “Naša je misija osigurati da umjetna opća inteligencija – AI sustavi koji su generalno pametniji od ljudi – bude na korist cijelom čovječanstvu”, stoji u povelji. “Predani smo provođenju istraživanja neophodnih kako bi AGI učinili sigurnim, te poticanju širokog prihvaćanja takvih istraživanja diljem AI zajednice”.^[25]

Za učinkovite altruiste, čiji je deklarirani cilj što učinkovitije, na temelju konkretnih znanstvenih spoznaja, postići što veću korist za što veći broj ljudi, prijetnje postojanju čovječanstva veći su prioritet od pomaganja pojedincima ili skupinama potrebitih. A najveća je prijetnja – umjetna inteligencija^[26]. Priča s učinkovitim altruizmom započela je, pojednostavljeno, tako što je William MacAskill poručio onima koji uistinu žele pomoći čovječanstvu da, umjesto da postanu liječnici ili znanstvenici, počnu uspješno zarađivati kako bi imao tko financirati sve te liječnike i znanstvenike koji bi pomogli čovječanstvu^[27]. Kritičari su brzo primijetili kako ta filozofija nudi prikladan alibi bogatašima koji su u stvarnosti samo zainteresirani za zgrtanje novca.

Najveći svjetski problemi, prema portalu organizacije učinkovitog altruizma posvećenom karijerama. (80000hours.org)

No, kako je pokret evoluirao, i kako se glavni prioritet pokreta pomaknuo na zaštitu čovječanstva od potencijalnih opasnosti umjetne inteligencije, tako su danas “karijerama najvećeg utjecaja” prema pokretu proglašene – istraživanje i izrada sustava tehničke sigurnosti umjetne inteligencije, te legislativa i koordinacija sustava umjetne inteligencije^[28]. Pitanje je koliko su i koji broj zaposlenika istinski pobornici učinkovitog altruizma – nedavno zatvoreni Sam Bankman-Fried bio je jedno od vodećih lica tog pokreta, koji je redovito financirao kako sam pokret tako i tvrtke povezane s njim – u Anthropic je uložio čak pola milijarde dolara (na kraju se ispostavilo – tuđeg novca, bez pitanja). Njegov je pad demonstrirao kako je lako deklarirati se kao učinkoviti altruist kako bi se zaradila naklonost javnosti, opravdalo vlastito zarađivanje, te povezalo s brojnim drugim bogatim i utjecajnim ljudima koji pripadaju istom klubu.

Lako je povjerovati da su se oni unutar OpenAI-ja koji istinski vjeruju da je umjetna inteligencija egzistencijalna prijetnja čovječanstvu – a nije ih malo, kao što nije malo ni potencijalnih prijetnji^[29] – zabrinuli zbog novog sustava i poslali uplašeno pismo Odboru, koji ga je iskoristio kao još jedan u nizu argumenata za Altmanovu smjenu. No, ono što su učinili, i sam način na koji su to učinili, demonstrirao je kako je veći problem od umjetne inteligencije – i koji će uvijek ostati veći problem – ljudska priroda.

Dok većina tehnoloških tvrtki – od Alphabeta do Mete – razvija vlastite sustave umjetnih inteligencija, primarno motivirano profitom i stvaranjem dodatne vrijednosti svojim dioničarima, OpenAI je bio zamišljen s ugrađenom kočnicom koja bi trebala zaustaviti umjetnu inteligenciju prije nego što postane opasnost. Upravo je Odbor trebao služiti kao osigurač, kao neprofitno, nepristrano tijelo čija je jedina zadaća bila osigurati da umjetna inteligencija bude sigurna, ili da je ne bude. Kako god sagledamo neuspješnu smjenu Altmana, bez obzira radilo se o opravdanom potezu ili kulminaciji prizemnih ljudskih animoziteta, spektakularno su posrnuli u izvršavanju te svoje zadaće. Možda su i demonstrirali kako je i sama zadaća, onakva kakva je zamišljena, neizvediva.

Ako je OpenAI uistinu na prijelomnoj točki razvoja umjetne opće inteligencije, koja bi mogla biti prijetnja čovječanstvu, Toner i kolege nisu taj razvoj uspjeli zaustaviti, niti bi ga i mogli. Altman i većina zaposlenih jednostavno bi nastavila svoj rad na tome unutar drugih okvira, unutar korporativne strukture Microsofta čija je budućnost već sad usko vezana uz rad OpenAI-ja. Ukoliko su Altmana otpustili zbog lažne uzbune, ili čisto zato jer ga više nisu mogli vidjeti, opet su demonstrirali svoju nekompetentnost – pokrenuli su slijed događaja koji je mogao kulminirati uništavanjem tvrtke bez opravdanog razloga. Odbor tvrtke pokazao se kao opasnost poslovanju, a ne kao jamstvo sigurnosti.

Odlazak starih članova Odbora i imenovanje novih pokazalo je i drugu stvar – da je njegova navodna neovisnost i objektivnost bila čista iluzija. One sekunde kada su njihovi potezi ugrozili tržišnu vrijednost Microsofta i drugih investitora, pokazalo se tko stvarno drži volan u svojim rukama, i za čije interese se razvija umjetna inteligencija, na stranu sav učinkoviti altruizam. Ova je epizoda zorno pokazala da je i OpenAI, uz sve svoje navodne ideale, samo još jedan tržišni igrač u utrci tehnoloških tvrtki – tko će brže, više i lakše profitirati od umjetne inteligencije.

Zaštitne ograde ne postoje. Regulatori nisu spremni. Ne postoje inspekcije i procedure koje bi mogle ustvrditi je li neka umjetna inteligencija samosvjesna, je li pametnija od čovjeka i je li opasnost po čovječanstvo. Sav razvoj umjetne inteligencije na Zemlji pod isključivim je nadzorom samo onih koji ju razvijaju. A razvijaju je u skladu s interesima slobodnog tržišta, a ne interesima cijelog ljudskog roda^[30]. Kao što tvrdi američki pisac Ted Chiang, možda se ne bismo trebali bojati umjetne inteligencije. Možda bismo se trebali bojati kapitalizma^[31].

• Bilješke

^[1] Everything announced at OpenAI’s first developer event, TechCrunch, 7.11.2023.

^[2] ChatGPT could cost over $700,000 per day to operate. Microsoft is reportedly trying to make it cheaper, BusinessInsider, 20.4.2023.

^[3] A timeline of Sam Altman’s firing from OpenAI — and the fallout, TechCrunch, 21.11.2023.

^[4] Our Structure, OpenAI

^[5] Elon Musk, who has sounded the alarm on AI, leaves the organization he co-founded to make it safer, CNBC, 21.2.2018.

^[6] Microsoft’s $13 billion bet on OpenAI carries huge potential along with plenty of uncertainty, CNBC, 8.4.2023.

^[7] OpenAI Is Making Headlines. It’s Also Seeding Talent Across Silicon Valley, The Information, 1.2.2023.

^[8] Altman Sought Billions For Chip Venture Before OpenAI Ouster, Bloomberg, 19.11.2023.

^[9] OpenAI researchers warned board of AI breakthrough ahead of CEO ouster, sources say, Reuters, 23.11.2023.

^[10] OpenAI announces leadership transition, OpenAI, 17.11.2023.

^[11] Apple, Microsoft remain world’s top 2 companies by market cap, Reuters, 1.8.2023.

^[12] Meet Emmett Shear, OpenAI’s ‘Highly Intelligent, Socially Awkward’ Interim CEO, Wired, 20.11.2023.

^[13] Microsoft completes Activision Blizzard acquisition, Call of Duty now part of Xbox, The Verge, 13.10.2023.

^[14] OpenAI Staff Threaten to Quit Unless Board Resigns, Wired, 20.11.2023.

^[15] Microsoft Emerges as the Winner in OpenAI Chaos, Wired, 20.11.2023.

^[16] Sam Altman Returns as OpenAI CEO. Here’s How It Happened, Time, 22.11.2023.

^[17] ChatGPT parent OpenAI seeks $86bn valuation, Financial Times, 19.10.2023.

^[18] Share sale set to test financial impact of OpenAI’s leadership turmoil, Financial Times, 26.11.2023.

^[19] Before Altman’s Ouster, OpenAI’s Board Was Divided and Feuding, The New York Times, 21.11.2023.

^[20] Andrew Imbrie, Owen Daniels, and Helen Toner “Decoding Intentions” (Center for Security and Emerging Technology, October 2023).

^[21] F.T.C. Opens Investigation Into ChatGPT Maker Over Technology’s Potential Harms, The New York Times, 13.7.2023.

^[22] OpenAI’s board approached Anthropic CEO about top job and merger, Reuters, 21.11.2023.

^[23] The Boltzmann brain paradox – Fabio Pacucci, TED-Ed YouTube, 23.8.2022.

^[24] Unpacking the hype around OpenAI’s rumored new Q* model, MIT Technology Review, 27.11.2023.

^[25] Our Charter, OpenAI

^[26] What are the most pressing world problems?, 80000hours.org, May 2023

^[27] Sam Bankman-Fried and the effective altruism delusion, The New Statesman, 3.11.2023.

^[28] The highest-impact career paths our research has identified so far, 80000hours.org, 19.9.2023.

^[29] Trebamo li se bojati novih tehnologija: Povijest straha od umjetne inteligencije, Jutarnji list, 7.8.2023.

^[30] Svijet u kojem živimo uskoro će se dramatično promijeniti: I to ne za koju godinu, već za nekoliko tjedana!, Jutarnji list, 18.2.2023.

^[31] Will A.I. Become the New McKinsey?, The New Yorker, 4.5.2023.