Intervju – Ted Ćang: Ne bi trebalo da stvaramo digitalne oblike života

Ted Ćang, autor najvizionarskije naučne fantastike našeg vremena, majstorski kreira budućnosti koje nisu samo zasnovane na najnovijim naučnim i tehnološkim saznanjima već postavljaju i duboka alegorijska pitanja o etičkim dilemama vezanim za ljudsku slobodu, volju, svest, život i sreću.

Članica uredničkog tima DISTANCE.media, Dominik Šen (istraživač u oblasti informacionih studija), razgovarala je sa Ćangom o trenutnim i budućim pravcima razvoja veštačke inteligencije (AI) i veštačkog života (ALIFE), nastavljajući da istražuje ove složene teme.

Pored toga što sam dugogodišnji obožavalac vaših romana, istraživač sam u oblasti dizajna interakcije i fokusiram se na odnos između ljudi, mikroba i računara. Danas bih želela da razgovaramo o vašem kreativnom procesu, jeziku i etičkim pitanjima u razvoju AI. Videla sam vašu prezentaciju na konferenciji ALIFE2023, gde ste govorili o obrazovanju „digijenata“ (Virtuelna životna forma koja se pojavljuje u delu. Može da uči jezik i ponašanje, a takođe pokazuje radoznalost i emocionalne izraze), pominjući vaš rad „Životni ciklus softverskih objekata.“ Čula sam vašu kritiku prema lakom antropomorfizmu, koji je čest u tehnološkom kontekstu, naročito kada se radi o AI i virtuelnim likovima. Smatram da je ova tema fascinantna, naročito jer me je dirnula vaša interpretacija Aninog (Ana je glavni lik u “Životnom ciklusu softverskih objekata” koja se bori da obezbedi pravično životno okruženje za digijente koje je odgajila) odnosa prema njenim digijentima. Koja je razlika između Anninog odnosa prema digijentima i manipulativnog antropomorfizma od strane korporacija, koji ste kritikovali?

– Razlika je u tome što digijenti u priči zaista imaju subjektivna iskustva, dok čatbotovi koje danas vidimo to nemaju. To je slično razlici između psa i virtuelnog psa. Ako neko izgladnjuje biološkog psa, on zaista pati. Ako neko „ne nahrani“ virtuelnog psa, virtuelni pas ne oseća ništa. Korporacije možda žele da iskoriste ljudsku emotivnu reakciju na animaciju cvilećeg psa, ali to je samo animacija. Digijenti u mojoj priči su bili sposobni za pravu patnju, i fizičku i emocionalnu, baš kao što su biološki psi. Apsolutno je prikladno da ljudi deluju kako bi smanjili fizičku i emocionalnu patnju životinja, i mislim da bi takođe bilo prikladno da ljudi deluju kako bi smanjili patnju digitalnih organizama. Ali trenutno nemamo ništa slično digitalnim oblicima života. Sve što imamo su animacije i zvučni fajlovi.

Tačno. Dakle, činjenica da je Džeks bio sposoban za fizičku i emocionalnu patnju omogućila je autentičnu povezanost između njega i Anne. Da li bi onda trebalo razmotriti implementaciju patnje u digitalne organizme da bismo izbegli manipulativni korporativni pristup tehnologiji?

– Povezanost koju je Ana imala sa Džeksom (Džeks, digijent koji Ana neguje, jedan je od glavnih protagonista u “Životnom ciklusu softverskih objekata) bila je stvarna kao povezanost vlasnika psa sa psom. Možda je bolja paralela veza koju neki primatolozi imaju sa čimpanzama koje su odgajali. Ne mislim da bi trebalo da stvaramo digitalne oblike života, upravo zato što nam ne treba nova kategorija bića koja su sposobna za patnju.

Razumem. To je važna poruka za IT industriju.

– Mislim da je teoretski moguće da stvorimo digitalne oblike života koji bi mogli da dožive i radost i patnju, ali mislim da je sprečavanje patnje mnogo veći prioritet. Trenutno ljudi uzrokuju ogromnu patnju životinjama, a životinje su napravljene od krvi i mesa, pa je lako videti da pate. Digitalni organizam ne bi bio od krvi i mesa, i mnogi bi ljudi zanemarili njegovu patnju. Zato, ako bismo stvorili digitalne organizme, mislim da bismo im neizbežno prouzrokovali ogromnu patnju.

Na neki način, situacija u kojoj su se Ana i Derek našli je tragedija koju naše društvo treba da izbegne?

– Da budem jasan, ovo je potpuno hipotetičko razmatranje. Problem sa kojim se trenutno suočavamo je da korporacije koriste naše emocionalne reakcije na animacije i zvučne datoteke kako bi od nas izvukle novac. Kao što sam rekao Anilu Setu (Odnosi se na razgovor koji je vođen sa kompjuterskim neuro-naučnikom Anilom Setom na ALIFE2023), to je takođe loše, ali je sasvim drugačiji problem. Iz filozofskog ugla, problem patnje digitalnih organizama je interesantan za mene. Ali iz praktičnog ugla, to neće biti nešto o čemu ćemo brinuti veoma dugo. Dovođenje u pitanje pretpostavke da je više tehnologije uvek bolje

Sledeće bih želela da povežem ovo pitanje sa vašim nedavnim esejom u časopisu The New Yorker i posmatram ga iz praktičnije perspektive. U svom članku ste napisali: „Za tehnološke stručnjake, najteži posao od svih – zadatak koji najviše žele da izbegnu – biće dovođenje u pitanje pretpostavke da je više tehnologije uvek bolje i verovanja da mogu nastaviti kao do sada i da će se sve jednostavno rešiti.“ Mi, istraživači tehnologije, trebalo bi ozbiljno da shvatimo vašu poruku. Ali kako zamišljate poželjan oblik AI agenta kao konsultanta?

– U članku na koji se pozivate, moj fokus je na tome kako široka kategorija tehnologija koje nazivamo AI osnažuje kapital na štetu rada. Pitanje koje me zanima je kako možemo koristiti ove tehnologije da osnažimo rad. Kako bismo mogli da ih iskoristimo za poboljšanje života ljudi koji rade? Nemam dobar odgovor na to.

Rad je drugačija situacija u poređenju sa brigom o digijentima?

– Veoma različita. Postoje načini da se tehnologija koristi kako bi se ljudima kao radnicima oduzela moć, kao i načini da se tehnologija koristi za izvlačenje veće vrednosti od ljudi kao potrošača. Ova druga kategorija obuhvata virtuelne ljubimce ili romantične čatbotove.

Ovo me navodi da mislim da je odluka Blue Gamme da se bavi digijentima na kraju bila greška, ukoliko se to ikada desi u stvarnosti. Veoma zanimljivo. U vezi s tim, kako vidite ulogu, na primer, ChatGPT-a u radnom okruženju?

– Trenutno, ChatGPT nije dovoljno pouzdan da zameni ljude u gotovo bilo čemu. Svakodnevno postoji novi naslov o tome kako je ChatGPT napravio grešku u nekom zadatku. Volimo ideju tehnoloških rešenja, jer obećavaju trenutne rezultate

Da li je moguće da naše društvo razvije tehnologiju koja zaista osnažuje ljude kao radnike? Šta mislite da je potrebno da se pozabavimo ovim pitanjem?

– To je ključno pitanje. Evgenij Morozov je skovao izraz “tehno-rešenjizam” za opisivanje tendencije da se sve posmatra kao problem koji se može rešiti tehnologijom. Jasno je zašto kompanije podržavaju ovu tendenciju, jer je tehnološko rešenje proizvod koji mogu prodati.  Ali šta je sa problemima čije rešenje je prvenstveno političke prirode? Na primer, postoji li tehnologija koja bi pomogla radnicima da se sindikalizuju? Čak i ako takva tehnologija postoji, da li je to proizvod koji neko može profitabilno prodati?

Tačno. To je perspektiva koja je potrebna i koja se može primeniti u našem društvu. Problem tehno-rešenjizma nije samo u poslovnim korporacijama već i u nama, takozvanim potrošačima. Ova tema me podseća na vaše pominjanje ljudske želje (za digitalnim oblicima života ili savršenim jezikom) u vašem razgovoru sa Anilom Setom.

– Da, mi kao potrošači volimo ideju tehnoloških rešenja jer ona obećavaju trenutne rezultate.

Slažem se. Verujem da čitanje naučnofantastičnih narativa poput “Životnog ciklusa softverskih objekata” pomaže da prevaziđemo rešenjizam jer nas uvlači u dileme koje se ne mogu rešiti tehnologijom.

– Društveni problemi ne mogu se rešiti pojedincima koji deluju u izolaciji. Kupovina virtuelne devojke je nešto što usamljeni momak može da uradi sam. Restrukturisanje našeg društva kako bi se smanjila usamljenost nije. Dobra naučna fantastika govori o zamišljanju ne-očiglednih posledica.

Želela sam da saznam kako koristite dva tipa pisanja – naučnu fantastiku i kritičke eseje. S obzirom na to da pravite društvenu satiru i u svojoj fikciji, a vaši eseji su moćni kao i vaše priče, kako razlikujete svoje kritičke eseje od svojih romana? Jesu li međusobno povezani?

– Pisanje eseja je nešto što sam počeo tek nedavno, i još uvek pokušavam da shvatim svoj odnos prema tome.

Razumem. Zamišljala sam da biste neke od tema obrađenih u vašem eseju mogli koristiti za izgradnju novih romana?

– Za mene, motivacija za pisanje fikcije je veoma različita od motivacije za pisanje eseja. U svojoj fikciji, uglavnom pokušavam da ispričam priču i, nadam se, izazovem emocionalni odgovor.

Šta očekujete kao reakciju na svoje eseje?

– Nisam imao konkretna očekivanja. Bilo je iznenađenje za mene što su privukli toliko pažnje.

Kakva vas je reakcija iznenadila?

– Zgrožen sam stvarima koje Silicijumska dolina radi, ali mislim da već postoji mnogo ljudi koji bolje od mene ukazuju na njene nedostatke. Ali ljudi su želeli da me intervjuišu zbog eseja, što nisam očekivao.

Pretpostavljam da je to zato što se uticaj vaših stavova kao pisca naučne fantastike razlikuje od uticaja inženjera ili istraživača. Šta mislite o upotrebi naučne fantastike u akademskim krugovima? Kao predavač, koristim prototipove naučne fantastike i zadatke gde studenti pišu vrlo kratke distopijske priče kako bi razvili kritičku perspektivu. Da li očekujete nešto od akademika i studenata u njihovom čitanju i pisanju naučne fantastike?

– Mislim da dobra naučna fantastika govori o zamišljanju ne-očiglednih posledica. To je korisna veština u mnogim kontekstima. Teodor Sturdžen je rekao da naučna fantastika treba da postavi sledeće pitanje. Lako je postaviti prvo pitanje, ali otkriti sledeće je teško.

Na ALIFE2023 u Saporu, govorili ste o konceptu Savršenog jezika Umberta Eka i ukazali na duboko ukorenjenu težnju za tom vrstom ideje, ali smatrate da je to nedostižan san. Ovaj razgovor me podsetio na Heptapod B u vašoj priči “Pričeo tvog života”, pisani jezik koji koriste heptapodi. Uzimajući u obzir prirodni jezik kao jednu od osnovnih veštačkih komunikacijskih tehnologija, možemo li osmisliti ideju za evoluciju našeg jezika kako bismo postigli bolju povezanost?

– Jezici nisu statični; oni rastu. Svaki jezik ima potencijalno beskonačnu izražajnu moć, tako da nam nije potreban novi jezik da poboljšamo naše međusobne odnose. Vremenom će naša kultura generisati nove ideje i načine za izražavanje tih ideja postojećim jezikom. Sve što nam treba možemo postići jezicima koje već imamo.