Već nekoliko godina umjetna inteligencija nije tema kojom se bave samo tech geekovina svojim meetupima, već i stručne konferencije u raznim sektorima. Ona je predmet rasprava u televizijskim emisijama, tema na subotnjoj špici i u kvartovskom dućanu.
Stoga nije čudno da je dospjela i u kazalište, i to zahvaljujući autoru i redatelju koji smatra da bi se u kazalištu, kao javnom prostoru, trebale otvarati “teme koje su važne za zajednicu, a ne samo teme koje su estetski zanimljive ili medijski atraktivne”.
On je Borut Šeparović, osnivač i voditelj kultnog Montažstroja, umjetničke organizacije koja u svojem interdisciplinarnom i multimedijalnom radu snažno promiče društvenu odgovornost. Također, Borut već godinama u svom radu obilato koristi suvremenu tehnologiju, a u najnovijim predstavama eksplicitno se bavi umjetnom inteligencijom.
Kazalište je uvijek koristilo tehnologiju svoga vremena
Za njega je tehnologija logičan izbor teme:
Budući da tehnologija danas radikalno mijenja način na koji živimo, komuniciramo, radimo, volimo, pamtimo i politički se organiziramo, sasvim je logično da ona uđe i u kazalište. Ne zato što je kazalište po sebi „tehnološki medij“, nego zato što je tehnologija postala neizbježan okvir naših života.
Borutu je zanimljivo kako medij koji postoji tisućama godina (koji je postao manjinski i zbog tehnoloških promjena) gleda u lice nečem posve novom, a i sam ima dugu povijest odnosa s tehnologijom. Podsjeća da je kazalište uvijek koristilo tehnologiju svoga vremena:
Od najranijih scenskih mehanizama do električne energije pa sve do današnjih multimedijskih i intermedijskih rješenja. Zato kazalište ne vidim kao antitehnološko utočište, nego kao prostor u kojem se ta napetost može razotkriti.
Priča da je za kazalište važno to što je tehnologija postala pristupačnija, pa sad u jednostavnijem obliku može koristiti ono što je nekad bilo rezervirano za velike studije i produkcije, ali sam nije impresioniran mogućnostima, više ga zanima paradoks da intermedijalnost širi granice kazališta i vraća ga njegovoj biti:
Što više tehnologije uvodimo, to jasnije postaje da je srž kazališta još uvijek izvedba ovdje i sada, susret živog čovjeka i publike. Upravo zato mi se čini da je kazalište važno mjesto za razgovor o tehnologiji: ne zato što je najmodernije, nego zato što nas, baš kroz svoj otpor i svoju sporost, tjera da jasnije vidimo što tehnologija s nama radi.
Problem s mlađom publikom u kazalištu nije pitanje pažnje
Kao jedan od problema kazališta često se ističe izostanak mlađe publike, što se obično tumači tezom da su mladima algoritmi oduzeli sposobnost dulje pažnje, pa bi im trebalo servirati nešto kraće i pitomije. Borut se ne slaže s takvim razmišljanjem, već smatra da je problem u samom kazalištu, gdje se nedovoljno ozbiljno razmišlja o tome što je mlađoj publici doista važno i relevantno:
Ti isti mladi ljudi mogu satima biti uronjeni u sadržaj koji ih doista zanima, bilo da je riječ o seriji, glazbi, igri ili nekom drugom iskustvu. Meni se čini da je problem prvenstveno u tome što se često ne nude sadržaji koji imaju realnu vezu s njihovim iskustvom, njihovim jezikom i njihovim osjećajem svijeta.
Dodaje da bi u današnje vrijeme kad nam je pažnja stalno rascjepkana baš „kazališna upotreba vremena“ mogla biti unikatna niša koja nudi ono što nam sve više nedostaje: prisutnost, trajanje i iskustvo koje ne nastaje u feedu, nego u fizičkom susretu.
Kako izvesti tekst koji nije napisao čovjek?
Borutova predstava „Slijepi vode slijepe“ medijski je oglašena kao predstava koju je napisao AI, ali Borut ističe da taj tekst nije nastao bez čovjeka i tako implicitno govori o autorstvu te kreativnom procesu današnjeg doba:
Umjetna inteligencija jest sudjelovala u njegovu nastanku, ali promptove za taj tekst pisali smo Filip Rutić i ja. Dakle, ne dolazi sve iz nekakve autonomne, samorodne svijesti stroja. Čovjek je prisutan od samog početka, već u pitanju koje postavlja, u okviru koji zadaje, u tome što bira, odbacuje, montira i dramaturški organizira.
Dodaje da vrlo važan dio tog projekta čini Čapekov R.U.R., tekst u kojem se prvi put spominje riječ „robot“. Također, Borut priznaje da im se najveći problem pojavio na razini izvedbe:
Kako izvesti tekst čiji ritam nije sasvim ljudski? Kako disati s rečenicom koja je konstruirana drugačije, koja ima drukčiju logiku, drukčiji impuls, drukčiju temperaturu?
Dio tog materijala pretvoren je i u vrlo artificijelan zvučni sloj, uz pomoć sempliranog ljudskog glasa. Glumica Anđela Ramljak u jednom trenutku ima slušalicu u uhu koja joj zadaje koordinate govora i onda nastaje vrlo složen odnos između živog disanja, glumačkog tijela i umjetno proizvedenog zvučnog zapisa njezina vlastitog glasa.
Biološki šum
No, ne gubi li se tim postupkom emocija, koja je glavni sastojak umjetničkog djela? Borut spremno odgovara:
Emocija se samo ne nalazi ondje gdje smo je navikli tražiti. Ona nije u nekoj romantično shvaćenoj inspiraciji autora, nego u napetosti između prompta, strojnog outputa, dramaturške organizacije i glumačke izvedbe. Emociju na kraju ipak nosi izvođač, u ovom slučaju izvođačica i upravo zato taj tekst na sceni prestaje biti puka demonstracija tehnologije i postaje kazališni događaj.
Vezano uz živu izvedbu Borut koristi pojam „biološki šum“, što je za njega razlika između programiranog zapisa, koji je uvijek isti, i živog izvođača, koji je uvijek drugačiji:
Upravo ta razlika, ta sitna nepodudarnost, to odstupanje, taj šum, ono je što mene zanima jer pokazuje da je srž kazališta i dalje u živom susretu, u tijelu koje nije moguće sasvim programirati.
Taj biološki šum nije pogreška sustava. To je znak da je čovjek na sceni još uvijek nešto drugo od svoje slike, svojeg avatara, svog deepfakea ili svoje savršeno reproducirane snimke. I upravo zato mi je važan.
Tehnologija mora imati svrhu
Govoreći o korištenju tehnologije u svojim predstavama, Borut naglašava da tehnologija nije tu da pokaže sebe, tema mora odrediti zašto tehnologija ulazi u predstavu. A povijest korištenja aktualne tehnologije u njegovim radovima zaista je duga:
Još prije dvadesetak godina uvodio sam multimediju u HNK, u „Žudnji“, gdje smo već koristili kamere, projektore i razne vrste kontrasta između žive izvedbe i tehnički posredovane slike. Kasnije je „Mladež bez boga“ vrlo snažno koristila video, digitalnu mrežu, multipliciranje izvođača preko mobitela i igranje videoigara uživo. To je bilo prije pandemijske masovne digitalizacije, a već je otvaralo svijet u kojem su ljudi umnoženi, raspršeni i posredovani ekranima.
Pojasnio je kako u novijim projektima tehnologija sve češće ulazi kao dio same dramaturgije:
U „Jeziku kopačke“ to nije stvar spektakla nego telemetrije, dakle live mjerenja otkucaja srca i svega što nam pokazuje kakav režim nadzora prolaze sportaši. U „Woyzecku“ dron nije bio ukras, nego slika suvremenog bojišta, militariziranog i neprestano nadziranog prostora. U „Solarisu Dva“ deepfake i robot-pas nisu tu zato da pokažu kako smo tehnološki ažurni, nego zato što sama tema traži pitanje dvojnika.
A zašto mu je zanimljiv koncept digitalnog dvojnika? Jer to više nije SF nego društvena infrastruktura, Borut odgovara pa obrazlaže:
Deepfake, face swap, sintetički identiteti, digitalna prisutnost ljudi koji nisu tu, pa i cijela industrija zamjenskih odnosa, od grief botova do AI partnera — sve su to pojave koje duboko zadiru i u privatni život i u politiku i u umjetnost. Ideja da tehnologijom možemo simulirati prisutnost mrtvih, održavati odnose koji su završili ili proizvoditi emocionalne surogate meni je istodobno razumljiva, potresna i politički vrlo simptomatična.
Ako smo spremni kritički razmišljati, nećemo izgubiti ljudskost
Jedno od pitanja koja se u ovom kontekstu nameću je gubimo li svoju ljudskost sve većim oslanjanjem na AI. Borut smatra da nije problem u intenzitetu upotrebe, nego u načinu na koji mu pristupamo:
Ljudi koji su obrazovani, koji razumiju što ti sustavi jesu, što mogu, što ne mogu, i koji zadržavaju kritički odmak, po mom mišljenju ne moraju izgubiti ništa bitno time što će se AI-jem služiti.
Dodaje da taj kritički odmak puno lakše može zauzeti njegova generacija, koja nije od rođenja uronjena u tehnologiju. Iako je zbog AI-ja danas zamućena granica istine i laži, kaže da ne smijemo odustati od napora da razlikujemo stvarno od proizvedenog:
Ono što nam, po mom mišljenju, ostaje kao minimum ljudske odgovornosti jest kritičko mišljenje. Ne čak nužno kao put do neke konačne, čiste istine, nego barem kao način održavanja odnosa sa stvarnošću. To znači uspoređivati, sumnjati, provjeravati, čitati tragove, ne nasjedati na prvu potvrdu vlastite želje ili straha.
Dostupnost je najvažnije etičko pitanje
Kao filozof po obrazovanju i uvijek društveno angažiran, Borut je osobito zainteresiran za etičke i političke implikacije umjetne inteligencije. Teza njegove predstave „Slijepi vode slijepe“ je da smo već odavno postali kmetovi digitalnih korporacija čijem bogaćenju besplatno pridonosimo trenirajući alate koje plaćamo, a ne posjedujemo. Kaže da se boji da će se u korištenju umjetne inteligencije sve više povećavati jaz između elite i svih ostalih:
Neće sva tehnologija biti jednako dostupna svakome. Ono što će imati oni koji posjeduju kapital, računalnu moć i podatke neće biti isto što i ono čime će raspolagati svi ostali. Neki će imati pristup sofisticiranim alatima, boljim modelima, boljim sustavima provjere, boljoj automatizaciji i boljoj zaštiti vlastitih interesa, a drugi neće. I to nije samo tehničko pitanje, nego pitanje pravde.
Ono prema čemu on naginje je open source logika, javna infrastruktura, ideja da barem ključni tehnološki sustavi trebaju biti svima dostupni pod istim uvjetima, kao i, primjerice, zdravstvo. Izdvaja i pitanje kontrole budući da su AI alati svojevrsne crne kutije:
Delegiramo li odluke, procjene i oblike upravljanja sustavima koje ni sami njihovi tvorci ne razumiju do kraja? To je ono što me kod crnih kutija ozbiljno uznemiruje. Ljudi koji rade na tim sustavima često ne mogu s punom sigurnošću predvidjeti što će biti output na određeni input. To je, paradoksalno, u nečemu i vrlo ljudski, jer smo i mi sami crne kutije
Upravo zato što su ti sustavi već počeli preuzimati neke naše obrasce, ne znači da im treba olako prepustiti moć bez političkog i društvenog nadzora.
AI nije politički neutralan
Podsjeća kako to nije sve, već da je u igri i profit:
Bojim se procesa u kojem ideja što bržeg i većeg profita postaje važnija od pitanja što ta tehnologija radi društvu. Ako je jedina logika razvoja ubrzanje, ulaganje, tržišni pritisak i nadmetanje, onda će odgovornost nužno kasniti.
Ističe da u tom trenutku priča postaje geopolitička: strah od tehnološkog zaostajanja, odnos regulacije i inovacije, Europa, Amerika i Kina… A svaki pokušaj rješenja odmah se sudara s kapitalom, državama i globalnim odnosima moći. Priznaje da on sam nema konačne odgovore, ali u jedno je siguran:
Više ne možemo govoriti o umjetnoj inteligenciji kao o neutralnom alatu koji samo treba pravilno koristiti. Moramo govoriti o pristupu, kontroli, raspodjeli koristi, raspodjeli rizika i o tome tko je odgovoran kada sustav pogriješi, diskriminira, zavede ili odlučuje umjesto ljudi.
Tek kad ta pitanja postanu javna i politička, a ne samo tehnička, moći ćemo reći da smo počeli graditi društvene mehanizme odgovornosti dovoljno brzo da prate moć koju tim alatima već dajemo.