Bosta digitalizacija in umetna inteligenca rešili svet?

Na nacionalni televiziji sem si pred kratkim ogledala francosko dokumentarno oddajo V osrčju umetne inteligence*, saj me je zanimalo, ali bo ta res lahko rešila nakopičene težave in nastale krize, ki jih je povzročil, kdo drug kot človek? Umetna inteligenca naj bi bila prihodnost človeštva, programerji pa so previdni in opozarjajo na medijski hrup okoli vseh obljub, ki jih spodbujajo gospodarske koristi. Dokumentarec poskuša pojasniti delovanje umetne inteligence, izzive, s katerimi se spoprijemajo znanstveniki, in etična vprašanja, ki jih poraja njena uporaba.

Kaj je sploh algoritem s katerimi določamo kako naj bi UI delovala?

Algoritem je podrobna serija navodil za izvedbo operacije ali reševanje težave. Pri netehničnem pristopu uporabljamo algoritme pri vsakodnevnih opravilih, kot je recept za peko torte ali priročnik za naredi sam. Tehnično gledano računalniki uporabljajo algoritme za seznam podrobnih navodil za izvedbo operacije. Na primer, za izračun plače zaposlenega računalnik uporablja algoritem. Za izvedbo te naloge je treba v sistem vnesti ustrezne podatke. Z vidika učinkovitosti so različni algoritmi sposobni enostavno in hitro izvesti operacije ali reševanje težav.

Vse lepo in prav, marsikdo misli, da so stroji bolj pošteni in objektivni, da niso zmožni napak ali socialnega vpliva, a se na polni črti motijo. To dokazuje obdelava podatkov iz več kot 100 držav, podjetij in številnih medijev, ki jih je skozi projekt umetnice Sanele Jahić moč videti na razstavi v galeriji Aksiom, v Ljubljani. V letu 2010 je kot štipendistka Ministrstva za kulturo Republike Slovenije končala podiplomski študij mednarodne smeri ”Umetnost v javnem prostoru in nove umetniške strategije” na Bauhaus Univerzi v Weimarju. Kot intermedijska umetnica gradi tehnološko podprte kinetične objekte in naprave. Njena umetniška praksa pogosto vključuje sodelovanje s strokovnjaki za strojništvo, avtomatizacijo, programsko opremo in elektroniko.

Ker ji je to področje domače, si ga je lahko ogledala iz več kotov, objektivno in v želji, da bi našla odgovor na vprašanje, ki sem ga s svojimi besedami zapisala v naslovu. Na razstavi si lahko ogledate in poslušate izjave zaposlenih (iz Amazona), preberete zapiske o uporabi UI v namen nadzora in segregacije posameznih skupin ljudi (glede na barvo kože, materialni status, spol, starost …), kako se družbena omrežja uporabljajo pri zaposlovanju in se s prikritimi prijemi (algoritmi) povečujejo razlike med ljudmi.

Tarče obsežnega digitalnega nadzora in algoritmične optimizacije so tipično »okolja z malo pravicami«, kjer so pričakovanja politične odgovornosti in transparentnosti nizka. Ti prostori se uporabljajo za vpeljavo avtomatizacije procesov in napovedno analitiko, pri čemer krepijo ranljivosti, ki izvirajo iz dolgoletnih socialnih politik, povečujejo neoliberalne neenakosti in pospešujejo različne razsežnosti nekropolitike (izločanja). Čeprav smo pred stotimi leti z velikim upanjem pričakovali razvoj takšne tehnologije, ki bo ljudem lajšala delo ali ga osvobodila avtomatskih, ponavljajočih se operacij, da bomo imeli več prostega časa in da bomo na sploh bolj svobodno živeli, se je zgodilo ravno obratno. Ustvarili smo stroje, ki zdaj ljudem določajo ritem dela in najvišjo možno storilnost ne oziraje se na osnovne človeške potrebe (počitek, malico, odhod na stranišče) in zmožnosti (fizično zmogljivost, starost…). Zakaj se potem čudimo, da je toliko ljudi pod stresom, da niso zadovoljni s svojim življenjem, da izgorevajo in zbolevajo s psihosomatskimi boleznimi? Razstava Pogled od nikoder razkrije srhljivo ozadje UI – za vsemi podatki in algoritmi stoji človek, ki skrit v ozadju na novo kroji svet ne da bi se mi tega zavedali.

Ravno zaradi slepe vere v digitalizacijo procesov, ki jih narekuje EU, postajam skeptična pri njeni učinkovitosti. Spomnimo se tisoč izbrisanih napotnic, še vedno nejasnega števila čakajočih na specialistične preglede, možnosti naročanja prek spleta s postopki, neprijaznimi za starejše in vse tiste, ki niso računalniško pismeni. Čas, ki ga morajo zdravniki (ali sestre) uporabiti za to, da te sisteme nahranijo, gre na škodo pogovora in obravnave pacienta. Kolikokrat ste poklicali na podjetje v katerem se vam oglaša avtomat in vas usmerja na naslednji klic toliko časa, da obupate in odložite telefon? Občutek dobiš, da nas tehnologija ne povezuje kot most temveč je bolj zid za katerim ni nikogar. Ali še bolje, da je ščit za nesposobnosti in napake človeka, saj je vse, kar stroj določi in naredi, za zaposlene in uporabnike gotovo dejstvo. Tako postaja informatik novodobni (nezmotljivi) bog.

Avtorica: Miomira Šegina (miomira.si)

Kolumna avtorice ne odraža nujno stališča uredništva.

*AUTOPSIE D’UNE INTELLIGENCE ARTIFICIELLE / BEHIND ARTIFICIAL INTELLIGENCES / Francija / 2022 / Režija: Jean-Christophe Ribot