Nekolicina milijardera sve više odlučuje koji će nam algoritmi predstaviti koje informacije

Digitalni kolonijalizam, duhovni vampirizam, mentalitet zlatne groznice, pljačka – tim se riječima opisuje trenutačno stanje u svijetu koje je donijela umjetna inteligencija te upozorava na rizike. Što kada se ujedine umjetna inteligencija, kapital i politička moć? Kako nekolicina milijardera sve više odlučuje koji će nam algoritmi predstaviti koje informacije, a koje neće? Na koji način osigurati poštenu igru kako bi inovacija služila ljudima i društvu, a ne obrnuto?

Umjetna inteligencija unosi daleko dramatičnije promjene u svijet knjiga nego što ih je donijela digitalizacija koju je industrija knjige preživjela sa zapanjujućom otpornošću. Otvaraju se velike mogućnosti, ali i rizici, zabrinut je njemački ministar kulture i medija Wolfram Weimer.

- Izdavači mogu stvarati cijele knjige, tekstove, vizualne prikaze, fantastične stvari, samo pritiskom gumba, a algoritmi posebno pametno programiranih računala već rade, često pametnije, složenije, kreativnije i, prije svega, puno, puno brže od navodnog čuda ljudskog mozga. Ne radi se samo o narcističkoj povredi za ljudsku vrstu, još je kontroverznije da rudarenje podataka prodire u samu srž naše slike o sebi, naših misli i osjećaja. Na vampirski način, tvrtke koje se bave umjetnom inteligencijom trenutno isisavaju kreativni potencijal iz bezbrojnih bistrih umova, iskorištavajući njihove ideje i osjećaje, njihovu kreativnost, njihovu viziju.

Time velika kulturna postignuća autonomnih umjetničkih djela, a prije svega knjiga, postaju plijen.

- Tu riječ koristim sasvim namjerno; smatram to duhovnim vampirizmom koji utječe na književnost. Autore koji su se mučili oko svakog retka, čije se cijelo postojanje ponekad vrtjelo oko jedne riječi, koji su ulagali sebe, svoju kreativnu energiju, čak i svoje krize i sumnje - sve to sada postaje veliki bazen iz kojeg se proizvoljno peca, ponekad kako bi se generiralo veliku prodaju, ponekad i u milijardama.

Zavladao je mentalitet zlatne groznice.

- Sam izraz "rudarenje podataka" za mene je eufemizam jer sugerira da su velike tehnološke tvrtke nekakvi digitalni potomci rudarskih tvrtki, kao da imaju licencu za rudarenje i preradu sirovina. Ali to nisu sirovine; to su tekstovi, slike, glazba, filmovi, cjelokupna životna postignuća. I prije svega, nemaju licencu. To je mentalitet zlatne groznice. Ali ono što se događa u podatkovnim centrima od Silicijske doline do Shenzhena je vrlo unosno, industrijski organizirano, tehnološki iznimno impresivno, ali ipak pljačka.

Riječ je o digitalnom kolonijalizmu upozorava.

- Dozvolite mi da otvoreno kažem: američki i kineski tehnološki divovi obučavaju svoje sustave umjetne inteligencije sadržajem i kreativnim rezultatima ovog svijeta. Posljednjih tri do pet godina su to vrlo sustavno, široko i duboko iskorištavali, a nisu nas ništa pitali. Cjelokupne kulture su degradirane na dobavljače sirovina i, zapravo se besramno iskorištavaju. Ja to nazivam digitalnim kolonijalizmom koji više ne bismo smjeli tolerirati.

Njemačka vlada traži rješenja za taj opasan razvoj.

- Zato smo u novoj saveznoj vladi posljednjih tjedana vodili vrlo ozbiljne razgovore s glavnim izvršnim direktorima velikih tehnoloških tvrtki u Berlinu i jasno dali do znanja da više ne želimo ovakvu podjelu rada. Stoga ćemo morati pronaći nove forme za to. Morat ćemo to oporezivati. Predložio sam osnivanje platforme „Soli“ koja bi digitalni namet za velike online platforme koje generiraju prihod od medijskog sadržaja preusmjeravala za potporu lokalnom i regionalnom medijskom krajoliku, osiguravajući novinarsku raznolikost i konkurenciju.

Morat ćemo se time pozabaviti zakonom protiv monopola jer monopole treba razbiti kako bismo održali otvorenom konkurenciju ideja, a i konkurenciju tržišta. I moramo osmisliti propise koji će istinski štititi autorska prava.

Što kada se umjetna inteligencija ujedini s političkom moći? 

- Ovo adresiram tako izravno i jasno jer što ćemo napraviti kad se ta nova koncentrirana moć umjetne inteligencije, koju posjeduju velike tehnološke tvrtke s golemom moći kapitala, udruži s političkom moći? Tada smo im prepušteni na milost i nemilost. Dobili smo mali naznaku u ono što dolazi kada je američki predsjednik, u svom neonacionalističkom zanosu, došao na ideju preimenovanja mora i preimenovao Meksički zaljev u Američki zaljev. Četiri tjedna kasnije, Google je to proveo u djelo. I samom snagom Google Mapsa, kartografija svijeta se promijenila. Nikakav UN više nije mogao intervenirati. To pokazuje što se može dogoditi ako jednostavno pustimo da ovakvi monopoli idu svojim tokom.

Demokracija je ozbiljno ugrožena.

- Živimo u vremenu u kojem je autokracija u usponu, u kojem je naša demokracija ozbiljno ugrožena, u kojem jedna zemlja za drugom postaje žrtvom toga, a ne znamo zašto. I mi u Njemačkoj smo također ugroženi desnim populizmom, koji u biti želi uspostaviti novi autoritarizam. A kada se to udruži s moći umjetne inteligencije i odjecima u digitalnom svijetu, bit će teško braniti demokraciju.

Zato su raznolikost, sloboda govora i misli, autentičnost i umjetnost koji vladaju na Sajmu knjiga u Frankfurtu iznimno važni, poručio je ministar.

Iste brige more i donedavnu predsjednicu Njemačke zajednice nakladnika i knjižara Karin Schmidt-Friderichs. Na sajmu knjiga susreću se i sučeljavaju različiti svjetonazori, vizije, uvidi i iskustva te traže odgovore na bitna pitanja.

- Kako želimo živjeti, kako formiramo svoja mišljenja i na temelju čega želimo donositi važne odluke? U knjigama svijeta, koje su poslagane posvuda po policama, čitatelje ne čekaju samo dobra zabava i eskapizam, već različite vrijednosti, svjetonazori, utopije i distopije. Sve to oblikuje našu percepciju svijeta i stav s kojim ga zatim uređujemo. Svojom ulaznicom za Sajam knjiga u Frankfurtu, posjetitelji biraju raznolikost, otkriće i iskustvo, raspravu i diskurs, a to mi daje hrabrost jer koja bi bila alternativa?

U virtualnom svijetu, naprotiv, demokracija se potkopava.

- U virtualnom svijetu nekolicina milijardera sve više odlučuje koji će nam algoritmi predstaviti koje informacije. To ne čine ni prema pravilima zakona o medijima ni na temelju sadržaja koji su stekli i platili. Ne preuzimaju odgovornost za sadržaj koji objavljuju niti za sadržaj koji ne objavljuju. Pod krinkom napretka, nekoliko tvrtki, a iza njih nekoliko moćnika, osiguralo je moć koja ugrožava, potkopava i narušava demokraciju i mehanizme koji joj leže u temeljima.

Inovacije trebaju služiti ljudima i društvu, a ne obrnuto.

- Njemačka zajednica nakladnika i knjižara, u čije ime ovdje nastupam, predstavlja knjige kao kulturno dobro, poslovanje, slobodu govora i kulturnu raznolikost – i to već 200 godina. Ovi temeljni stupovi demokratskog društva od najveće su nam važnosti i zato smo predani osiguravanju njihove zaštite čak i u doba umjetne inteligencije. Uz kritičnu globalnu situaciju s ratovima i krizama, naše demokratsko društvo postupno se potkopava, osobito umjetnom inteligencijom u rukama neodgovornih, digitalnih oligopola. Kao i svaka revolucionarna tehnologija, umjetna inteligencija, uz sve pozitivne učinke koje ovdje ne želim zanijekati, također nosi rizike. A za nas je očito bitno da inovacija zahtijeva poštenu igru. Inovacija također treba poštenu igru kako bi služila ljudima i društvu, a ne obrnuto. Demokratski se mora odlučiti tko snosi odgovornost za što. Potrebna nam je sveobuhvatna transparentnost u podacima za obuku i algoritmima kako bi rezultati generativne umjetne inteligencije bili razumljivi.

Zajednica zahtijeva pravedne naknade za dostavljene podatke i pojašnjenje zaštite podataka.

- Danas vrlo detaljno znamo koje aditive naši želuci unose s jutarnjim jogurtom, ali uz njih, Instagram, Tik Tok i Telegram bombardiraju nas bez ikakve zaštite potrošača. Svaki tradicionalni medij, bez obzira koliko mali, svaki školski časopis mora djelovati odgovorno u skladu sa Zakonom o medijima, ali glavne platforme odbijaju preuzeti odgovornost za sadržaj koji objavljuju.

Njemački izdavači zahtijevaju oporezivanje velikih platformi.

- Ako velike platforme zarađuju milijarde oglašavanjem, onda se te milijarde moraju oporezivati i u zemljama u kojima ljudi hrane te platforme i zavode se oglašavanjem. Usput, ti bi se porezi tada mogli ponovno upotrijebiti, na primjer, za programe koji promiču čitanje i medijsku pismenost, za programe kontinuiranog obrazovanja, za kulturnu propusnicu i za socijalnu pravdu. Jednostavno si ne smijemo ne priuštiti socijalnu državu.

Tražimo fair play – poručila je na kraju predsjednica Njemačke zajednice nakladnika i knjižara Karin Schmidt-Friderichs.

- Poštena igra ne odnosi se samo na najmanje članove društva. Velike tehnološke tvrtke također se moraju mjeriti time. Ako generativna umjetna inteligencija ima koristi od rezultata kreativnih ljudi, onda i ti kreativni ljudi moraju dobiti svoj pravedni dio kolača. To je jedini način za postizanje održivog suživota.