E sad, da odmah razjasnim jednu stvar. Ovaj tekst nije klasičan pregled jednog članka. Ja sam pročitao ono što sam pročitao, razmislio, provjerio par stvari koje su mi smrdile na pola, i onda sjeo da napišem šta zapravo mislim o cijeloj priči.

Tema je, ukratko, sljedeća: države, prije svega u Evropi, ali ne samo tamo, polako uvode zakone koji bi trebalo da “zaštite” građane od lažnih informacija, dezinformacija, štetnog sadržaja i, u posljednje vrijeme, od sadržaja koji generiše vještačka inteligencija. Zvuči razumno. Zvuči roditeljski. Zvuči kao nešto što bi svaka razumna osoba podržala.

A onda, kad malo bolje pogledaš, shvatiš da ispod te priče leži nešto mnogo ozbiljnije.

Zagrada koja ne izgleda kao zagrada

Kad kažem “zagrada”, ne mislim na zagradu u klasičnom smislu, na nekog ko sjedi u nekom ministarstvu i cenzuriše sadržaj ručno. Danas je cenzura, ako je tako uopšte zovemo, automatizovana. Algoritmi, obavezni sistemi moderacije, filteri, naljepnice upozorenja, uklanjanje sadržaja prije nego što uopšte postane vidljivo, takozvano shadowbanning, sve su to danas legitimna sredstva “zaštite javnosti”.

Problem nastaje u sekundi kad shvatiš da neko mora da odlui šta je istina, a šta nije. Ko je ta neko? Ko piše pravila? Ko ih kontroliše? Ko odgovara ako pogriješi? I šta se dešava s ljudima koji ostanu s druge strane filtera?

Ja nemam problem s tim da se lažne informacije sankcionišu. Imam ogroman problem s tim kad institucije koje nisu izabrane od strane građana, koje nisu odgovorne javnosti, koje ne prolaze kroz demokratski proces, preuzimaju ulogu nekoga ko odluuje o istini.

To nije zaštita. To je paternalizam.

Vještačka inteligencija kao izgovor

Najzanimljiviji dio cijele priče je to što se vještačka inteligencija koristi kao savršen izgovor za pooštravanje kontrole. Čujemo: “AI generiše lažne slike, lažne video snimke, lažne tekstove. Moramo nešto da uradimo.” I tačno, moramo. Ali hajde da budemo iskreni prema sebi.

Lažne informacije su postojale i prije ChatGPT-ja. Dezinformacije su postojale i prije deepfake tehnologije. Politika manipulacije je stara koliko i sama politika.

Ono što se promijenilo nije to što lažne informacije postoje. Promijenilo se to što je država dobila savršen tehnički izgovor da proširi svoju kontrolu nad onlajn prostorom. I umjesto da se pita kako da edukuje građane, kako da ojača medijsku pismenost, kako da pomogne ljudima da sami razlikuju istinu od laži, država bira lakši put: da kontroliše sadržaj.

A to je, dugorono, najgori mogući put.

Evropa kao laboratorija

Evropska unija je u posljednjih par godina postala neka vrsta regulatorne laboratorije za čitav svijet. GDPR je to pokazao. AI Act je to potvrdio. Digital Services Act i Digital Markets Act su to dodatno učvrstili. Sada se priča i o novim obavezama koje bi mogle nametnuti provajderima usluga, platformama i kompanijama koje razvijaju velike jezičke modele.

Kad čitam te prijedloge, ne mogu se oteti utisku da iza njih stoji ideja da je internet nešto što mora da bude pod kontrolom. Da je sloboda govora lijepa kategorija iz udžbenika, ali da u praksi treba da postoji neko ko će paziti šta se priča.

Problem s tom idejom je jednostavan. Ko god da dobije tu moć, neminovno je zloupotrebljava. Ne mora odmah. Ne mora namjerno. Ali sistemi koji imaju moć cenzure gotovo uvijek s vremenom počnu da je koriste selektivno.

Historija je, ako ništa drugo, prilično jasna po tom pitanju.

Ko plaća cijenu

Ono što me posebno nervira u svim ovim pričama je to što se gotovo nikad ne priča o tome ko zapravo plaća cijenu takvih mjera.

Nisu to velike kompanije. One imaju pravnike, lobiste i novac da se prilagode.

Nisu to ni političari koji su te mjere predložili. Oni su već zaštićeni svojim sistemom.

Cijenu plaćaju obični ljudi. Bloggeri, nezavisni mediji, aktivisti, akademici, umjetnici, svi oni koji nemaju institucionalnu zaštitu, ali imaju mišljenje koje se nekima ne sviđa.

U BiH, gdje živim, to je posebno osjetljivo. Mi imamo dovoljno problema s medijskim slobodama, s političkim pritiscima, s ekonomijom koja tjera ljude da šute. Ako se sada na to doda i zakonski okvir koji kaže da internet treba “regulisati”, to zvuči kao recept za katastrofu.

Ne zato što su Evropljani loši ljudi. Nego zato što se dobre namjere u lošim sistemima pretvaraju u kontrolu.

Druga strana priče

Sad, da budem fer, moram da kažem da postoji i druga strana.

Da, postoje ljudi koji svjesno šire laži. Da, postoje koordinirane kampanje dezinformacija koje ciljaju na ranjive grupe, na izbore, na djecu. Da, postoje sadržaji koji zaista mogu da ugroze nečiji život ili zdravlje.

I da, nešto se mora raditi s tim.

Ali rješenje nije u tome da se uvede centralizovani sistem koji odluuje šta je istina. Rješenje je u edukaciji, u transparentnosti algoritama, u jačanju nezavisnih institucija, u medijskoj pismenosti, u otvorenim podacima, u pravu na prigovor i žalbu.

Rješenje nikad nije u tome da se nekome da monopolska moć nad istinom. Jer čim neko dobije tu moć, istina prestaje da bude ono što jeste, i postaje ono što onaj koji ima moć kaže da jeste.

Šta ostaje nejasno

Ono što meni u svim ovim diskusijama posebno nedostaje jeste sljedeće:

Niko ne objašnjava kako će tačno izgledati nezavisna kontrola tih sistema. Ko će kontrolisati kontrolore? Koji sud, koja institucija, koja grupa ljudi će imati moć da kaže: “Ovaj filter je pogrešan, ovaj sadržaj je nepravedno uklonjen, ova odluka je politički motivisana?”

Drugo, niko ne objašnjava kako će se štititi sloboda govora u praksi. Jer zakon može da piše šta god hoće, ali u praksi sve zavisi od toga kako ga provode kompanije i državni organi.

I treće, niko ne objašnjava šta se dešava s državama koje nisu demokratske. Jer ako EU uvede stroga pravila, a Rusija, Kina, Saudijska Arabija ili bilo koja druga autoritarna država to iskoristi kao izgovor da uvede još strožu kontrolu, ko je onda odgovoran?

To su pitanja koja se u javnim debatama gotovo nikad ne čuju. A trebalo bi.

Tehnologija ne može da riješi politički problem

Jedna od najiritantnijih stvari u cijeloj ovoj priči je vjera u to da tehnologija može da riješi politički problem. Da će algoritam, filter, sistem za provjeru činjenica, AI alat, bilo šta automatski riješiti pitanje koje je, u suštini, duboko ljudsko.

Pitanje povjerenja. Pitanje moći. Pitanje odnosa između građanina i države.

Tehnologija može da pomogne, da. Može da ubrza proces, da ukaže na sumnjive obrasce, da pomogne u analizi. Ali ona ne može da zamijeni političku volju, institucionalnu transparentnost i kritičko mišljenje građana.

Ako se mi kao društvo dogovorimo da ne vjerujemo jedni drugima, da ne vjerujemo institucijama, da ne vjerujemo medijima, onda nijedan filter na svijetu neće pomoći.

I obrnuto. Ako imamo društvo koje kritički misli, koje traži izvore, koje postavlja pitanja, onda nam filteri nisu ni potrebni.

Šta ja vidim

Meni lično, cijela ova priča izgleda kao još jedan korak u pravcu koji me iskreno zabrinjava. Ne toliko zbog onoga što se dešava danas, koliko zbog onoga što može da se desi za pet, deset ili petnaest godina.

Zamislite svijet u kojem svaki tekst koji objavite na internetu mora prvo da prođe kroz automatski sistem koji odluuje da li je “prihvatljiv”. Zamislite svijet u kojem vam algoritam odluuje da li vaša riječ dopire do publike. Zamislite svijet u kojem država, direktno ili indirektno, kontroliše šta se smije reći.

To nije budućnost iz nekog distopijskog filma. To je budućnost koja se polako gradi pred našim očima, pod izgovorom zaštite, pod izgovorom sigurnosti, pod izgovorom borbe protiv dezinformacija.

I zato mislim da je važno da o tome pričamo otvoreno. Da postavljamo pitanja. Da budemo skeptični. Da ne prihvatamo svaki zakon kao nužno zlo samo zato što je predstavljen kao “mjera zaštite građana”.

Zaštita građana ne može da bude izgovor za uskraćivanje njihovih prava.

Ako država želi da zaštiti građane od laži, neka počne od sebe. Neka bude transparentna. Neka prizna svoje greške. Neka dozvoli kritiku. Neka prestane da tretira građane kao djecu koja ne znaju šta je dobro za njih.

Jer, na kraju krajeva, građani su ti koji plaćaju porez. Građani su ti koji biraju vlast. Građani su ti koji žive s posljedicama tih odluka.

I građani su ti koji treba da imaju posljednju riječ o tome šta je istina, a šta nije.

Ne algoritam. Ne država. Ne kompanija.

Ljudi.

IZVOR: WriteAs