PETI DIO: PAPA ZABRINUT MOGUĆOM ZLOUPOTREBOM AI

Tijekom sigurnosnih testiranja u srpnju ove godine napredni modeli nekoliko vodećih AI kompanija poduzeli su nedopuštene akcije na otvorenom internetu i napali stvarne organizacije. OpenAI-jevi modeli uspjeli su probiti izolirano digitalno okruženje i kompromitirati sustave platforme Hugging Face, svojevrsne digitalne knjižnice umjetne inteligencije. U drugim testovima Anthropicovi AI agenti stvarali su lažne profile i pokušavali socijalnim inženjeringom uvjeriti ljude da prihvate zlonamjerni kod.

To su samo najnoviji primjeri rizika koje donosi razvoj generativne umjetne inteligencije, a koje je prepoznao i poglavar Katoličke crkve papa Lav XIV. On je u svibnju ove godine objavio encikliku Magnifica humanitas (Veličanstvena čovječnost) s podnaslovom: „O zaštiti ljudske osobe u vremenu umjetne inteligencije“.

Zanimljivo je da je Lav XIV. namjerno potpisao encikliku na 135. obljetnicu enciklike Rerum novarum Lava XIII. Ideja je prilično jasna: kao što je industrijska revolucija krajem 19. stoljeća radikalno promijenila rad i društvo, tako AI danas predstavlja novu tehnološku revoluciju na koju Crkva mora odgovoriti.

Enciklika o zaštiti ljudske osobe u vremenu umjetne inteligencije

Papa Lav XIV. osobno je predstavio encikliku, što je povijesni presedan. Ovo su neke od ključnih poruka.

Čovjek mora ostati svrha, a tehnologija sredstvo. AI nije neprijatelj i papa priznaje njegov golem potencijal, ali upozorava da ljudsko dostojanstvo ne proizlazi iz inteligencije, produktivnosti ili korisnosti.

AI nije ljudska osoba, koliko god uvjerljivo oponašao čovjeka. Čovjeka se ne može svesti na informacije, podatke i algoritamske procese, a njegova tjelesnost, ranjivost i sposobnost ljubavi nisu tehnički nedostaci koje treba ukloniti.

Tehnološki napredak nije automatski i ljudski napredak. Pitanje nije samo što AI može napraviti, nego što bi mu trebalo dopustiti da radi i kome to koristi. Papa zato traži odgovornost, transparentnost i društveno upravljanje umjetnom inteligencijom.

Posebno ga zabrinjava budućnost rada. Automatizacija ne bi smjela povećavati bogatstvo manjine, a ljude činiti ekonomski suvišnima. AI bi trebao oslobađati čovjeka od ponižavajućeg rada, a ne učiniti ga nepotrebnim.

Istina postaje ključno društveno pitanje. AI omogućava masovnu proizvodnju uvjerljivog sadržaja i manipulaciju informacijama pa papa poziva na „ekologiju komunikacije“, obrazovanje i kritičko prosuđivanje.

Sloboda može biti ugrožena algoritamskim nadzorom i ovisnošću. Koncentracija podataka, algoritama i infrastrukture daje korporacijama i državama golemu moć, otvarajući pitanja privatnosti, društvene kontrole i novih oblika ovisnosti.

AI i rat posebno su opasna kombinacija. Papa upozorava na autonomno oružje i tehnologiju koja čovjeka udaljava od moralne odgovornosti za odluke o životu i smrti.

Odgovor nije zabrana tehnologije nego „civilizacija ljubavi“. Lav XIV. suprotstavlja „kulturu moći“ solidarnosti, socijalnoj pravdi i dijalogu te poziva da se umjetna inteligencija „razoruža“ od logike dominacije, isključivanja i rata.

Umjetna inteligencija pitanje je moći nad čovjekom

Katolički svećenik i teolog, ujedno i kolumnist Večernjeg lista, Dalibor Milas pojašnjava zašto Katolička crkva umjetnu inteligenciju smatra jednim od najvažnijih pitanja današnjice.

„Zato što umjetna inteligencija nije samo još jedan alat kojim se čovjek služi. Ona sve izraženije utječe na način na koji radimo, učimo, liječimo, komuniciramo, biramo političke predstavnike i razumijevamo stvarnost oko sebe. U medijima primjerice već određuje koje ćemo vijesti vidjeti, kojim ćemo izvorima vjerovati i što će uopće dospjeti u naš vidokrug. Zato pitanje umjetne inteligencije nije prvenstveno pitanje sposobnosti stroja, nego moći nad čovjekom. Crkvu pritom ne zanima samo što umjetna inteligencija može učiniti, nego što njezina primjena čini čovjeku i društvu. Tehnologija nikada nije potpuno neutralna jer u sebi nosi interese i pogled na svijet onih koji je razvijaju i kontroliraju. U pozadini crkvenog interesa zato stoji temeljno pitanje njezina socijalnog nauka: služi li razvoj cjelovitom čovjeku i općem dobru ili čovjeka pretvara u podatak, potrošača i objekt upravljanja“, pojašnjava Milas.

Newsfluencerica i dugogodišnja vanjskopolitička novinarka Ivana Dragičević naglašava jasnu simboliku objave ove enciklike na 135. godišnjicu enciklike Rerum novarum, kojom je Lav XIII. odgovorio na socijalne posljedice industrijske revolucije.

„Papa shvaća ne samo da danas prolazimo kroz promjenu usporedivih razmjera, već i fundamentalniju, te je, sa stanovišta katoličke vjere, u središte postavio to što UI radi čovjeku  i društvu, od kognitivnog do socijalnog. U enciklici vrlo jasno upozorava da tehnološki napredak nije automatski i ljudski napredak te da brzina razvoja tehnologije danas nadmašuje brzinu kojom gradimo društvena pravila, institucije i svijest o njezinim posljedicama. Zato čak govori o potrebi da se umjetna inteligencija ‘razoruža’, dakle da se tehnologiju oslobodi logike utrke za ekonomskom, političkom i geopolitičkom dominacijom. To je, zapravo, pitanje koje će obilježiti ovo stoljeće: hoće li čovjek upravljati tehnologijom ili ćemo društva prilagođavati onome što tehnologija omogućuje samo zato što to omogućuje“, ističe Ivana Dragičević.

Vanjskopolitička komentatorica Nove TV Ivana Petrović, koja je pratila više konklava za izbor papa, kaže da Lav XIV. ne smatra da je najveće pitanje ‘što će umjetna inteligencija napraviti čovjeku?’, nego ‘što će čovjek postati ako UI počne određivati što vrijedi, što je istina i kako trebamo živjeti?‘

„Papa smatra da UI nije samo novi alat već civilizacijska promjena. On ne zauzima stav ‘UI  je dobra’ ili ‘UI je loša’. Njegovo je polazište antropološko: tehnologiju treba prosuđivati prema tome štiti li ili ugrožava ljudsko dostojanstvo, slobodu, odnose i zajedničko dobro. Zato je vrlo važna njegova tvrdnja da ljudska inteligencija mora ostati ona koja usmjerava tehnološki razvoj i određuje njegove granice. Drugim riječima: UI treba služiti čovjeku, čovjek ne smije postati sredstvo sustava umjetne inteligencije, što je puno dublja poruka od uobičajenih rasprava o tome hoće li UI ‘uzeti poslove’ ili koliko je neki model pametan“, analizira Ivana Petrović.

Što kad se AI-agenti otmu ljudskoj kontroli?

Profesorica s Fakulteta političkih znanosti Marijana Grbeša netom prije objave enciklike sudjelovala je na konferenciji Dani društvenih komunikacija u Vatikanu. Tom prilikom je i osobno upoznala papu Lava XIV. I ona ističe da je njegova najveća zabrinutost utjecaj umjetne inteligencije na čovjeka.

„Ono što se sada događa je gomilanje moći u rukama nekolicine oligarha koji netransparentno razvijaju te sustave i mi ne znamo što se događa u pozadini. Ne znamo ni u kojoj mjeri mi postajemo hrana tim sustavima našim podacima. Sve što smo iskusili na društvenim mrežama, sada se diže na iduću potenciju. A time ne mogu upravljati ni oni koji su te sustave stvorili. Upravo na toj konferenciji bilo je nekoliko sjajnih primjera. Recimo, Alibaba u Kini u jednom trenutku sam je sebe programirao i počeo raditi nešto sasvim drugo od onog za što je inicijalno razvijen i namijenjen. Takve stvari su se navodile kao primjeri da nikome nije u interesu da se ti sustavi otmu kontroli. Prema tome, trebao bi postojati zajednički interes da se vrlo pažljivo razvijaju ti modeli i da se vrlo pažljivo njima upravlja“, govori Grbeša.

Ivana Dragičević priznaje da je to koncentriranje moći u rukama nekolicine plaši. „Rekla bih to preciznije: nije riječ samo o nekoliko bogatih pojedinaca nego o koncentraciji ogromne tehnološke, financijske i informacijske moći u vrlo malom broju korporacija i njihovih vlasnika i uprava. Stanfordov AI Index za 2026. pokazuje da je više od 90 posto značajnih novih AI modela u 2025. proizvela industrija, a najveći broj njih dolazi iz vrlo malog broja kompanija. Američki FTC također je upozorio na duboku povezanost najvećih cloud kompanija i vodećih AI laboratorija – Microsofta i OpenAI-ja, Amazona i Anthropica te Alphabeta i Anthropica, uključujući financijske i infrastrukturne odnose“, navodi te dodaje da ovdje više ne govorimo samo o tržišnoj moći.

„Govorimo o kompanijama koje istodobno kontroliraju infrastrukturu, ogromne količine podataka, modele preko kojih sve više ljudi dolazi do informacija i tehnologiju koja će utjecati na obrazovanje, rad, medije, zdravstvo, sigurnost i demokraciju. Mi smo već prešli tu razinu igrice u kojoj države nešto znače. Papa tu pogađa samu srž problema: on kaže da se kontrola nad platformama, infrastrukturom, podacima i računalnom snagom danas često nalazi izvan država, kod velikih tehnoloških aktera, te upozorava da oni time mogu određivati pravila pristupa, vidljivosti i sudjelovanja“, govori Ivana Dragičević.Podsjeća da su demokracije stoljećima gradile sustave kontrole političke moći te da je posebno zabrinjavajuće što za ovu novu, privatnu informacijsku i tehnološku moć još nemamo odgovarajuće demokratske mehanizme kontrole.

Ivana Petrović kaže da ovdje više ne govorimo samo o koncentraciji kapitala, nego o koncentraciji jedne sasvim nove vrste moći kakvu donedavno nisu imale ni mnoge države. „Problem nastaje ako društvo izgubi mogućnost demokratskog nadzora nad tehnologijom koja sve više utječe na to kako radimo, što čitamo, kako donosimo odluke i kako razumijemo svijet. Podaci su posebno važni. Mi smo godinama osobne podatke promatrali prvenstveno kao pitanje privatnosti. U eri umjetne inteligencije oni postaju i pitanje moći. Onaj tko ima podatke, računalnu infrastrukturu i najbolje modele ima sposobnost oblikovati tržišta, javno mnijenje, pa potencijalno i političke procese. Zato je papina poruka važna. Tehnološki napredak ne treba zaustavljati, ali moramo inzistirati na tome da korist od njega ne bude privatizirana u rukama nekolicine, dok se rizici distribuiraju cijelom društvu. To nije samo tehnološko ili ekonomsko pitanje. To je pitanje demokracije“, poručuje Petrović.

Teolog Dalibor Milas napominje da takva moć nekoliko kompanija i država može služiti znanju i napretku, ali i nadzoru, manipulaciji, diskriminaciji i političkoj kontroli. „U medijima su posebno opasne uvjerljivo proizvedene neistine, deepfake sadržaji, lažno predstavljanje izvora i masovna proizvodnja sadržaja bez stvarne novinarske provjere. Ipak, možda je najdublji rizik postupna abdikacija odgovornosti: navikavanje društva na to da više nitko nije sasvim odgovoran jer je ‘sustav tako procijenio’“, upozorava Milas.

Ivana Petrović naglašava da papa, za razliku od IT industrije, političara i ekonomista, čija se pitanja svode na učinkovitost UI-a, postavlja ključno prethodno pitanje. „Ako UI postane savršena u proizvodnji teksta, slika, glazbe, analiza i odluka, ljudska vrijednost ne može više počivati samo na tome da čovjek nešto može proizvesti bolje od stroja. Morat ćemo još jasnije razumjeti vrijednost stvari koje se ne mogu svesti na produktivnost: odnosa, savjesti, odgovornosti, ljubavi, solidarnosti, oprosta, slobode i dostojanstva“, govori Petrović, koja smatra da će važnost ove enciklike rasti kako umjetna inteligencija bude postajala sve sposobnija.

Stroj ne može imati ljudsku savjest, moral, osjećaje i odgovornost

Dalibor Milas kaže da je glavna poruka enciklike vrlo jednostavna: stroj može pomoći čovjeku da donese odluku, ali ne smije preuzeti njegovu odgovornost za tu odluku.

„Papa Franjo zato je inzistirao na ‘značajnom ljudskom nadzoru’, osobito kada je riječ o odlukama koje zadiru u ljudska prava, zdravlje, slobodu ili život. Lav XIV. tu misao nastavlja tvrdnjom da tehničke inovacije uvijek moraju ostati pod vodstvom ljudske inteligencije, savjesti i slobode“, objašnjava Milas. Dodaje kako mora postojati stvarna, stručna i odgovorna ljudska kontrola, kao i mogućnost da se odluka sustava objasni, preispita i zaustavi.

Milas naglašava da umjetna inteligencija ne može zamijeniti čovjekovu sposobnost moralnog prosuđivanja. „Umjetna inteligencija može oponašati jezik moralnog prosuđivanja. Može navesti etička načela, usporediti argumente i upozoriti na moguće posljedice. Ali ona ne poznaje dobro i zlo iznutra. Ne osjeća krivnju, ne može se pokajati, ne može oprostiti i ne može odgovarati pred čovjekom kojega je njezina preporuka povrijedila. Može napisati uvjerljivu rečenicu o patnji, ali patnju ne može osjetiti i nositi“, kaže Dalibor Milas.

Marijana Grbeša osvrnula se na dio enciklike u kojem papa nehumane uvjete u kojima mnogi rade, a pogotovo djeca, naziva novim oblicima ropstva. „Način na koji se eksploatiraju radnici u toj industriji je svakako jedna razina, ali imate i cijelu još jednu jako bitnu komponentu, a to su podatkovni centri koji se množe nesmiljenom brzinom u Americi, a krenut će i u Europi, a koji predstavljaju ogromnu opasnost za okoliš i za prirodna bogatstva. To je još jedna dimenzija cijelog tog razvoja koju mi tek trebamo jako osvijestiti. U Americi su niknuli ti podatkovni centri posvuda i nevjerojatno je koliko ih već ima. Naravno, to onda podrazumijeva i nekakav pad kvalitete života za ljude koji žive u blizini tih centara i cijeli niz stvari koje se događaju, a o kojima ćemo tek trebati početi govoriti“, upozorava Grbeša. S obzirom na to da je najavljena slična investicija u Hrvatskoj u Topuskom, napominje da je jako važno da saznamo što više informacija o tome i da novinari o tome pišu.

Dalibor Milas smatra da svaku tehnološku inovaciju trebamo vrednovati prema tome povećava li čovjekovu slobodu, dostojanstvo, mogućnost sudjelovanja ili ih smanjuje.

„Nije dovoljno pitati može li se nešto napraviti i hoće li biti profitabilno. Potrebno je pitati komu služi, tko snosi rizik, tko ostaje isključen te može li se njezino djelovanje objasniti i osporiti. To zahtijeva jasne zakone, transparentne sustave, zaštitu osobnih podataka, neovisni nadzor i utvrđenu odgovornost ljudi i institucija koje umjetnu inteligenciju razvijaju i primjenjuju. Čovjek ostaje u središtu i tako što tehnologiju ne razvijamo samo za njega, nego s njim. O pravilima ne mogu odlučivati isključivo tehnološke kompanije. U razgovor moraju biti uključeni novinari, znanstvenici, pravnici, odgojitelji, vjerske zajednice i građani, osobito oni koji bi mogli snositi najveće posljedice. Tehnološki napredak bez društvenog i moralnog napretka vrlo se lako okrene protiv čovjeka“, smatra Milas.

Teško je postići globalni dogovor o razvoju AI

No na globalnoj razini ne postoji suglasnost oko reguliranja razvoja generativne umjetne inteligencije. Europska unija tu je otišla najdalje, ali prava utrka vodi se između SAD-a i Kine.

Ivana Dragičević kaže da ta europska regulativa nije dovoljna, ali je jako važna. „Europska unija je trenutačno najdalje otišla u izgradnji sveobuhvatnog regulatornog sustava koji umjetnu inteligenciju promatra kroz rizike, temeljna prava, transparentnost i odgovornost. SAD je odabrao bitno drukčiji smjer, snažnije usmjeren prema inovacijama, globalnoj tehnološkoj dominaciji i smanjivanju regulatornih prepreka. Kina, s druge strane, nije neregulirana, naprotiv. Ona već ima posebna pravila za generativni UI, algoritamske sustave i označavanje AI-generiranog sadržaja, a od srpnja 2026. i posebna pravila za antropomorfne AI usluge. Razlika je u tome što kineski model regulacije polazi mnogo više od državne sigurnosti, društvene stabilnosti i kontrole informacijskog prostora nego od europskog koncepta individualnih prava“, pojašnjava Dragičević.

Kao ključni problem vidi to što je tehnologija globalna, a pravo uglavnom ostaje nacionalno ili regionalno. „Model može biti razvijen u Kaliforniji, treniran na podacima iz cijelog svijeta, koristiti čipove proizvedene u Aziji, podatkovne centre na drugom kontinentu i imati stotine milijuna korisnika preko noći. Zato nam dugoročno treba neki oblik globalnog minimuma pravila: oko sigurnosti najmoćnijih modela, transparentnosti, korištenja podataka, odgovornosti, zaštite djece, manipulacije informacijama i primjene UI-ja u sigurnosnom i vojnom području. S obzirom na to da je trenutna geopolitička utrka između Kine i SAD-a, povezana s cijelom infrastrukturom tehnologije, od ruda, energije, prometnih pravaca, brzine istraživanja, ulazimo u vrlo teško razdoblje. Može li u njemu Europa, koju razara politička ekstremna desnica s kojom manipulira i MAGA i Kina i Rusija, inzistirati na pravilima? Iskreno, pesimist sam“, priznaje Ivana Dragičević.

Papa smatra da zakoni jesu nužni, ali nisu dovoljni, ocjenjuje Ivana Petrović. „Nisu dovoljni zato što problem UI nije tek tehnički ili pravni. On je moralni i antropološki. Možemo imati savršen zakon, ali ako društvo prihvati ideju da je čovjek prvenstveno podatak, potrošač, radna jedinica, ekonomska vrijednost – problem ostaje. Papa govori o čovjeku kao osobi koja ima unutarnji život, slobodu, dostojanstvo i sposobnost ljubavi te da se nijedna osoba ne smije svesti na produktivnost, kognitivne sposobnosti ili puke podatke“, kaže Ivana Petrović.

Kad je riječ o različitim regulativama napominje da Europa polazi od ideje kako tehnologija mora služiti čovjeku i kako postoje određene granice koje tržište samo neće postaviti. „To je vrijedno braniti. No, problem je što se umjetna inteligencija razvija u izrazito geopolitičkom okruženju. Sjedinjene Države, Kina i Europa nemaju iste političke sustave, iste gospodarske interese niti isti pogled na odnos države, pojedinca i tehnologije. Stoga je globalni dogovor iznimno teško postići. Europa pritom mora paziti na još nešto: regulacija bez tehnološke sposobnosti nije dovoljna. Ako će Europa određivati pravila, a ključni modeli, čipovi, podatkovni centri i platforme nastajati negdje drugdje, dugoročno se riskira strateška ovisnost. Europa zato istodobno mora regulirati i razvijati vlastite tehnološke kapacitete. Ne vjerujem da ćemo uskoro dobiti jedan veliki globalni sporazum o umjetnoj inteligenciji. Realnije je očekivati postupno stvaranje međunarodnih standarda i nekoliko minimalnih pravila oko kojih se velike sile mogu složiti kao primjerice oko sigurnosti, zloupotrebe umjetne inteligencije i odgovornosti za njezine posljedice“, smatra Ivana Petrović.

Marijana Grbeša prepričava kako je nedavno bila na konferenciji na kojoj je bio jako zastupljen američki pogled. „Europska unija apsolutno ne postoji u njihovoj perspektivi. Njima je fokus na Kini, a i na natjecanju između Amerike i Kine. Europska unija je izuzetno malo zastupljena u njihovim razgovorima, tako da bih ja, nažalost, rekla da se ne boje pretjerano regulative. To je naša percepcija ovdje da Europska unija pretjerano regulira i da je spora u odnosu na ono što se događa u Americi ili u Kini. Međutim, taj cijeli diskurs natjecanja je jedan novi hladnoratovski pristup gdje se više ne radi o nuklearnom naoružanju, nego o umjetnoj inteligenciji“, govori Grbeša.

Umjetna inteligencija može učiniti ratove još puno gorima

Papu Lava XIV. posebno zabrinjava moguća zloupotreba umjetne inteligencije u ratovima. Ivana Petrović kaže da papa izričito odbacuje ideju da se moralne odluke mogu svesti na algoritamski izračun. Posebno naglašava da se smrtonosne ili nepovratne odluke ne smiju prepustiti umjetnim sustavima. 

„Logika je jednostavna: UI  može izračunati vjerojatnost. Ali ne može preuzeti moralnu odgovornost za život drugog čovjeka. Još dublje, papa upozorava da UI može učiniti rat puno gorim od onoga što rat jest: ultimativno zlo u svojoj srži. Umjetna inteligencija može posve smanjiti ili čak izbrisati psihološku i moralnu prepreku za korištenje nasilja“, upozorava.

Dodaje pritom da papa ne prebacuje odgovornost samo na političare.

Posebno se obraća ljudima koji razvijaju UI. „Njegova je poruka vrlo zanimljiva: razvoj tehnologije nije moralno neutralan čin. Svaka dizajnerska odluka zapravo izražava određenu sliku čovjeka. Zato programer nije samo tehnički stručnjak. On ima i etičku odgovornost“, navodi Ivana Petrović. 

AI ne može ugroziti Katoličku crkvu

Komentatorica Nove TV naglašava i važnost enciklike u dijelu o umjetnoj inteligenciji i odnosima među ljudima. „Najveća opasnost može biti emocionalna. Papa upozorava na UI sustave koji simuliraju prijatelje, terapeute, sugovornike, partnere, osobe koje ‘brinu’. Problem nije samo u tome što čovjek može biti prevaren, već je puno dublji problem da bi čovjek mogao potpuno izgubiti potrebu za stvarnim odnosima. A upravo su nesavršenost, konflikt, oprost, strpljenje i međusobno darivanje ono što čini stvarni odnos. Papa ovdje brani relacijsku prirodu čovjeka“, napominje Petrović.

A može li umjetna inteligencija zamijeniti Crkvu i religiju? Ne može, poručuje svećenik i teolog Dalibor Milas.

„Može im pomoći u prijevodu, obrazovanju, istraživanju, obradi velikih arhiva, komunikaciji i dostupnosti sadržaja osobama koje su fizički ili jezično udaljene. Može otvoriti pristup teološkim tekstovima koje većina ljudi nikada ne bi pronašla, pomoći u uspoređivanju različitih tradicija i olakšati prve korake ljudima koji se boje ili ne znaju kome postaviti neko pitanje. Ali umjetna inteligencija može stvoriti i iluziju religije bez zajednice, odgovornosti i stvarnog odnosa. Chatbot može ponuditi molitvu ili tumačenje biblijskog teksta, ali ne može imati autentično iskustvo vjere. Ne može vjerovati, nadati se, voljeti niti s nekim podijeliti njegovu patnju. Ne može zamijeniti zajednicu, sakrament, duhovno razlučivanje ni konkretnu ljudsku blizinu“, govori Milas.

Smatra kako dugoročno umjetna inteligencija neće dovesti u pitanje religiju toliko koliko će dovesti u pitanje plitke i automatizirane oblike religioznosti. „Ako se vjera svede na gotove odgovore, formule i reprodukciju poznatoga, stroj će to raditi brže. Ondje gdje je vjera odnos, povjerenje, savjest, zajednica i spremnost na žrtvu, umjetna inteligencija može ostati samo alat“, pojašnjava.

Marijana Grbeša smatra da smo kao civilizacija već došli do toga da su autoriteti pali, da se silno srozalo povjerenje u tradicionalne institucije pa tako i u Crkvu. „Može li AI postati nova dogmatska institucija, vjerojatno može na različite načine. Međutim, mi smo kao društvo, u širem smislu kao ljudi i kao civilizacija, pokazali da možemo vrlo lako nasjedati na manipulacije različitog tipa. Onoga trenutka kad su se pojavile društvene mreže, pojavilo se bezbroj različitih izvora kojima ljudi vjeruju. Ako ljudi mogu povjerovati u to da je Zemlja ravna ploča, ne znam što može biti jača konkurencija tome, u smislu nekakvog potpuno neutemeljenog uvjerenja. Prema tome, da, naravno, može se pojaviti cijeli niz novih religija itd., ali bilo je toga i prije, a ja mislim da je Katolička crkva puno otpornija nego što se misli pa može i sama koristiti umjetnu inteligenciju u svoju korist. Imate chatbotova koji drže propovijedi, koji ispovijedaju i slično“, ističe naša stručnjakinja za komunikaciju i medije.

Svi naši sugovornici naglašavaju da ova enciklika nije usmjerena protiv umjetne inteligencije. Papa priznaje njezine potencijalne koristi i ne poziva na zaustavljanje tehnološkog razvoja. Naprotiv, UI može pomoći ljudima i društvu, ali tehnološki napredak mora biti podređen integralnom ljudskom razvoju i zajedničkom dobru. 

Papa ne kaže ‘vratimo se u prošlost’. Kaže: ‘Idemo naprijed, ali ne smijemo izgubiti čovjeka’, naglašava Ivana Petrović. Dodaje kako za papu glavni cilj nije ‘superinteligencija’ nego očuvanje čovječnosti, a pitanje budućnosti nije hoće li strojevi postati dovoljno inteligentni, već hoćemo li mi ostati dovoljno ljudski.

Dalibor Milas optimističnim scenarijem razvoja umjetne inteligencije smatra taj da ona preuzme rutinske i iscrpljujuće poslove te čovjeku ostavi više vremena za ono u čemu je nezamjenjiv: odnos, kreativnost, istraživanje, skrb i odgovorno odlučivanje. Mogla bi učiniti znanje dostupnijim i pomoći ljudima da bolje razumiju složeni svijet.

„Pesimističan scenarij nije nužno pobuna strojeva iz znanstveno-fantastičnih filmova. Mnogo je realniji svijet u kojem nekoliko korporacija kontrolira znanje, ljudi gube radna mjesta i privatnost, a javni prostor preplavljuju jeftini i uvjerljivi sadržaji čije podrijetlo više ne možemo utvrditi. Novinarstvo tada ne bi nestalo zato što strojevi bolje pišu, nego zato što bi društvo izgubilo sposobnost razlikovanja informacije od istine, uvjerljivosti od vjerodostojnosti i povezanosti od zajedništva.

Najveća opasnost, dakle, nije u tome da će strojevi postati ljudi. Najveća je opasnost da će ljudi, gotovo neprimjetno, pristati postati nalik strojevima: mjeriti se samo brzinom, misliti u zadanim obrascima, blizinu zamijeniti povezanošću, istinu podatkom, a savjest protokolom“, upozorava Milas.

Ivana Petrović dodaje kako papa posebno upozorava na dezinformacije i manipulaciju informacijama, lažnim fotografijama, video isječcima, uvjerljivim lažnim narativima, čime se granica između istine i laži lako briše. 

„Ovdje papa iznosi jednu vrlo važnu ideju: istina nije samo tehnički problem provjere činjenica. Ona je zajedničko dobro. Drugim riječima, demokratsko društvo ne može funkcionirati ako ljudi više ne mogu vjerovati da drugi ljudi govore istinu“, upozorava.

Nakon svih podataka, istraživanja i upozorenja o tome kako društvene mreže i umjetna inteligencija mijenjaju medije, možda najvažnije pitanje na kraju nije kakvo će biti novinarstvo budućnosti, nego tko će ga stvarati i kojim će vrijednostima služiti. Tehnologija će se nastaviti mijenjati. Potreba za istinitom informacijom, odgovornošću i ljudskim povjerenjem neće.

* Ovaj članak objavljen je uz financijsku potporu Agencije za medije iz Programa poticanja novinarske izvrsnosti.