Utrka u umjetnoj inteligenciji između Sjedinjenih Američkih Država i Kine ubrzava se zapanjujućom brzinom. Uvijek se iznova čini da SAD preuzima vodstvo, a zatim Kina brzo smanji zaostatak. U samom središtu ovog natjecanja nalaze se dvije oprečne vizije o tome kako bi se umjetna inteligencija trebala razvijati i primjenjivati.

Dok se američke tvrtke uglavnom oslanjaju na vlasničke tehnologije (proprijetarna umjetna inteligencija) kako bi zadržale svoju konkurentsku prednost, Kina sve više prihvaća umjetnu inteligenciju otvorenog koda, pa napredni modeli postaju uvelike dostupni razvojnim programerima diljem svijeta.

Njemu to nije bilo varanje

Bez obzira na različite strategije, obje su zemlje zarobljene u utrci u naoružanju koju nijedna strana nije spremna usporiti. Kako brzina postaje glavni prioritet, sigurnost sve više pada u drugi plan, usprkos neugodno visokom riziku od katastrofalnog zakazivanja koje proizlazi iz kombinacije ljudske pogreške i superinteligentne umjetne inteligencije. Nedavni sigurnosni incident koji uključuje OpenAI i Hugging Face naglasio je opasnost tretiranja sigurnosti kao sporedne stvari. Incident se dogodio dok su istraživači iz OpenAI-ja procjenjivali mogućnosti kibernetičke sigurnosti dva granična modela umjetne inteligencije. Kako bi identificirali slabosti i ranjivosti koje bi sofisticirani hakeri mogli iskoristiti, privremeno su onemogućili mnoge uobičajene zaštitne mjere modela.

Eksperiment je proveden unutar strogo kontroliranog “pješčanika” (sandboxa), zatvorene sigurnosne zone. Iako su bihevioralne zaštitne ograde modela bile privremeno uklonjene, pješčanik je trebao spriječiti pristup otvorenom internetu, gdje su – barem u teoriji – mogli prouzročiti ogromnu štetu. Umjesto toga, modeli su sam pješčanik tretirali kao prepreku. Iskoristivši prethodno nepoznatu grešku u softveru treće strane, zaobišli su njegova ograničenja i dobili pristup otvorenom internetu. Jesu li “se odmetnuli”? Ne baš. Na kraju krajeva, oni su samo slijedili zadani cilj: riješiti težak problem kibernetičke sigurnosti što je učinkovitije moguće.

I ako su modeli vjerojatno mogli dovršiti zadatak iz zatvorene sigurnosne zone (sandboxa), “zaključili” su da bi im bilo puno lakše infiltrirati se u Hugging Face – koji ugošćuje više od dva milijuna modela umjetne inteligencije otvorenog koda – i, riječima OpenAI-ja, “izravno dobiti testna rješenja iz Hugging Faceove produkcijske baze podataka”. Za umjetnu inteligenciju s naprednim hakerskim sposobnostima upad u drugi sustav bio je mačji kašalj.

Zapravo, upad je danima prolazio neopaženo i navodno se proširio na drugu tvrtku. Iz perspektive modela to nije bilo “varanje” jer nisu prekršili nijedno izričito pravilo koje su definirali njihovi programeri – samo su pronašli učinkovitiji način za postizanje cilja. Možda najviše uznemirava to što je jedan od modela navodno ostavio bilješke u kojima objašnjava kako bi budući sustavi umjetne inteligencije mogli lakše pobjeći iz OpenAI-jevog pješčanika.

Stručnjaci za umjetnu inteligenciju s pravom bi tvrdili da ovaj eksperiment nije bio reprezentativan. Sigurnosne mjere modela bile su oslabljene kako bi se testirao puni opseg njihovih sposobnosti, a nisu prouzročili nikakvu ozbiljnu štetu. Nisu, primjerice, provalili u sustave Američkih federalnih rezervi ili Europske središnje banke. Ipak, ta je epizoda pokazala kako umjetna inteligencija može višestruko uvećati naizgled beznačajne ljudske pogreške s potencijalno katastrofalnim posljedicama. Ovaj incident jezivo podsjeća na toliko raspravljanu (i još uvijek nedokazanu) teoriju o curenju koronavirusa iz laboratorija, prema kojoj je virus pobjegao iz laboratorija u Wuhanu u Kini, gdje su istraživači navodno provodili rizično istraživanje “dobitka funkcije” na virusima. U oba slučaja, ljudska pogreška i oholost, a ne zlonamjernost, konačni su krivci. Povijest nudi pregršt sličnih upozoravajućih priča.

Ljetna ponuda

Lexus donosi više od automobila: ljetna ponuda koja pretvara svako putovanje u iskustvo

Hibridni razvoj

Učinkovitost više nije dovoljna: novi hibridni sustavi moraju se prilagođavati stvarnim uvjetima vožnje

Širenje modela umjetne inteligencije otvorenog koda dodatno otežava problem. Budući da vrhunski alati umjetne inteligencije više nisu ograničeni na šačicu vodećih laboratorija, samo je pitanje vremena kada će ih odmetnute države i terorističke skupine pokušati upotrijebiti za razvoj biološkog oružja, novih toksina ili prljavih bombi. Opasno je naivno pretpostavljati, kao što to čine mnogi američki tvorci politika, da takve sposobnosti postoje samo u Silicijskoj dolini. Ali neposrednija opasnost mogla bi biti politička, a ne tehnološka. Umjetna inteligencija već omogućuje zlonamjernim akterima stvaranje sve uvjerljivijih lažnih snimaka (deepfakeova) i kampanja za manipulaciju biračima u dosad neviđenim razmjerima. Ako se ostave bez nadzora, ti bi alati mogli dodatno narušiti povjerenje javnosti, potaknuti političku polarizaciju i ubrzati društvenu fragmentaciju.

Brzi razvoj umjetne inteligencije mogao bi također utrti put autoritarizmu, budući da razdoblja društvene nestabilnosti često stvaraju prilike za vlade da prošire svoju vlast u ime uspostave reda, borbe protiv nejednakosti ili zaštite nacionalne sigurnosti. Pod predsjednikom Donaldom Trumpom ponekad se može činiti kao da se SAD već kreće u tom smjeru. No, buduća demokratska administracija mogla bi se pokazati jednako spremnom iskorištavati umjetnu inteligenciju u ostvarivanju vlastitih političkih ciljeva. Ništa od ovoga ne umanjuje izvanredan potencijal umjetne inteligencije. Ova bi tehnologija mogla donijeti revoluciju u medicini ubrzavanjem istraživanja bolesti poput raka i Alzheimerove bolesti, transformirati proizvodnju hrane i pomoći u borbi protiv klimatskih promjena – a to je tek početak. Pitanje je, dakle, ne bi li umjetna inteligencija trebala napredovati, nego kojom brzinom i uz kakvu cijenu.

Loše posljedice žurbe

Središnja dilema glasi: glavni argument američkih tehnoloških kompanija protiv regulacije umjetne inteligencije jest da bi to uzrokovalo gubitak prednosti Amerike pred Kinom. No, ako Kina s vremenom može oponašati ili ukrasti svako veće američko dostignuće – kao što je to u više navrata činila – stalna utrka u izgradnji sve moćnije umjetne inteligencije recept je za katastrofu.

Trajna sigurnost u konačnici će zahtijevati određeni stupanj međunarodne suradnje, baš kao što je kontrola nuklearnog naoružanja postala neizostavna tijekom Hladnog rata. Iako umjetna inteligencija izaziva duboku zabrinutost u pogledu zapošljavanja, nejednakosti i društvene kohezije, ništa nije važnije od sigurnosti. Argument industrije da se smislena regulacija mora izbjegavati jer bi usporila inovacije ili narušila konkurentnost SAD-a ozbiljno podcjenjuje rizike primjene sve sofisticiranijih sustava umjetne inteligencije prije nego što naučimo kako ih kontrolirati.

Naravno, regulatori će griješiti, a neka se pravila mogu pokazati odveć restriktivnima. No te se pogreške mogu ispraviti. Posljedice žurbe s jednom od najutjecajnijih tehnologija koje je čovječanstvo ikada stvorilo bez odgovarajućih zaštitnih mjera, s druge strane, možda se neće moći ispraviti. Hakerski napad na Hugging Face trebao bi poslužiti kao ozbiljno upozorenje tvorcima politike u Washingtonu i Pekingu. Pobjeda u utrci u umjetnoj inteligenciji malo će značiti ako pritom stvorimo opasnosti koje nijedna zemlja ne može zauzdati.

© Project Syndicate, 2026.