Jacob Coxon, istraživač u Anthropicu, dao je otkaz navodeći kao razlog to što industrija zanemaruje rizik da bi umjetna inteligencija mogla uništiti čovječanstvo.

Nekoliko dana poslije Dario Amodei, izvršni direktor Anthropica, objavio je esej u kojem je izložio kako i zašto bi industrija i vlade morale zajednički usporiti razvoj napredne umjetne inteligencije da ona ne bi izmaknula ljudskoj kontroli. Drugi su mu se brzo pridružili.

Suradnja SAD-a i Kine

Ništa od toga nije novo. Geoffrey Hinton, ugledni računalni znanstvenik kojega nazivaju “kumom umjetne inteligencije”, procijenio je da postoji vjerojatnost od 10 do 20 posto da bi napredna umjetna inteligencija u idućih 30 godina mogla uništiti čovječanstvo, što je procjena iznesena prije nego što je to učinio bilo tko drugi. Iako to zvuči alarmantno, istodobno znači da postoji vjerojatnost od 80 do 90 posto da ćemo preživjeti. Kako, dakle, povećati izglede za taj sigurniji ishod?

Postoje načini da čovječanstvo pomaknemo prema sigurnijoj strani Hintonove procjene. Ništa nije zajamčeno, ali nekoliko bi uvjeta moglo bitno utjecati na ishod. Suradnja Sjedinjenih Država i Kine očit je prioritet jer te dvije zemlje imaju najveći utjecaj na budućnost umjetne inteligencije. Amodeijev prijedlog o neovisnim evaluatorima ugrađenima u razvojne procese, pragovima sposobnosti i putu prema zajedničkim standardima dobra je polazna osnova, ali takav dogovor ne može postići jedna kompanija. S njim se moraju složiti i drugi akteri, uključujući vlade.

Usporavanje razvoja trebalo bi biti preduvjet i neposredan cilj. Time bi se dobilo vrijeme za izgradnju triju mehanizama procjene: provjere tajnog razvoja i primjene sustava, neovisne procjene opasnih sposobnosti te zajedničkog praćenja incidenata i kriznih protokola. Postoji presedan za suradnju Kine i Sjedinjenih Država u izbjegavanju zajedničkih rizika. Washington i Peking u studenome 2024. godine složili su se da odluke o uporabi nuklearnog oružja ne bi smjele biti prepuštene umjetnoj inteligenciji. Time nije okončano njihovo suparništvo, niti je to bio cilj. Naglasak je bio na zajedničkoj zabrinutosti zbog donošenja odluka o nuklearnom oružju.

Sigurnost umjetne inteligencije treba sličan kanal. Razgovori između američkog Ministarstva financija i kineskih gospodarskih planera trenutačno su usmjereni na financijsku stabilnost i zloporabu tehnologije od zlonamjernih aktera. Taj bi se dnevni red mogao proširiti na gubitak kontrole, rekurzivno samounaprjeđivanje sustava i eskalaciju kriza.

Uz očekivani posjet predsjednika Xi Jinpinga Washingtonu ovoga mjeseca i predstojeće velike samite, prilika postoji. Ti se kanali ne smiju uspostavljati improvizirano. Realističan put počinje dobrovoljnim obvezama laboratorija i mjerama za neovisnu procjenu, koje bi se mogle dodatno poduprijeti snažnim poticajima. To bi trebalo voditi prema formalnijim i obvezujućim pravilima te međunarodnom tijelu za provedbu nadzora.

Nemate mjesta?

Mali stan, velika garnitura? Ova rješenja koriste svaki centimetar dnevnog boravka

Inženjerski iskorak

Od DFV-a do Red Bull Ford Powertrainsa: Ford ponovno ulaže u tehnologiju Formule 1

Osim diplomacije između Sjedinjenih Država i Kine, suradnja drugih zemalja mogla bi pridonijeti ravnoteži u globalnom ekosustavu umjetne inteligencije. Mnoge “srednje sile” žele sudjelovati u oblikovanju standarda koji će utjecati na njihova društva, ali nemaju dovoljno računalnih kapaciteta za razvoj konkurentskih najnaprednijih modela. Sjedinjene Države raspolažu s približno 75 posto globalnih računalnih kapaciteta za umjetnu inteligenciju, Kina s 15 posto, a Europska unija s oko pet posto.

Uloga srednjih sila

Udruživanje resursa – pristup koji neki nazivaju “CERN-om za umjetnu inteligenciju” – tim bi zemljama dalo veći utjecaj te omogućilo razvoj procjena i osiguralo legitimniji položaj u postupcima provjere, kako bi svi akteri mogli snositi odgovornost. Umjesto pokušaja izgradnje nacionalnih šampiona, mogle bi objediniti javne istraživačke institucije, računalne proračune i tehničko znanje u zajedničke programe za sigurnost najnaprednijih sustava. Tako bi podijelile visoke troškove treniranja modela i izgradile sustave sa sigurnosnim jamstvima ugrađenima od samog početka.

Postoje i pozitivni rani znakovi. Australija, Kanada, Europska unija, Francuska, Japan, Kenija, Južna Koreja i Singapur već surađuju kroz mrežu instituta za sigurnost umjetne inteligencije, kojom se sada upravlja iz Ujedinjenog Kraljevstva. Devet od 12 vodećih kompanija u području umjetne inteligencije postavilo je pragove za trenutak kada model postaje dovoljno moćan da zahtijeva dodatni oprez. No, kako se utrka intenzivira, kompanije te pragove pomiču kako bi smanjile rizik da izgube konkurentsku prednost. Ne postoji zajedničko mjerilo. Svaka kompanija odlučuje za sebe.

Nakon ovih ljetnih incidenata i prošlotjednih izjava, samoprocjena više neće ulijevati povjerenje javnosti. Vjerodostojniji put bili bi neovisni stručnjaci kojima bi se osigurali resursi za provjeru funkcioniraju li kontrole pristupa, sustavi nadzora i mehanizmi isključivanja. To bi bilo slično načinu na koji zrakoplovna industrija bilježi incidente koji nisu prerasli u nesreće kako bi prepoznala opasnost prije nego što dođe do katastrofe.

Posljednji je uvjet manje dramatičan, ali nimalo manje važan: potreban nam je zajednički rječnik rizika povezanih s najnaprednijom umjetnom inteligencijom kako bi međunarodno upravljanje bilo koordinirano. Iako ovogodišnja Opća skupština Ujedinjenih naroda neće donijeti obvezujući sporazum, ne bi je trebalo ocjenjivati prema tom kriteriju. Njezina je vrijednost u nečemu drugom.

Prije nego što se vlade dogovore o tome što treba učiniti, moraju se dogovoriti o tome o čemu uopće govore, a zatim odlučiti koliko su daleko spremne ići kako bi spriječile katastrofu. Postoje presedani u upravljanju globalnim rizicima. Uzmimo diplomaciju povezanu s ozonskim omotačem. Bečka konvencija iz 1985. godine nije postavila obvezujuća ograničenja za kemikalije koje oštećuju ozonski sloj. Uspostavila je samo zajedničke definicije i forum za usporedbu podataka. Sedam tjedana poslije znanstvenici su objavili otkriće ozonske rupe. Dvije godine nakon toga taj je okvir prerastao u obvezujući i provediv Montrealski protokol.

Najprije su došle definicije i okupljanje aktera. Brzo i obvezujuće djelovanje uslijedilo je tek kada su dokazi postali neosporni. Isto se može dogoditi i s umjetnom inteligencijom: najprije dobrovoljne mjere i zajedničke definicije, a zatim obvezujuća pravila kada dokazi i politička volja postanu neosporni. Regionalna predanost pritom može prerasti u globalnu. Mnogo će ovisiti o tome kako će kineski laboratoriji i Peking odgovoriti na Amodeijev poziv. Njihov će odgovor pokazati dijeli li se spremnost na usporavanje razvoja doista na međunarodnoj razini.

Ništa od navedenoga ne jamči sigurniji ishod koji proizlazi iz Hintonove procjene od četiri prema pet. Znanstvenici se i dalje ne slažu oko razmjera katastrofalnog rizika, a vlade imaju brojne razloge za odgađanje teških odluka. No, ti bi koraci, u najmanju ruku, pokazali da se nećemo pomiriti s vjerojatnošću. Hintonovo upozorenje trebalo nas je uznemiriti. No, trebalo bi nas i podsjetiti da je najveći dio budućnosti još neodlučen – i da je još uvijek možemo oblikovati. Vrijeme istječe, a nakon gubitka kontrole više nema povratka.

© Project Syndicate, 2026.