Dionice tehnoloških kompanija povezanih s umjetnom inteligencijom (AI) pale su u ponedjeljak nakon što je izvršni direktor Anthropica Dario Amodei pozvao na usporavanje razvoja najnaprednijih AI sustava, što su podržali i čelnici OpenAI-ja i SpaceX-a Sam Altman i Elon Musk.

Ulagači strahuju da bi sporiji tempo razvoja mogao narušiti visoka očekivanja koja su posljednjih godina snažno podigla vrijednosti kompanija iz AI sektora, dok američki predsjednik Donald Trump upozorava da bi ograničavanje razvoja moglo ugroziti prednost SAD-a nad Kinom u ključnoj tehnološkoj utrci.

Amodeijev prijedlog

Rasprava o sigurnosti umjetne inteligencije intenzivirala se nakon upozorenja istraživača da bi ubrzan razvoj AI modela mogao stvoriti rizike koje industrija neće moći dovoljno brzo nadzirati. Posljedice bi mogle osjetiti kompanije duž cijelog lanca vrijednosti, od proizvođača čipova do podatkovnih centara, piše CNBC. U Aziji su južnokorejski tehnološki divovi SK Hynix i Samsung Electronics zaključili trgovanje s padom većim od šest, odnosno četiri posto. Dionice japanskog SoftBanka, jednog od najvećih ulagača u OpenAI, pale su deset posto.

Negativan trend proširio se i na europska tržišta. Proizvođač opreme za proizvodnju čipova ASML izgubio je više od četiri posto, Nokia je pala oko pet posto, a Infineon Technologies više od šest posto. Niže su bile i dionice kompanija povezanih s razvojem podatkovnih centara, među kojima su Siemens Energy i Schneider Electric. Na američkom tržištu u predtrgovanju su pale dionice proizvođača memorijskih čipova Micron Technologyja, koji je izgubio oko pet posto, dok je Intel pao gotovo šest, a Nvidia više od dva posto. Blagi pad zabilježili su i Microsoft, Amazon i Alphabet.

Izvršni direktor OpenAI-ja Sam Altman u ponedjeljak je u objavi na platformi X podržao uvođenje saveznog okvira za sigurnost najnaprednijih AI sustava, uz jasna pravila za upravljanje rizicima. “Podržavamo savezni okvir koji bi postavio jedinstvene sigurnosne zahtjeve za najnaprednije AI modele”, napisao je Altman na platformi X.

Upozorio je na dva moguća scenarija u kojima bi razvoj umjetne inteligencije mogao krenuti “vrlo loše”. Prvi bi bio gubitak “kontrole nad budućnošću zbog AI-ja”, a drugi koncentraciju prevelike moći u rukama jedne osobe ili kompanije.

Altmanova objava uslijedila je nakon eseja koji je Dario Amodei u subotu objavio na svojim službenim mrežnim stranicama. Izvršni direktor Anthropica u njemu je pozvao AI kompanije na oprezniji tempo razvoja najnaprednijih modela. “Moramo usporiti tempo kojim poboljšavamo sposobnosti AI modela”, napisao je Amodei, upozorivši da umjetna inteligencija posljednjih mjeseci napreduje dramatično brzo. “Ako se taj razvoj ne bude nadzirao, mogao bi nadmašiti našu sposobnost razumijevanja i kontrole tih sustava”, naveo je.

nije znanstvena fantastika

Kuća koja sama zna što trebate: U Zagrebu otvoren centar za pametni dom

Strateško partnerstvo

Hyundai ulazi u Ligu prvaka na pet sezona i otvara novo poglavlje svoje europske priče

U eseju je predstavio i plan u tri koraka. Predložio je da kompanije koje razvijaju najnaprednije AI modele vanjskim evaluatorima omoguće “pristup kakav imaju zaposlenici”, što je, prema njegovim riječima, Anthropic već počeo provoditi. Zatražio je i zajedničke sigurnosne standarde među vodećim AI laboratorijima te veću globalnu koordinaciju kako bi se upravljalo rizicima daljnjeg razvoja tehnologije.

Amodei pritom nije pozvao na zaustavljanje razvoja, nego na oprezniji napredak bez “žrtvovanja komercijalne prednosti ili američkog vodstva u području AI-ja”. Njegov esej izazvao je rijedak konsenzus među čelnicima konkurentskih kompanija.

Nastavak napretka

Altman je rekao da se slaže s Amodeijem kako AI kompanije trebaju “uskladiti tempo razvoja s mogućnostima nadzora”. Dodao je da će isto učiniti i OpenAI. Podršku Amodeijevu prijedlogu dao je i Musk, koji je na platformi X kratko poručio: “Dario je u pravu.”

Altman je pojasnio da usporavanje razvoja ne znači njegovo zaustavljanje. “Kada govorimo o ‘usporavanju’, ne mislimo na ‘zaustavljanje’. Napredak je bio brz i tako će se nastaviti”, napisao je, dodajući da su sigurnosne procjene i nadzor nužni.

Zabrinutost zbog mogućih rizika razvoja AI-ja pojačao je i odlazak Jacoba Coxona iz Anthropica, istraživača u području sigurnosti umjetne inteligencije koji je prije radio i u OpenAI-ju, a koji smatra da se obje kompanije “kockaju s našim životima”. Njegov kolega iz Anthropica Evan Hubinger procijenio je da postoji više od deset posto šanse da bi AI u idućem desetljeću mogao “ubiti sve ljude”. Zoe Gillespie iz investicijske tvrtke RBC Brewin Dolphin upozorila je za CNBC da bi usporavanje AI trenda moglo pritisnuti vrijednosti tehnoloških kompanija. “Rast tržišta dionica u velikoj se mjeri temeljio na AI rastu i povećanju produktivnosti pa bi zaustavljanje tog trenda moglo utjecati na buduće prinose dionica”, rekla je.

Ben Barringer iz Quilter Cheviota smatra da će se razvoj nastaviti, unatoč mogućem usporavanju. “Iako se treniranje modela i njihovo uvođenje može usporiti, izvođenje AI operacija i dalje je područje s manjkom kapaciteta, a potražnja znatno premašuje ponudu”, poručio je. Kina se usprotivila pozivima na usporavanje razvoja umjetne inteligencije.

Glasnogovornik kineskog Ministarstva vanjskih poslova Guo Jiakun poručio je da bi “širenje straha, sukobljavanje i natjecanje” mogli narušiti globalno upravljanje AI-jem. Kineski ministar državne sigurnosti Chen Yixin istodobno je pozvao na ubrzanje izgradnje sustava za kontrolu sigurnosnih rizika, ocijenivši da je AI postao “glavno bojište globalnog tehnološkog natjecanja”.