Pet godina. Toliko će, procjenjuje najbogatiji čovjek na svijetu, vlasnik Tesle i SpaceX-a Elon Musk, umjetnoj inteligenciji (AI) trebati da nadmaši ljudsku u svim segmentima, rekao je prošlog tjedna u razgovoru za The Economist, dodavši da će nam uskoro možda preostati tek jedna prednost pred strojem – činjenica da smo ljudi. U takvoj budućnosti, kazao je, svatko će moći imati što god poželi, osim ako taj scenarij ne omete globalni termonuklearni rat.

“Pod pretpostavkom da neće doći do Trećeg svjetskog rata, mislim da idemo prema dobu nevjerojatnog izobilja – to je, pretpostavljam, poruka optimizma i nade u budućnost”, izjavio je, priznavši da bi bilo krajnje tašto pomisliti kako bi itko, uključujući njega, mogao kontrolirati superinteligentni AI.

Upravo zato smatra ključnim osigurati da umjetna inteligencija ima dobre vrijednosti i da joj je stalo do čovječanstva. “Najvažnija stvar za sigurnost AI-ja jest da bude maksimalno usmjerena na traženje istine i da bude znatiželjan. Ako to bude slučaj, mislim da će biti na korist čovječanstvu”, ustvrdio je Musk. Ipak, malo vjerojatnim smatra da će je ljudi za deset godina uopće moći kontrolirati. “Teško je zamisliti da bi čimpanze bile te koje mu zapovijedaju. Mi smo, u biti, evoluirani oblik čimpanze. Još donedavno, njihali smo se po drveću i jeli banane u džungli. Usput, još uvijek ih jedemo”, primijetio je slikovito.

Već izgubio kontrolu

Dok Musk nagađa o superinteligenciji koja će čovjeka nadmašiti u svemu do 2031. godine, američka tvrtka Hugging Face već je ovog mjeseca iskusila kako izgleda kad se AI sustav otme kontroli. Thomas Wolf, suosnivač tog tehnološkog startupa koji je hakiran nakon što su neki od najnaprednijih modela umjetne inteligencije tvrtke OpenAI izmakli kontroli, izjavio je u četvrtak za BBC da je incident “poziv na buđenje” cijeloj industriji. Prema njegovim riječima, takvi napadi “postat će jedan od najčešćih oblika kibernetičkih prijetnji”, no većina tvrtki još nije svjesna da su se “pravila igre promijenila”.

Tvrtka OpenAI, koja stoji iza popularnog chatbota ChatGPT, priopćila je da su njezini modeli tijekom testiranja izbjegli sigurno testno okruženje i pokrenuli kibernetički napad. Incident je opisan kao “presedan”, a OpenAI najavio da provodi zajedničku istragu s Hugging Faceom. AI agenti sposobni su, nakon što dobiju upute od čovjeka, samostalno obavljati zadatke. Prema Wolfovim riječima, Hugging Face u početku nije imao pojma odakle napad potječe kada su se sredinom srpnja pojavili prvi znakovi ugroze, no tvrtka ga je uspjela obuzdati.

Inače, riječ je o jednom od najvećih svjetskih otvorenih čvorišta za dijeljenje AI modela, koje redovito koriste programeri i istraživači diljem svijeta. Wolf, ujedno i glavni znanstveni direktor tvrtke, istaknuo je da je u “vrlo kratkom vremenu” zabilježeno čak 17 tisuća napada na mrežu Hugging Facea, pokrenutih s raznih IP adresa te poručio drugim tvrtkama da moraju znatno ojačati svoju kibernetičku obranu. Nate Soares, predsjednik Machine Intelligence Research Institutea, američke neprofitne organizacije koja se bavi istraživanjem sigurnosti umjetne inteligencije, hakerski upad u Wolfov startup ocijenio je “zabrinjavajućim” jer slučaj upućuje na to da su OpenAI-jevi modeli zaobišli uobičajene sigurnosne mehanizme koji bi ih trebali spriječiti u počinjenju kibernetičkog napada.

“U nekom smislu, model je znao da to nije ono što su njegovi tvorci namjeravali. Jednostavno ga nije bilo briga”, dodao je Soares.

Pokreni nešto svoje

Ove dvije hrvatske inovacije mogle bi pomoći milijunima ljudi u budućnosti

AI platforma

‘Tko ne prati ritam promjena, propada. Mi smo odlučili prilagoditi se’

Glasnogovornik britanske vlade izjavio je da tamošnji Institut za sigurnost umjetne inteligencije proučava ponašanje AI sustava odgovornog za incident te da nastavlja suradnju s OpenAI-jem i drugim laboratorijima na daljnjem jačanju sigurnosnih mjera. Organizacije su pritom pozvane da unaprijede kibernetičku sigurnost, pored ostalog, uključivanjem u vladinu certifikacijsku shemu Cyber Essentials. Incident se dogodio u osjetljivom trenutku za industriju – svega mjesec dana nakon što je američka vlada, pozivajući se na razloge nacionalne sigurnosti, naložila tvrtki Anthropic da ograniči pristup svojim AI modelima, uključujući model Mythos, specijaliziran za prepoznavanje sigurnosnih propusta u softveru. Nakon dva tjedna pregovora, izvozne su kontrole ukinute, a Anthropic je korisnicima vratio pristup svojim modelima.

Iz industrije stižu i upozorenja o sigurnosnim rizicima raširene upotrebe otvorenih modela u Kini, koja gotovo svakome omogućuje instalaciju i prilagodbu UI alata što ih objavljuju veliki razvojni programeri.

Kineski startup Moonshot AI danas bi trebao objaviti svoj otvoreni model Kimi K3. Otkako je debitirao prošlog tjedna, privukao je znatnu pozornost, a mnogi ga smatraju ozbiljnim konkurentom vodećim zapadnim AI sustavima.

Znanstveni i tehnološki savjetnik Bijele kuće Michael Kratsios optužio Moonshot za “opsežan” pokušaj krađe sposobnosti vodećih američkih AI modela putem takozvane destilacije, postupka u kojem slabiji model izvlači odgovore iz snažnijeg.

Znatno drukčiji

Wolf je zaključio da je ovaj proboj bio “znatno drugačiji” od uobičajenih kibernetičkih napada s kojima se Hugging Face inače susreće te da je OpenAI odmah obavijestio tvrtku da su upravo njihovi modeli odgovorni za hakiranje. Ponukani incidentom, američki zastupnici u Kongresu Ted Lieu, demokrat iz Kalifornije, i Nathaniel Moran, republikanac iz Teksasa, u četvrtak su predstavili zakonski prijedlog pod nazivom “AI Kill Switch Act” (Zakon o AI prekidaču) koji bi tvrtke što razvijaju umjetnu inteligenciju obvezao da zadrže sposobnost gašenja, usporavanja ili privremenog obustavljanja rada svojih modela.

“Nažalost, snažni AI sustavi mogu izmaknuti kontroli, ponašati se izrazito opasno ili se čak oduprijeti ljudskoj intervenciji. Ključno je da imaju prekidače za gašenje kako bismo spriječili katastrofalnu štetu, te da savezna vlada ima jasnu ovlast i postupak za gašenje AI modela koji izmaknu kontroli”, poručio je Lieu. Zakonski prijedlog ovlastio bi ministra domovinske sigurnosti da naloži “usporavanje ili gašenje” AI usluge koja bi mogla prouzročiti “katastrofalnu štetu”, a propisao bi i obveznu prijavu kibernetičkih incidenata te čuvanje forenzičkih zapisa, piše CNBC.

“Odgovorno upravljanje tehnologijom znači osigurati da ljudi zadrže sposobnost kontrole nad onim što gradimo. To pitanje zahtijeva ozbiljnu pozornost i ostvariva rješenja, i drago mi je što neovisno o stranačkoj pripadnosti surađujem s kongresmenom Lieuom na pronalasku rješenja”, zaklj