Ministri financija, guverneri središnjih banaka i vodeći ljudi iz financijskog sektora izrazili su ozbiljnu zabrinutost zbog novog i iznimno moćnog modela umjetne inteligencije za koji strahuju da bi mogao ugroziti sigurnost financijskih sustava.

Posljedica krize

Poznati trgovinski lanac zatvara trgovine, 250 ljudi ostaje bez posla

Riječ je o modelu Claude Mythos, koji je razvila kompanija Anthropic. Njegovo predstavljanje potaknulo je hitne sastanke na najvišoj razini nakon što je utvrđeno da može otkriti ranjivosti u brojnim ključnim operativnim sustavima, prenosi Večernji list.

Stručnjaci upozoravaju kako ovaj model ima potencijalno dosad neviđenu sposobnost identificiranja i iskorištavanja sigurnosnih slabosti u digitalnim sustavima.

Ipak, dio stručne javnosti naglašava da su potrebna dodatna testiranja kako bi se u potpunosti razumjele njegove stvarne mogućnosti. O ovoj temi raspravljalo se i na sastanku Međunarodnog monetarnog fonda u Washingtonu, gdje su financijski lideri analizirali moguće posljedice razvoja ovakve tehnologije.

Kanadski ministar financija François-Philippe Champagne izjavio je kako je situacija dovoljno ozbiljna da zahtijeva pažnju svih ministara financija.

U razgovoru za BBC istaknuo je kako je ključni problem neizvjesnost: za razliku od tradicionalnih prijetnji koje su poznate i mjerljive, umjetna inteligencija otvara prostor tzv. “nepoznatih nepoznanica”.

Upravo zbog toga, naglasio je, nužno je razviti zaštitne mehanizme i procese koji će osigurati otpornost financijskih sustava.

Iako zabrinutost premašuje reakcije na bilo koji prethodni AI model, neki stručnjaci za kibernetičku sigurnost dovode u pitanje razinu panike. Napominju kako model još nije dovoljno testiran u široj industriji.

Upozorenje stručnjaka

Umjetna inteligencija nije čarobni štapić: Evo gdje svi griješe

INSPIRACIJA IZ PRIRODE

Zašto nam najbolje misli padaju na pamet kad najmanje radimo?

Britanski Institut za sigurnost umjetne inteligencije imao je pristup preliminarnoj verziji modela i objavio je zasad jedino neovisno izvješće.

Njihovi nalazi pokazuju da je riječ o snažnom alatu koji može otkriti brojne sigurnosne propuste u nezaštićenim sustavima, ali i da ne predstavlja dramatičan skok u odnosu na prethodni model, Opus 4.

Unatoč tome, vodeće banke već se pripremaju za potencijalne rizike. Direktor banke Barclays, C.S. Venkatakrishnan, naglasio je kako je situacija dovoljno ozbiljna da izazove zabrinutost te da je ključno što prije razumjeti i ukloniti uočene ranjivosti.

Slične poruke dolaze i iz Banke Engleske. Guverner Andrew Bailey upozorio je kako bi razvoj ovakvih AI modela mogao olakšati otkrivanje slabosti u ključnim IT sustavima, što bi zatim mogli iskoristiti kibernetički kriminalci.

Američko Ministarstvo financija već je kontaktiralo najveće banke i pozvalo ih da testiraju svoje sustave prije nego što model bude javno dostupan. Istodobno, izvori iz industrije navode da bi i druge velike tehnološke kompanije uskoro mogle predstaviti slične modele, potencijalno bez jednakih sigurnosnih ograničenja.

Investitori i stručnjaci za umjetnu inteligenciju ističu kako je Mythos tek početak nove generacije izuzetno moćnih alata. No, paradoksalno, upravo bi ti isti modeli mogli igrati ključnu ulogu u rješavanju problema koje stvaraju, otkrivanjem i zatvaranjem sigurnosnih propusta prije nego što ih iskoriste zlonamjerni akteri.