Istraživač koji je radio na sigurnosti u Anthropicu dao je otkaz i objavio pismo u kojem upozorava da je ‘svijet u opasnosti’. U poruci spominje bioterorizam i širi niz kriza, ali i pritiske zbog kojih se, kako tvrdi, u praksi “gura sa strane ono što je najvažnije”, pišu 24 sata.

Mrinank Sharma

Ključan čovjek velike kompanije odlazi s pozicije i poručuje: ‘Svijet je u opasnosti’

Mrinank Sharma, koji je prema vlastitim navodima vodio tim za safeguards, odnosno zaštitne mehanizme unutar Anthropica, objavio je odlazak iz kompanije uz javno pismo koje se brzo proširilo internetom. U njemu kaže da je u Anthropicu postigao ono što je htio, radio na obrani od rizičnih scenarija, uključujući smanjenje mogućnosti da se AI iskoristi za bioterorizam, ali da je došao do točke u kojoj više ne želi nastavljati istim tempom i pod istim pritiscima.

Najzvučniji dio pisma je rečenica da je ‘svijet u opasnosti’, i to ne samo zbog AI-a, nego zbog “niza međusobno povezanih kriza”. Sharma opisuje osjećaj da se približavamo granici u kojoj naša sposobnost da utječemo na svijet raste brže od naše mudrosti i spremnosti da odgovorno upravljamo tim moćima. Uz AI navodi i biološke rizike, te općenito atmosferu u kojoj se stalno gasi požar za požarom.

Još osjetljiviji dio je njegova tvrdnja o unutarnjim pritiscima. Nije izravno optužio Anthropic za konkretan incident ili “skrivanje” problema, ali kaže da je iznutra često gledao koliko je teško stvarno pustiti da vrijednosti upravljaju odlukama. Po njegovom opisu, organizacije stalno osjećaju pritisak da odgurnu u stranu ono što smatraju najvažnijim, bilo zbog tržišta, rokova, utrke s konkurencijom ili očekivanja investitora.