Kinesko regulatorno tijelo za kibernetiku u subotu je u javnu raspravu uputilo nacrt propisa kojim će se pooštriti nadzor nad uslugama umjetne inteligencije koje oponašaju ljudsku osobnost i ulaze u emocionalnu interakciju s korisnicima.

Košarica valuta

Dolar na putu gubitka u ovoj godini za više od devet posto

Taj potez naglašava pokušaje Pekinga da regulira brzi razvoj umjetne inteligencije usmjerene prema korisnicima pojačavajući sigurnost i pooštravajući etičke uvjete. Predloženi propisi primjenjivali bi se na proizvode i usluge AI-ja koji predstavljaju simulirane crte ljudske osobnosti, obrasce razmišljanja i način komunikacije te ulaze u emocionalnu interakciju s korisnicima putem teksta, slika, audio i video snimaka ili na neki drugi način.

OLAKŠICE ZA GRAĐANE

Velika promjena za osobne iskaznice od 2026.: Jedna skupina građana više ih nikada neće morati mijenjati

Nacrt predviđa pristup koji će od pružatelja usluga tražiti da korisnike upozore na prekomjernu uporabu i interveniraju kada pokažu znakove ovisnosti. Prema nacrtu, pružatelji usluga morali bi poduzimati sigurnosne mjere dok god je proizvod u uporabi i uspostaviti sustave za reviziju algoritma, sigurnost podataka i zaštitu osobnih podataka.

Ivan Šantorić, Tokić grupa, predsjednik Uprave

Dogodine će se više govoriti o infrastrukturi, a domaća potražnja bit će jedan od temelja rasta

Nacrt predviđa i moguće psihološke rizike. Od pružatelja usluga očekivat će se da prepoznaju stanje korisnika i procijene njegove emocije i razinu ovisnosti o usluzi. Otkrije li se da korisnik pokazuje ekstremne emocije ili ovisničko ponašanje, pružatelj usluga morat će poduzeti određene mjere i intervenirati, stoji u nacrtu. Mjere određuju granice sadržaja i ponašanja, propisujući da usluge ne smiju generirati sadržaj koji ugrožava nacionalnu sigurnost, širi glasine ili promiče nasilje i opscenost.